Unable to find model manifest for ‘some-model’ with version ‘*’ compatible with your SageMaker version (‘2.224.1’).の対処法

2024/11/6時点においてSageMakerのJumpStartで Meta Llama Guard 3 8B を動かそうとしたところ、モデルを定義する際にエラーが発生しました。その時の対処法をご紹介します。

事象

SageMakerのJumpStartからMeta Llama Guard 3 8B をStudioノートブックで開き、上から順に実行して以下のコードを実行したところでエラーとなりました。

model = JumpStartModel(model_id=model_id)

エラーメッセージは以下の通りです。

KeyError: "Unable to find model manifest for 'meta-textgeneration-llama-guard-3-8b' with version '*' compatible with your SageMaker version ('2.224.1'). Consider upgrading your SageMaker library to at least version '2.225.0' so you can use version '1.0.3' of 'meta-textgeneration-llama-guard-3-8b'."

原因

SageMakerのライブラリのバージョンが合っていない事が原因のようです。

ノートブックに以下を追加して実行したところ、確かにSageMakerのバージョンは2.224.1でした。バージョンを2.225.0に上げる必要があります。

pip show sagemaker | grep Version

対応方法

ノートブックに以下の2行を追加して実行します。awscliのバージョンを上げる際にエラーになりますがsagemakerのバージョンを上げることでbotocoreのバージョンが上がり整合性が取れます。

pip install --upgrade awscli

pip install --upgrade sagemaker

インストールが成功したらカーネルをリスタートすることでモデルをデプロイできるようになります。リスタートしないとエラーが解消しないので注意して下さい。

まとめ

SageMakerのJumpStartはそのまま動くものと思って動かしたら環境周りで動きませんでした。JumpStartの設定を信頼し過ぎず、動かない場合は環境を整えてあげる必要があります。ライブラリのバージョンを上げた後にカーネルのリスタートするのがポイントです。