-
tiktokenをpyinstallerでexe化する際に発生する「ValueError: Unknown encoding cl100k_base.」の対処法
AIエージェントアプリを構築し、pyinstallerでexe化して配布しようとしたところ、ValueError: Unknown encoding cl100k_base. が発生しました。対処方法を記録しておきます。 エラー内容 LangGraphとLangChainのLLMにOpenAIを用いたアプリケーションをpyinstallerでexe化し実行したところ以下のエラーが発生しました。 Traceback (most recent call last):File "chat.py", line 175, inFile "tiktoken\registry.py", line 79, in get_encodingValueError: Unknown encoding cl100k_base.Plugins found: []tiktoken... -
langsmith.utils.LangSmithError: Failed to POST /examples in LangSmith API. HTTPError(‘422 Client Error: unknown for url: https://api.smith.langchain.com/examples’の対処法
『LangChainとLangGraphによるRAG・AIエージェント[実践]入門』の『7.4 Ragasによる合成テストデータの生成』でハマりました。単純なミスだったのですが、エラーメッセージに惑わされて、解決に時間がかかりました。 発生したエラー 以下のコードを実行した際にエラーが発生しました。testsetを作成する処理は省略しています。 # 合成テストデータの保存 inputs = [] outputs = [] metadatas = [] for testset_record in testset.test_data: inputs.append( { "question": testset_record.question, }... -
12 Days of OpenAI の Day7 『Projects in ChatGPT』 を調べてみた!
12日間毎日発表があるのはワクワクしますね! Day7 に発表されたのが 『Projects in ChatGPT』 です。ChatGPTを使っていて困るのは沢山のチャットを整理できないこと。そんな問題を解決してくれるのがProjects in ChatGPTです。 Projects in ChatGPTとは? Projects in ChatGPTとは簡単に言ってしまえばチャットのフォルダ管理です。テーマごとにフォルダを作ってそこにチャットをまとめられるのです。ただのフォルダ管理と一線を画すのはファイルをアップロードして簡易RAGが構築できる点とプロジェクト単位にカ... -
BedrockでRerankモデルが使えるようになったのでLangChainに組み込んでみた!
AWS re:Invent 2024にてBedrockがRerankモデルのサポートを開始したと発表がありました。勉強中のLangChainに早速取り込んでみました! Rerankモデルの有効化 Bedrockでモデルを使うには有効化が必要です。 今回新たに使えるようになったのはAmazonのRerank 1.0とCohereのRerank 3.5です。どちらも東京リージョンで利用可能です。 rerank関数を自作 CohereのRerankモデルだとCohereRerankという専用のクラスがLangChainで準備されていますが、Bedrockではリランク用のクラスは用意されていません。そこでboto3を使... -
SageMakerでデプロイしたMeta Llama GuardでNemo Guardrailsを動かしてみた
Nemo GuardrailsではMeta Llama Guardを使用したllama guard check input とllama guard check output あ利用できます。これらをこれらをSageMakerのエンドポイントで動かす方法を解説します。 Nemo Guardrailsの設定 config.yaml railsの設定は公式のドキュメントの通りです。mainのモデルにはChatGPT 4oを使用しています。 rails: input: flows: - llama guard check input output: flows: - llama guard check output models: - type: main engine: openai model: "gpt-4o" parameters: temperature:... -
Nemo GuardrailsのHelloWorldをOpenAIで動かしてみた
Nemo Guardrailsを学習中です。NVIDIAのサイト(NeMo Guardrails により LLM の脆弱性を防ぐ: 導入編)だとNVIDIA AI Endpointsを使っているのですがNVIDIAのAPIキーを持っていないのでOpenAIで動かしてみました。 インストール nemoguardrailsとlangchain-openaiをインストールします。しかし、2024/11/8時点でそれぞれ最新版をインストールすると以下のエラーが出て動きません。 TypeError: metaclass conflict: the metaclass of a derived class must be a (non-strict) subclass of the metaclasses of all i... -
Unable to find model manifest for ‘some-model’ with version ‘*’ compatible with your SageMaker version (‘2.224.1’).の対処法
2024/11/6時点においてSageMakerのJumpStartで Meta Llama Guard 3 8B を動かそうとしたところ、モデルを定義する際にエラーが発生しました。その時の対処法をご紹介します。 事象 SageMakerのJumpStartからMeta Llama Guard 3 8B をStudioノートブックで開き、上から順に実行して以下のコードを実行したところでエラーとなりました。 model = JumpStartModel(model_id=model_id) エラーメッセージは以下の通りです。 KeyError: "Unable to find model manifest for 'meta-textgeneration-llama-guard-3-8b' with ... -
“code”:424,”message”:”Batch inference failed”の対処法
SageMakerでモデルをデプロイして、エンドポイントをAPIで呼び出したところ、レスポンスに"code":424,"message":"Batch inference failed" が返されました。この事象に対する対応方法を紹介します。 事象 SageMakerでモデルをデプロイして、エンドポイントをAPIで呼び出す以下のコードを実行しました。 import boto3 import json client = boto3.client('sagemaker-runtime') endpoint_name = "my-endpoint-name" content_type = "text/plain" accept = "text/plain" paylo... -
ChatGPT 4o with canvasの基本のキ! 基本を押さえて快適ライティング&コーディング!
ChatGPTでChatGPT 4o with canvasが使えるようになりました! 今まではChatGPTと一緒に文章やコードを書くのは大変でしたが、ChatGPT 4o with canvasの登場で状況は一変しました。ChatGPT 4o with canvasについて解説します。 ChatGPT 4o with canvasとは ChatGPT 4o with Canvasは、OpenAIが提供する新しいモデルです。このモデルは、ユーザーがライティングやコーディングを始めることを検知すると、Canvasを起動するように学習されています。Canvasと呼ばれるエリアを使用して、ライティングやコーディングの... -
知識が身に付くソリューションアーキテクトアソシエイト(SAA)取得方法
AWSを触り始めて4か月でソリューションアーキテクトアソシエイト(SAA-C03)を取得しました。直前の2週間くらいしか試験勉強をした覚えはありません。私が行ったソリューションアーキテクトアソシエイトの取得方法をご紹介します。認定取得のためだけの学習とならず使える技術が身に付く方法です。 スケジュール 振り返ってみると以下のようなスケジュールでAWSを学習していました。 時期 内容4か月前参考書を購入4か月前の1カ月AWS Technical Essentialsを修了3か月前の1カ月Cloud Questのソリューショ...