Knowledge Oasis

AIエージェントアプリを構築し、pyinstallerでexe化して配布しようとしたところ、ValueError: Unknown encoding cl100k_base. が発生しました。対処方法を記録しておきます。 エラー内容 LangGraphとLangChainのLLMにOpenAIを用いたアプリケーションをpyinstallerでexe化し実行したところ以下のエラーが発生しました。 Traceback (most recent call last):File "chat.py", line 175, inFile "tiktoken\registry.py", line 79, in get_encodingValueError: Unknown encoding cl100k_base.Plugins found: []tiktoken...

『LangChainとLangGraphによるRAG・AIエージェント［実践］入門』の『7.4 Ragasによる合成テストデータの生成』でハマりました。単純なミスだったのですが、エラーメッセージに惑わされて、解決に時間がかかりました。 発生したエラー 以下のコードを実行した際にエラーが発生しました。testsetを作成する処理は省略しています。 # 合成テストデータの保存 inputs = [] outputs = [] metadatas = [] for testset_record in testset.test_data: inputs.append( { "question": testset_record.question, }...

12日間毎日発表があるのはワクワクしますね！　Day7 に発表されたのが 『Projects in ChatGPT』 です。ChatGPTを使っていて困るのは沢山のチャットを整理できないこと。そんな問題を解決してくれるのがProjects in ChatGPTです。 Projects in ChatGPTとは？ Projects in ChatGPTとは簡単に言ってしまえばチャットのフォルダ管理です。テーマごとにフォルダを作ってそこにチャットをまとめられるのです。ただのフォルダ管理と一線を画すのはファイルをアップロードして簡易RAGが構築できる点とプロジェクト単位にカ...

AWS re:Invent 2024にてBedrockがRerankモデルのサポートを開始したと発表がありました。勉強中のLangChainに早速取り込んでみました！ Rerankモデルの有効化 Bedrockでモデルを使うには有効化が必要です。 今回新たに使えるようになったのはAmazonのRerank 1.0とCohereのRerank 3.5です。どちらも東京リージョンで利用可能です。 rerank関数を自作 CohereのRerankモデルだとCohereRerankという専用のクラスがLangChainで準備されていますが、Bedrockではリランク用のクラスは用意されていません。そこでboto3を使...

Nemo GuardrailsではMeta Llama Guardを使用したllama guard check input とllama guard check output あ利用できます。これらをこれらをSageMakerのエンドポイントで動かす方法を解説します。 Nemo Guardrailsの設定 config.yaml railsの設定は公式のドキュメントの通りです。mainのモデルにはChatGPT 4oを使用しています。 rails: input: flows: - llama guard check input output: flows: - llama guard check output models: - type: main engine: openai model: "gpt-4o" parameters: temperature:...

Nemo Guardrailsを学習中です。NVIDIAのサイト（NeMo Guardrails により LLM の脆弱性を防ぐ: 導入編）だとNVIDIA AI Endpointsを使っているのですがNVIDIAのAPIキーを持っていないのでOpenAIで動かしてみました。 インストール nemoguardrailsとlangchain-openaiをインストールします。しかし、2024/11/8時点でそれぞれ最新版をインストールすると以下のエラーが出て動きません。 TypeError: metaclass conflict: the metaclass of a derived class must be a (non-strict) subclass of the metaclasses of all i...

2024/11/6時点においてSageMakerのJumpStartで Meta Llama Guard 3 8B を動かそうとしたところ、モデルを定義する際にエラーが発生しました。その時の対処法をご紹介します。 事象 SageMakerのJumpStartからMeta Llama Guard 3 8B をStudioノートブックで開き、上から順に実行して以下のコードを実行したところでエラーとなりました。 model = JumpStartModel(model_id=model_id) エラーメッセージは以下の通りです。 KeyError: "Unable to find model manifest for 'meta-textgeneration-llama-guard-3-8b' with ...

SageMakerでモデルをデプロイして、エンドポイントをAPIで呼び出したところ、レスポンスに"code":424,"message":"Batch inference failed" が返されました。この事象に対する対応方法を紹介します。 事象 SageMakerでモデルをデプロイして、エンドポイントをAPIで呼び出す以下のコードを実行しました。 import boto3 import json client = boto3.client('sagemaker-runtime') endpoint_name = "my-endpoint-name" content_type = "text/plain" accept = "text/plain" paylo...

ChatGPTでChatGPT 4o with canvasが使えるようになりました！　今まではChatGPTと一緒に文章やコードを書くのは大変でしたが、ChatGPT 4o with canvasの登場で状況は一変しました。ChatGPT 4o with canvasについて解説します。 ChatGPT 4o with canvasとは ChatGPT 4o with Canvasは、OpenAIが提供する新しいモデルです。このモデルは、ユーザーがライティングやコーディングを始めることを検知すると、Canvasを起動するように学習されています。Canvasと呼ばれるエリアを使用して、ライティングやコーディングの...

AWSを触り始めて4か月でソリューションアーキテクトアソシエイト(SAA-C03)を取得しました。直前の2週間くらいしか試験勉強をした覚えはありません。私が行ったソリューションアーキテクトアソシエイトの取得方法をご紹介します。認定取得のためだけの学習とならず使える技術が身に付く方法です。 スケジュール 振り返ってみると以下のようなスケジュールでAWSを学習していました。  時期 内容4か月前参考書を購入4か月前の1カ月AWS Technical Essentialsを修了3か月前の1カ月Cloud Questのソリューショ...

私はHugging FaceのTransformersをインストールしようとした際に以下のようなエラーが発生しました。対処方法の記録を残しておきます。同じ問題で困っている人の役に立てれば幸いです。fbgemm.dllで同様のエラーが出ている場合も対応できると思います。参考にしてください。 OSError: [WinError 126] 指定されたモジュールが見つかりません。 Error loading "C:\Users\username\python\openai-env\Lib\site-packages\torch\lib\fbgemm.dll" or one of its dependencies. 発生したエラー Hugging FaceのTransformer...

OpenAIのLambdaレイヤーを作成した際にレイヤーの構造は正しいのに上手く動かないという事象に遭遇しました。ローカルでは上手く動くのにLambdaレイヤーにすると動かないという困った事象について解説します。 2024/8/9に原因と対応方法を修正しました。 発生したエラー OpenAIのLambdaレイヤーを作成してLambda関数を動かしたところ、以下のエラーが発生しました。 Response { "errorMessage": "Unable to import module 'lambda_function': No module named 'pydantic_core._pydanti...

AWS Builders Online Seriesで紹介されていたGenUを構築してみました。生成AIアプリケーションを簡単に構築できます。ChatGPTのTeamプランでは難しい利用状況のモニタリングも簡単に行えたり、IP制限をかけられるので安全に利用することができます。 GenUとは 正式名称を『Generative AI Use Cases JP』と言い、通称がGenU。GenUはAWSが提供する生成 AI を安全に業務活用するための、ビジネスユースケース集を備えたアプリケーション実装です。 生成AIを業務に導入するに際していくつかの懸念があります。GenUはそ...

先日初めてローカル環境にnode.jsをインストールしました。cloudshellやdockerなどだと最初からインストールされているのでローカル環境でnpm が動かないことが衝撃でした。公式のダウンロードページではfnm を使ったインストールが紹介されており、fnm が便利だったのでご紹介します。 fnmとは fnmは複数のnode.jsのバージョンを管理するパッケージマネージャーです。例えばプロジェクトAではnode.jsのv19を使っており、新しく始まるプロジェクトBではnode.jsのv20を使うとします。手動でnode.jsをインストールし...

前回の記事ではOpenAIのAPIの始め方と必須のパラメータについてご紹介しました。今回は残りのオプションパラメータを解説したいと思います。オプションパラメータは数が多いので2回に分けて解説していきます。今回はPlaygroundで動作確認ができる7項目について解説します。パラメータを自在に使いこなしてAPIマスターになりましょう！ パラメータ一覧 まずは全パラメータを確認しましょう。なんと19個もあります。今回はマーカーを引いた7個を解説したいと思います。今回解説するパラメータはPlaygroundで試せる物...

PythonでAWSの構成図を描くことができるDiagramsライブラリ。Diagramsをpipでインストールする際に以下のエラーが発生しました。対処方法の記録を残しておきます。同じ問題で困っている人の役に立てれば幸いです。 発生したエラー Diagramsライブラリをpipでインストールする際に以下のエラーが発生しました。 error: Microsoft Visual C++ 14.0 or greater is required. Get it with "Microsoft C++ Build Tools": https://visualstudio.microsoft.com/visual-cpp-build-tools/ 環境 Visual Studioがインストール...

PHPの浮動小数点数を理解していなかったために、消費税計算の結果が正しくなく本番障害になった話です。障害連絡をもらって調査を開始したさい、電卓叩いてもその結果にならず頭を悩ませました。 障害内容 インボイス対応で消費税対象額と消費税額の内訳を請求書に表示する対応を行いました。障害連絡があった請求書の内容は以下の通りでした。税率は10%です。 金額404800消費税対象額368001消費税額36799消費税額が36800ではなく1円不足しています…… 消費税計算の処理を抜粋すると以下のようなコードになります。...

今回はOpenAI APIで関数呼び出し(Function calling)をおこなうためのパラメータtoolsとtool_choiceについて解説します。GPTsのアクションと動きが違うので注意が必要です。 今回解説するパラメータ 今回解説するパラメータはマーカーを付けた2つです。２つとも関数呼び出し(Function calling)に関するパラメータです。 model (string, 必須): 使用するモデルのID。 messages (array, 必須): 会話を構成するメッセージのリスト。 temperature (number, オプション): 0から2.0までの範囲。出力のランダム性を制御。 ...

AWS Technical Essentialsを進めているなかでS3への接続が上手く行きませんでした。その際に表示されたのがタイトルにあるエラーです。エラー内容と対応方法にギャップがあったので対処法を記録しておきます。 発生したエラー AWS Technical Essentialsで使用するアプリケーションでS3の接続を確認する箇所で上手く動きませんでした。エラーが発生していたコードは以下です。 async function hasS3Access() { try { // console.log('settings::hasS3Access'); if (constants.PHOTOS_BUCKET === ''...

BedrockのナレッジベースをS3データソースで作成した際に同期に失敗しました。ある思い込みのために解決に時間がかかってしまいました。その時の対処方法を教訓とともに解説します。 発生したエラー データソースに指定したS3にファイルを追加してデータソースの同期を行った際に以下のエラーが発生しました。 Encountered error: Access Denied (Service: S3, Status Code: 403, Request ID: hoge, Extended Request ID: foobar). Issue occurred while processing file: s3://my-bucket/user01/test.txt. Call t...