Knowledge Oasis

2024年の夏季休暇に学習をかねて1つアプリを作ろうと思い、リアルタイムRAG構築メモアプリを作りました。約1週間で朝活と隙間時間にChatGPTを駆使して学習しながらなんとか形にしました。 【リアルタイムRAG構築メモアプリとは？】 メモや日記は検索性が良くないと感じていました。そこで生成AIを使って検索できるメモアプリがあれば便利だと考えました。「2024年の夏休みは何してた？」のように自然言語で検索するとChatGPTのように要約して回答してくれるアプリです。これを実現するためにはユーザーが入力した...

Lambda関数を作り、API GatewayでRest APIを作成し、動作確認でOKだったのに、ローカル環境で開発中のシングルページアプリケーションから作成したRest APIを動かしたらCORSエラーで動かない。今回はAPI GatewayでCORSに対応する方法を解説します。 【CORSとは】 CORSはCross-Origin Resource Sharingの略です。異なるオリジン間でリソースをシェアする仕組みのことです。同一オリジンセキュリティポリシーは、既定でリソースへのオリジン間のアクセスを禁止しています。それを緩和するのがCORSです。 オリジンと...

OpenAIを使って文字起こしをする方法はAPIとオープンソースバージョンの2つがあります。今回はそれぞれのやり方と違いについて解説します。 【文字起こしとは？】 文字通りですが、音声データを文字にすることです。議事録の作成であったり動画に字幕を付けたりするのに役立ちます。 【APIで文字起こし】 OpenAIのAPIを使って文字起こしをすることができます。OpenAIのAPIを使えるようにするには以下の記事を読んでください。 やり方 以下のようなコードで文字起こしすることができます。 from openai import Open...

Bedrockのナレッジベースは1アカウントにつき50個までしか作成できません。ユーザー単位にナレッジベースを作成するような使い方はできません。1つのナレッジベースに複数のユーザーの情報を覚えさせようと思うとユーザー単位に問い合わせを行う必要があります。今回はその方法について解説します。 【Bedrockのナレッジベースとは】 BedrockはAWSから生成AIを呼び出すサービスです。生成AIでLLMが学習していない知識について回答させる場合、RAGを構築する必要があります。ナレッジベースはBedrockで簡単にRAGを...

先日初めてローカル環境にnode.jsをインストールしました。cloudshellやdockerなどだと最初からインストールされているのでローカル環境でnpm が動かないことが衝撃でした。公式のダウンロードページではfnm を使ったインストールが紹介されており、fnm が便利だったのでご紹介します。 【fnmとは】 fnmは複数のnode.jsのバージョンを管理するパッケージマネージャーです。例えばプロジェクトAではnode.jsのv19を使っており、新しく始まるプロジェクトBではnode.jsのv20を使うとします。手動でnode.jsをインストー...

Amazon Bedrockのナレッジベースをメタデータでフィルターしようとした際にエラーが発生しました。その際にエラーメッセージで調査したのですが、全く関係ない対応方法に惑わされてしまいました。その経験をご紹介します。 【発生したエラー】 Lambda関数からAWSのPython SDKを使用してAmazon Bedrockのナレッジベースをメタデータでフィルターしようと以下のコードを実行したらエラーが発生しました。 # RAG実行 response = client.retrieve_and_generate( input={"text": conversation}, retrieveAndG...

BedrockのナレッジベースをS3データソースで作成した際に同期に失敗しました。ある思い込みのために解決に時間がかかってしまいました。その時の対処方法を教訓とともに解説します。 【発生したエラー】 データソースに指定したS3にファイルを追加してデータソースの同期を行った際に以下のエラーが発生しました。 Encountered error: Access Denied (Service: S3, Status Code: 403, Request ID: hoge, Extended Request ID: foobar). Issue occurred while processing file: s3://my-bucket/user01/test.txt. Ca...

OpenAIのLambdaレイヤーを作成した際にレイヤーの構造は正しいのに上手く動かないという事象に遭遇しました。ローカルでは上手く動くのにLambdaレイヤーにすると動かないという困った事象について解説します。 2024/8/9に原因と対応方法を修正しました。 【発生したエラー】 OpenAIのLambdaレイヤーを作成してLambda関数を動かしたところ、以下のエラーが発生しました。 Response { "errorMessage": "Unable to import module 'lambda_function': No module named 'pydantic_core._pyd...

LambdaでOpenAIのAPIを呼び出しました。しかし、何も設定していなかったため、以下のエラーが発生しました。Lambdaで外部ライブラリを使用できるように設定していなかったので当然ですよね。今回はLambdaで外部ライブラリを使用できるようにする設定について解説します。 Response { "errorMessage": "Unable to import module 'lambda_function': No module named 'openai'", "errorType": "Runtime.ImportModuleError", "requestId": "...

GenUを削除する際、手順に書かれたコマンドを実行した際に以下のエラーが発生しました。手順通りにやって削除できなくて困ったので情報を共有しておきます。 Since this app includes more than a single stack, specify which stacks to use (wildcards are supported) or specify --allStacks: GenerativeAiUseCasesStack · GenerativeAiUseCasesDashboardStacknpm error Lifecycle script cdk failed with error:npm error code 1npm error path /home/ec2-user/environment/projects/generative-ai-use-cases-...

私はHugging FaceのTransformersをインストールしようとした際に以下のようなエラーが発生しました。対処方法の記録を残しておきます。同じ問題で困っている人の役に立てれば幸いです。fbgemm.dllで同様のエラーが出ている場合も対応できると思います。参考にしてください。 OSError: [WinError 126] 指定されたモジュールが見つかりません。 Error loading "C:\Users\username\python\openai-env\Lib\site-packages\torch\lib\fbgemm.dll" or one of its dependencies. 【発生したエラー】 Hugging FaceのTransfo...

OpenAIのLambdaレイヤーを作成した際にレイヤーの構造は正しいのに上手く動かないという事象に遭遇しました。ローカルでは上手く動くのにLambdaレイヤーにすると動かないという困った事象について解説します。 2024/8/9に原因と対応方法を修正しました。 【発生したエラー】 OpenAIのLambdaレイヤーを作成してLambda関数を動かしたところ、以下のエラーが発生しました。 Response { "errorMessage": "Unable to import module 'lambda_function': No module named 'pydantic_core._pyd...

AWS Builders Online Seriesで紹介されていたGenUを構築してみました。生成AIアプリケーションを簡単に構築できます。ChatGPTのTeamプランでは難しい利用状況のモニタリングも簡単に行えたり、IP制限をかけられるので安全に利用することができます。 【GenUとは】 正式名称を『Generative AI Use Cases JP』と言い、通称がGenU。GenUはAWSが提供する生成 AI を安全に業務活用するための、ビジネスユースケース集を備えたアプリケーション実装です。 生成AIを業務に導入するに際していくつかの懸念があります。GenU...

PythonでAWSの構成図を描くことができるDiagramsライブラリ。Diagramsをpipでインストールする際に以下のエラーが発生しました。対処方法の記録を残しておきます。同じ問題で困っている人の役に立てれば幸いです。 【発生したエラー】 Diagramsライブラリをpipでインストールする際に以下のエラーが発生しました。 error: Microsoft Visual C++ 14.0 or greater is required. Get it with "Microsoft C++ Build Tools": https://visualstudio.microsoft.com/visual-cpp-build-tools/ 環境 Visual Studioがインスト...

前回の記事ではOpenAIのAPIの始め方と必須のパラメータについてご紹介しました。今回は残りのオプションパラメータを解説したいと思います。オプションパラメータは数が多いので2回に分けて解説していきます。今回はPlaygroundで動作確認ができる7項目について解説します。パラメータを自在に使いこなしてAPIマスターになりましょう！ 【パラメータ一覧】 まずは全パラメータを確認しましょう。なんと19個もあります。今回はマーカーを引いた7個を解説したいと思います。今回解説するパラメータはPlaygroundで試せ...

PHPの浮動小数点数を理解していなかったために、消費税計算の結果が正しくなく本番障害になった話です。障害連絡をもらって調査を開始したさい、電卓叩いてもその結果にならず頭を悩ませました。 【障害内容】 インボイス対応で消費税対象額と消費税額の内訳を請求書に表示する対応を行いました。障害連絡があった請求書の内容は以下の通りでした。税率は10%です。 金額404800消費税対象額368001消費税額36799消費税額が36800ではなく1円不足しています…… 消費税計算の処理を抜粋すると以下のようなコードになりま...

今回はOpenAI APIで関数呼び出し(Function calling)をおこなうためのパラメータtoolsとtool_choiceについて解説します。GPTsのアクションと動きが違うので注意が必要です。 【今回解説するパラメータ】 今回解説するパラメータはマーカーを付けた2つです。２つとも関数呼び出し(Function calling)に関するパラメータです。 model (string, 必須): 使用するモデルのID。 messages (array, 必須): 会話を構成するメッセージのリスト。 temperature (number, オプション): 0から2.0までの範囲。出力のランダム性を制...

AWS Technical Essentialsを進めているなかでS3への接続が上手く行きませんでした。その際に表示されたのがタイトルにあるエラーです。エラー内容と対応方法にギャップがあったので対処法を記録しておきます。 【発生したエラー】 AWS Technical Essentialsで使用するアプリケーションでS3の接続を確認する箇所で上手く動きませんでした。エラーが発生していたコードは以下です。 async function hasS3Access() { try { // console.log('settings::hasS3Access'); if (constants.PHOTOS_BUCKET === '&...

先日初めてローカル環境にnode.jsをインストールしました。cloudshellやdockerなどだと最初からインストールされているのでローカル環境でnpm が動かないことが衝撃でした。公式のダウンロードページではfnm を使ったインストールが紹介されており、fnm が便利だったのでご紹介します。 【fnmとは】 fnmは複数のnode.jsのバージョンを管理するパッケージマネージャーです。例えばプロジェクトAではnode.jsのv19を使っており、新しく始まるプロジェクトBではnode.jsのv20を使うとします。手動でnode.jsをインストー...

BedrockのナレッジベースをS3データソースで作成した際に同期に失敗しました。ある思い込みのために解決に時間がかかってしまいました。その時の対処方法を教訓とともに解説します。 【発生したエラー】 データソースに指定したS3にファイルを追加してデータソースの同期を行った際に以下のエラーが発生しました。 Encountered error: Access Denied (Service: S3, Status Code: 403, Request ID: hoge, Extended Request ID: foobar). Issue occurred while processing file: s3://my-bucket/user01/test.txt. Ca...