Bedrock– tag –
-
BedrockでRerankモデルが使えるようになったのでLangChainに組み込んでみた!
AWS re:Invent 2024にてBedrockがRerankモデルのサポートを開始したと発表がありました。勉強中のLangChainに早速取り込んでみました! Rerankモデルの有効化 Bedrockでモデルを使うには有効化が必要です。 今回新たに使えるようになったのはAmazonのRerank 1.0とCohereのRerank 3.5です。どちらも東京リージョンで利用可能です。 rerank関数を自作 CohereのRerankモデルだとCohereRerankという専用のクラスがLangChainで準備されていますが、Bedrockではリランク用のクラスは用意されていません。そこでboto3を使... -
Bedrockのナレッジベースの削除方法と削除できない場合の対処法
調査のためにいくつかBedrockのナレッジベースを作成しました。Vector Storeに指定したAmazon Open Search Serverlessの費用が高かったので削除しようとしたところ削除に失敗して慌てました。その時の対処法について解説します。 誤った削除の手順 Amazon Open Search Serverlessの費用に気を取られていたのでAmazon Open Search Serverlessから削除してしまいました。その結果、Bedrockのナレッジベースを削除しようとした際に以下のエラーが発生して、ステータスがDelete unsuccessfulになってしまいました。 Un... -
リアルタイムRAG構築メモアプリを作った話
2024年の夏季休暇に学習をかねて1つアプリを作ろうと思い、リアルタイムRAG構築メモアプリを作りました。約1週間で朝活と隙間時間にChatGPTを駆使して学習しながらなんとか形にしました。 リアルタイムRAG構築メモアプリとは? メモや日記は検索性が良くないと感じていました。そこで生成AIを使って検索できるメモアプリがあれば便利だと考えました。「2024年の夏休みは何してた?」のように自然言語で検索するとChatGPTのように要約して回答してくれるアプリです。これを実現するためにはユーザーが入力したデー... -
BedrockのS3ナレッジベースをメタデータでフィルタリングする方法
Bedrockのナレッジベースは1アカウントにつき50個までしか作成できません。ユーザー単位にナレッジベースを作成するような使い方はできません。1つのナレッジベースに複数のユーザーの情報を覚えさせようと思うとユーザー単位に問い合わせを行う必要があります。今回はその方法について解説します。 Bedrockのナレッジベースとは BedrockはAWSから生成AIを呼び出すサービスです。生成AIでLLMが学習していない知識について回答させる場合、RAGを構築する必要があります。ナレッジベースはBedrockで簡単にRAGを構築...
1