MENU

Knowledge Oasis

知識は武器だ！

#AWS開発日記– tag –

SageMakerでデプロイしたMeta Llama GuardでNemo Guardrailsを動かしてみた

AI

Nemo GuardrailsではMeta Llama Guardを使用したllama guard check input とllama guard check output あ利用できます。これらをこれらをSageMakerのエンドポイントで動かす方法を解説します。【Nemo Guardrailsの設定】 config.yaml railsの設定は公式のドキュメントの通りです。mainのモデルにはChatGPT 4oを使用しています。 rails: input: flows: - llama guard check input output: flows: - llama guard check output models: - type: main engine: openai model: "gpt-4o" parameters: temperat...
Bedrockのナレッジベースの削除方法と削除できない場合の対処法

Fix

調査のためにいくつかBedrockのナレッジベースを作成しました。Vector Storeに指定したAmazon Open Search Serverlessの費用が高かったので削除しようとしたところ削除に失敗して慌てました。その時の対処法について解説します。【誤った削除の手順】 Amazon Open Search Serverlessの費用に気を取られていたのでAmazon Open Search Serverlessから削除してしまいました。その結果、Bedrockのナレッジベースを削除しようとした際に以下のエラーが発生して、ステータスがDelete unsuccessfulになってしまいました...
リアルタイムRAG構築メモアプリを作った話

AWS

2024年の夏季休暇に学習をかねて1つアプリを作ろうと思い、リアルタイムRAG構築メモアプリを作りました。約1週間で朝活と隙間時間にChatGPTを駆使して学習しながらなんとか形にしました。【リアルタイムRAG構築メモアプリとは？】メモや日記は検索性が良くないと感じていました。そこで生成AIを使って検索できるメモアプリがあれば便利だと考えました。「2024年の夏休みは何してた？」のように自然言語で検索するとChatGPTのように要約して回答してくれるアプリです。これを実現するためにはユーザーが入力した...
そもそもCORSとは？　API GatewayでCORSに対応する方法を徹底解説！

AWS

Lambda関数を作り、API GatewayでRest APIを作成し、動作確認でOKだったのに、ローカル環境で開発中のシングルページアプリケーションから作成したRest APIを動かしたらCORSエラーで動かない。今回はAPI GatewayでCORSに対応する方法を解説します。【CORSとは】 CORSはCross-Origin Resource Sharingの略です。異なるオリジン間でリソースをシェアする仕組みのことです。同一オリジンセキュリティポリシーは、既定でリソースへのオリジン間のアクセスを禁止しています。それを緩和するのがCORSです。オリジンと...
BedrockのS3ナレッジベースをメタデータでフィルタリングする方法

AWS

Bedrockのナレッジベースは1アカウントにつき50個までしか作成できません。ユーザー単位にナレッジベースを作成するような使い方はできません。1つのナレッジベースに複数のユーザーの情報を覚えさせようと思うとユーザー単位に問い合わせを行う必要があります。今回はその方法について解説します。【Bedrockのナレッジベースとは】 BedrockはAWSから生成AIを呼び出すサービスです。生成AIでLLMが学習していない知識について回答させる場合、RAGを構築する必要があります。ナレッジベースはBedrockで簡単にRAGを...
Since this app includes more than a single stack, specify which stacks to use (wildcards are supported) or specify –all の対処法

Fix

GenUを削除する際、手順に書かれたコマンドを実行した際に以下のエラーが発生しました。手順通りにやって削除できなくて困ったので情報を共有しておきます。 Since this app includes more than a single stack, specify which stacks to use (wildcards are supported) or specify --allStacks: GenerativeAiUseCasesStack · GenerativeAiUseCasesDashboardStacknpm error Lifecycle script cdk failed with error:npm error code 1npm error path /home/ec2-user/environment/projects/generative-ai-use-cases-...
生成AIアプリケーションの扉を開く、GenU構築法

AWS

AWS Builders Online Seriesで紹介されていたGenUを構築してみました。生成AIアプリケーションを簡単に構築できます。ChatGPTのTeamプランでは難しい利用状況のモニタリングも簡単に行えたり、IP制限をかけられるので安全に利用することができます。【GenUとは】正式名称を『Generative AI Use Cases JP』と言い、通称がGenU。GenUはAWSが提供する生成 AI を安全に業務活用するための、ビジネスユースケース集を備えたアプリケーション実装です。生成AIを業務に導入するに際していくつかの懸念があります。GenU...
Cloud9で簡単に始めるAWS開発環境の構築ガイド

AWS

AWS Builders Online Seriesに参加した際に紹介されていたGenUを構築してみました。構築はCloud9で行いました。今回はCloud9の構築について解説します。【Cloud9とは】 AWS Cloud9はクラウドベースの統合開発環境（IDE）です。開発者がブラウザを介してアプリケーションの作成、実行、デバッグを行うためのツールや機能を提供します。特徴多言語サポート JavaScript、Python、PHP、Ruby、Goなど、さまざまなプログラミング言語をサポートしています。コードエディタとデバッガ高機能なコードエディタ（シンタ...

1