Knowledge Oasis

Nemo GuardrailsではMeta Llama Guardを使用したllama guard check input とllama guard check output あ利用できます。これらをこれらをSageMakerのエンドポイントで動かす方法を解説します。 【Nemo Guardrailsの設定】 config.yaml railsの設定は公式のドキュメントの通りです。mainのモデルにはChatGPT 4oを使用しています。 rails: input: flows: - llama guard check input output: flows: - llama guard check output models: - type: main engine: openai model: "gpt-4o" parameters: temperat...

Nemo Guardrailsを学習中です。NVIDIAのサイト（NeMo Guardrails により LLM の脆弱性を防ぐ: 導入編）だとNVIDIA AI Endpointsを使っているのですがNVIDIAのAPIキーを持っていないのでOpenAIで動かしてみました。 【インストール】 nemoguardrailsとlangchain-openaiをインストールします。しかし、2024/11/8時点でそれぞれ最新版をインストールすると以下のエラーが出て動きません。 TypeError: metaclass conflict: the metaclass of a derived class must be a (non-strict) subclass of the metaclasses of a...

2024/11/6時点においてSageMakerのJumpStartで Meta Llama Guard 3 8B を動かそうとしたところ、モデルを定義する際にエラーが発生しました。その時の対処法をご紹介します。 【事象】 SageMakerのJumpStartからMeta Llama Guard 3 8B をStudioノートブックで開き、上から順に実行して以下のコードを実行したところでエラーとなりました。 model = JumpStartModel(model_id=model_id) エラーメッセージは以下の通りです。 KeyError: "Unable to find model manifest for 'meta-textgeneration-llama-guard-3-8b' w...

SageMakerでモデルをデプロイして、エンドポイントをAPIで呼び出したところ、レスポンスに"code":424,"message":"Batch inference failed" が返されました。この事象に対する対応方法を紹介します。 【事象】 SageMakerでモデルをデプロイして、エンドポイントをAPIで呼び出す以下のコードを実行しました。 import boto3 import json client = boto3.client('sagemaker-runtime') endpoint_name = "my-endpoint-name" content_type = "text/plain" accept = "text/plain" p...

ChatGPTでChatGPT 4o with canvasが使えるようになりました！　今まではChatGPTと一緒に文章やコードを書くのは大変でしたが、ChatGPT 4o with canvasの登場で状況は一変しました。ChatGPT 4o with canvasについて解説します。 【ChatGPT 4o with canvasとは】 ChatGPT 4o with Canvasは、OpenAIが提供する新しいモデルです。このモデルは、ユーザーがライティングやコーディングを始めることを検知すると、Canvasを起動するように学習されています。Canvasと呼ばれるエリアを使用して、ライティングやコーディン...

AWSを触り始めて4か月でソリューションアーキテクトアソシエイト(SAA-C03)を取得しました。直前の2週間くらいしか試験勉強をした覚えはありません。私が行ったソリューションアーキテクトアソシエイトの取得方法をご紹介します。認定取得のためだけの学習とならず使える技術が身に付く方法です。 【スケジュール】 振り返ってみると以下のようなスケジュールでAWSを学習していました。  時期 内容4か月前参考書を購入4か月前の1カ月AWS Technical Essentialsを修了3か月前の1カ月Cloud Questのソリュー...

調査のためにいくつかBedrockのナレッジベースを作成しました。Vector Storeに指定したAmazon Open Search Serverlessの費用が高かったので削除しようとしたところ削除に失敗して慌てました。その時の対処法について解説します。 【誤った削除の手順】 Amazon Open Search Serverlessの費用に気を取られていたのでAmazon Open Search Serverlessから削除してしまいました。その結果、Bedrockのナレッジベースを削除しようとした際に以下のエラーが発生して、ステータスがDelete unsuccessfulになってしまいました...

2024年の夏季休暇に学習をかねて1つアプリを作ろうと思い、リアルタイムRAG構築メモアプリを作りました。約1週間で朝活と隙間時間にChatGPTを駆使して学習しながらなんとか形にしました。 【リアルタイムRAG構築メモアプリとは？】 メモや日記は検索性が良くないと感じていました。そこで生成AIを使って検索できるメモアプリがあれば便利だと考えました。「2024年の夏休みは何してた？」のように自然言語で検索するとChatGPTのように要約して回答してくれるアプリです。これを実現するためにはユーザーが入力した...

Lambda関数を作り、API GatewayでRest APIを作成し、動作確認でOKだったのに、ローカル環境で開発中のシングルページアプリケーションから作成したRest APIを動かしたらCORSエラーで動かない。今回はAPI GatewayでCORSに対応する方法を解説します。 【CORSとは】 CORSはCross-Origin Resource Sharingの略です。異なるオリジン間でリソースをシェアする仕組みのことです。同一オリジンセキュリティポリシーは、既定でリソースへのオリジン間のアクセスを禁止しています。それを緩和するのがCORSです。 オリジンと...

OpenAIを使って文字起こしをする方法はAPIとオープンソースバージョンの2つがあります。今回はそれぞれのやり方と違いについて解説します。 【文字起こしとは？】 文字通りですが、音声データを文字にすることです。議事録の作成であったり動画に字幕を付けたりするのに役立ちます。 【APIで文字起こし】 OpenAIのAPIを使って文字起こしをすることができます。OpenAIのAPIを使えるようにするには以下の記事を読んでください。 やり方 以下のようなコードで文字起こしすることができます。 from openai import Open...

私はHugging FaceのTransformersをインストールしようとした際に以下のようなエラーが発生しました。対処方法の記録を残しておきます。同じ問題で困っている人の役に立てれば幸いです。fbgemm.dllで同様のエラーが出ている場合も対応できると思います。参考にしてください。 OSError: [WinError 126] 指定されたモジュールが見つかりません。 Error loading "C:\Users\username\python\openai-env\Lib\site-packages\torch\lib\fbgemm.dll" or one of its dependencies. 【発生したエラー】 Hugging FaceのTransfo...

OpenAIのLambdaレイヤーを作成した際にレイヤーの構造は正しいのに上手く動かないという事象に遭遇しました。ローカルでは上手く動くのにLambdaレイヤーにすると動かないという困った事象について解説します。 2024/8/9に原因と対応方法を修正しました。 【発生したエラー】 OpenAIのLambdaレイヤーを作成してLambda関数を動かしたところ、以下のエラーが発生しました。 Response { "errorMessage": "Unable to import module 'lambda_function': No module named 'pydantic_core._pyd...

PythonでAWSの構成図を描くことができるDiagramsライブラリ。Diagramsをpipでインストールする際に以下のエラーが発生しました。対処方法の記録を残しておきます。同じ問題で困っている人の役に立てれば幸いです。 【発生したエラー】 Diagramsライブラリをpipでインストールする際に以下のエラーが発生しました。 error: Microsoft Visual C++ 14.0 or greater is required. Get it with "Microsoft C++ Build Tools": https://visualstudio.microsoft.com/visual-cpp-build-tools/ 環境 Visual Studioがインスト...

AWS Builders Online Seriesで紹介されていたGenUを構築してみました。生成AIアプリケーションを簡単に構築できます。ChatGPTのTeamプランでは難しい利用状況のモニタリングも簡単に行えたり、IP制限をかけられるので安全に利用することができます。 【GenUとは】 正式名称を『Generative AI Use Cases JP』と言い、通称がGenU。GenUはAWSが提供する生成 AI を安全に業務活用するための、ビジネスユースケース集を備えたアプリケーション実装です。 生成AIを業務に導入するに際していくつかの懸念があります。GenU...

前回の記事ではOpenAIのAPIの始め方と必須のパラメータについてご紹介しました。今回は残りのオプションパラメータを解説したいと思います。オプションパラメータは数が多いので2回に分けて解説していきます。今回はPlaygroundで動作確認ができる7項目について解説します。パラメータを自在に使いこなしてAPIマスターになりましょう！ 【パラメータ一覧】 まずは全パラメータを確認しましょう。なんと19個もあります。今回はマーカーを引いた7個を解説したいと思います。今回解説するパラメータはPlaygroundで試せ...

PHPの浮動小数点数を理解していなかったために、消費税計算の結果が正しくなく本番障害になった話です。障害連絡をもらって調査を開始したさい、電卓叩いてもその結果にならず頭を悩ませました。 【障害内容】 インボイス対応で消費税対象額と消費税額の内訳を請求書に表示する対応を行いました。障害連絡があった請求書の内容は以下の通りでした。税率は10%です。 金額404800消費税対象額368001消費税額36799消費税額が36800ではなく1円不足しています…… 消費税計算の処理を抜粋すると以下のようなコードになりま...

今回はOpenAI APIで関数呼び出し(Function calling)をおこなうためのパラメータtoolsとtool_choiceについて解説します。GPTsのアクションと動きが違うので注意が必要です。 【今回解説するパラメータ】 今回解説するパラメータはマーカーを付けた2つです。２つとも関数呼び出し(Function calling)に関するパラメータです。 model (string, 必須): 使用するモデルのID。 messages (array, 必須): 会話を構成するメッセージのリスト。 temperature (number, オプション): 0から2.0までの範囲。出力のランダム性を制...

AWS Technical Essentialsを進めているなかでS3への接続が上手く行きませんでした。その際に表示されたのがタイトルにあるエラーです。エラー内容と対応方法にギャップがあったので対処法を記録しておきます。 【発生したエラー】 AWS Technical Essentialsで使用するアプリケーションでS3の接続を確認する箇所で上手く動きませんでした。エラーが発生していたコードは以下です。 async function hasS3Access() { try { // console.log('settings::hasS3Access'); if (constants.PHOTOS_BUCKET === '&...

Hugging FaceのTransformersを使ってみようと思いインストールしてみました。インストール時にちょっと手間取ったのでノウハウとして残しておこうと思います。 【Hugging Faceについて】 自然言語処理（NLP）や他の機械学習分野で使用されるオープンソースライブラリとモデルを提供する企業およびコミュニティです。Hugging Faceの主要な機能とコンポーネントについて説明します。 主要コンポーネントと機能 Transformersライブラリ:Hugging Faceの最も有名なライブラリで、BERT、GPT、T5、RoBERTaなどの最先端の...

先日初めてローカル環境にnode.jsをインストールしました。cloudshellやdockerなどだと最初からインストールされているのでローカル環境でnpm が動かないことが衝撃でした。公式のダウンロードページではfnm を使ったインストールが紹介されており、fnm が便利だったのでご紹介します。 【fnmとは】 fnmは複数のnode.jsのバージョンを管理するパッケージマネージャーです。例えばプロジェクトAではnode.jsのv19を使っており、新しく始まるプロジェクトBではnode.jsのv20を使うとします。手動でnode.jsをインストー...