本記事は虎の穴ラボ Advent Calendar 2023 1日目の記事です。
次回は大場さんの「『Webアプリケーションアクセシビリティ』について紹介」です。ご期待ください！

こんにちは、A.M.です。
今年もアドベントカレンダーの季節がやってきました。
アドベントカレンダー企画では、虎の穴ラボのメンバーが、それぞれの得意分野をテーマに毎日記事を投稿していきますので、ぜひご覧ください。

本日1日目の記事では、先日参加した「Amazon Bedrock Prototyping Camp 2023」についてレポートしたいと思います。
虎の穴ラボでは、既にOpenAI APIを使用した社内向けのサービスをリリースしていますが、Bedrockを使って同じようなサービスが作れないか、または新しいサービスのアイデアが出せればと思い参加してきました。

Amazon Bedrock Prototyping Camp について

AWSが開催している、Amazon Bedrockを使ってプロトタイプを作成する招待制ワークショップです。今回は11月14日に開催されたワークショップに参加しました。
サポートを受けながら Amazon Bedrock を使って実装に取り組むことができるので、思ったように動かないという場合もすぐ相談ができてよかったです。

内容について

当日の流れとしては、以下のような感じでした。（当日の資料より引用）

Amazon Bedrockについて

Amazon Bedrockは、生成AIのフルマネージド型サービスで、APIを通じて主要な基盤モデルを利用できるようになっています。サポートしている主要な基盤モデルは以下の通りです。

テキスト生成だけでなく、画像生成のモデルにも対応しているのは嬉しいですね。

ただ、まだリリースされたばかりのサービスなのもあり、東京リージョンでは使えるモデルがまだ少ない（2023年12月1日時点で3つ）ように感じます。

個人的にはOpenAIのモデル（GPT-4など）も使えるようになると、モデルの性能比較とかしやすくていいなと思います。

また、顧客のデータが学習に使用されないようになっているので、セキュリティ面でも安心ですね。

Claudeについて

アメリカのAIスタートアップ企業であるAnthropic（アンソロピック）社がリリースした生成AIです。
ちょうど先日11月22日に、最新版であるClaude 2.1 がリリースされ、話題になっていますね。
Amazon Bedrockでも11月29日にClaude2.1が利用可能になったようです。
ただし、バージニア北部リージョン(us-east-1)とオレゴン(us-west-2)リージョンのみなので、東京リージョンで使えるようになるのは少し時間がかかりそうです。

Claudeのプロンプトは、HumanとAssistantの対話形式で入力するという特徴があり、面白かったです。

扱えるトークン数が多いのも魅力的ですね。

Amazon Kendraについて

Amazon Kendraは、機械学習を活用した検索サービスです。
コネクタの種類が豊富なので、様々なデータソースを検索対象にすることができます。
S3だけでなく、DropboxやGoogle Driveなどの外部ストレージサービスや、Gmail、Slackなどのコラボレーションツールのデータ、ウェブクローラーで既存のウェブサービスのデータも検索対象にできるようです。

aws.amazon.com

Kendraを使用することで、自前でファイルのアップロード機能や、検索機能を実装する必要がなくなるのは良いですね。
また、今回のプロトタイピングで触っていますが、Kendraで入力したデータをBedrockの生成AIに投げて回答を生成することもできるので、RAGアプリケーションが簡単に作れます。

※RAGとは、Retrieval Augmented Generationの略で、外部の知識ベースから検索した結果を元に生成AIに回答させることで、回答の質を向上させる手法です。

プロトタイピングで作ったもの

今回は、AWS公式の「Amazon Kendraを利用したRAGハンズオン」を元に、S3に保存したCSVファイルをデータソースとするように変更して、RAGアプリケーションを作成しました。

AIの回答の部分が、Bedrock経由で生成された回答です。その下の「よくある質問」の部分はKendraの検索結果です。 Kendraの検索結果をAIに投げて回答を生成しているので、「AIの回答」が表示されるまでは少し時間がかかります。

ちなみに、データソースとして使ったCSVファイルは、ChatGPTで出力した以下のようなダミーデータを使用しました。

作ってみた感想

ほぼ実装なし（サンプルコードそのまま）で、簡単にRAGアプリケーションが作れました。
インフラコストの問題はありますが、数時間ですぐに使えそうなRAGアプリケーションが作れるのはとても良いですね。
ただ、どちらかというとBedrockというより、Kendraの機能がかなり便利と感じました。

まとめ

今回は、Amazon Bedrock Prototyping Camp 2023に参加してきました。
BedrockとKendraについて、基本的な使い方を学ぶことができたように思います。
Bedrockはまだリリースされたばかりのサービスなので、今後のアップデートに期待ですね。
Kendraもまだ触ってない機能（ウェブクローラーなど）が多いので、今後時間があれば触ってみたいと思います。