Amazon SageMaker（以下、SageMaker）

　AWSのCEOマット・ガーマン氏は3日の基調講演で、機械学習モデル構築サービスであるSageMakerの刷新を発表。「データ分析とAI関連業務の垣根はなくなりつつある」と話し、「次世代のSageMakerは、データ分析を含めたより広範な領域を扱うツールになる」と説明した。

　シバスブラマニアン氏は、新たに以下3つの機能をSageMakerに搭載することを発表した。

• Amazon SageMaker Hyperpod flexible training plans
  • 「Amazon SageMaker Hyperpod」はAI開発タスクを一元管理するマネージドサービス。「Amazon SageMaker Hyperpod flexible training plans」では、予算、期待する完了日、最大リソースといった情報を与えると、自動的にリソースの予約やトレーニングジョブの設定をしてくれる。
• Amazon SageMaker HyperPod Task Governance
  • チームごとのリソース上限やタスク別に優先度を設定すると、それに基づいて自動でリソースを割り当てる。複数のチームが利用する大規模な学習、推論環境での利用が想定される。

Amazon SageMaker HyperPodでは、リソースの使用状況をリアルタイムでモニタリングできる

• Amazon SageMaker partner AI apps
  • SageMakerのユーザーインタフェース（UI）の中で、以下パートナー企業のAIアプリケーションを容易に組み込めるようになる。
    • モデルの管理や評価をするための「Comet」「Deepchecks」
    • モデルのモニタリングやデバッグを支援する「Fiddler」
    • アプリケーションを保護する「Lakera Guard」
  • インフラはAWSがプロビジョニングする他、SageMakerのアクセス権限設定を適用できるため、モデルの開発スピード向上に役立つ。

Amazon Bedrock（以下、Bedrock）

　Bedrockは、コストや品質、レイテンシーなどの要件に柔軟に対処できるように、幅広いモデルの選択肢を提供する。AWSは独自開発モデル「Amazon Nova」に加えて、以下モデルを追加すると発表した。

• poolsideのソースコードやドキュメント生成モデル「malibu」「point」
• Stability AIの画像生成モデル「Stablediffusion3.5」
• Luma AIの動画生成モデル「Ray 2」

　基調講演ではLuma AIのCEOアミット・ジャイン氏が登壇。Ray 2の大きな特徴は、「単なる画像や動画の生成にとどまらず、動画のカメラワークやストーリー設定のコントロールができる点だ」と説明した。急速に成長するスタートアップ企業である同社はスケーラビリティを特に重視しており、Amazon SageMaker Hyperpodを活用することで安定したモデルのトレーニング環境を構築しているとも説明した。

Luma AIのCEOアミット・ジャイン氏

　「Amazon Bedrock Marketplace」も発表。Bedrockの基盤モデル以外にも、業界特化型モデルや新興モデルなど100種以上のモデルに統一されたAPIからアクセスできる。日本からは「Preferred Networks」「Stockmark」「KARAKURI」のモデルが公開されている。

　シバスブラマニアン氏は、推論の効率化と精度向上に役立つ機能や、ハルシネーション（事実に基づかない回答を出力すること）のリスクを抑えるための機能も発表した。

• Amazon Bedrock Prompt caching
  • プロンプトの中で繰り返し使われるトークン（注）を安全にキャッシュして再利用することで、処理を効率化する。長文プロンプトはコストを押し上げる要因となる。Amazon Bedrock Prompt cachingを活用することで、レイテンシーを最大85％、コストを最大90％削減することが可能だという。

※注：トークンとはテキストデータを処理する際の基本的な単位で、英語であれば1トークンは4文字程度と考えられる。

• Amazon Bedrock Intelligent prompt routing
  • プロンプトの内容に応じて、同一ファミリーの中から最適なモデルを選択する機能。Anthropicの「Claude」、Metaの「Llama」ファミリーのみ使用できる。コストを最大30％削減できる。

Amazon Bedrock Intelligent prompt routingのフロー図。タスクに応じて最適なモデルを自動で選択してくれる

• Amazon Bedrock Guardrails Multimodal toxicity detection
  • テキストだけでなく、画像コンテンツへのフィルター適用が可能となる。画像を扱うBedrock上の全モデルで利用可能。

　続けてシバスブラマニアン氏は、「RAG」（検索拡張生成）向けの新機能について発表。RAGとは、学習データ以外に外部のデータベースから情報を検索、取得し、LLMが事前学習していない情報も回答できるように補う手法を指す。今回追加した新機能により、扱えるデータの形式や範囲、検索手法が拡大し、より高精度で有益な回答を取得できるようになるという。

• Amazon Bedrock Knowledge Bases structured data retrieval
  • 自然言語のプロンプトを解釈してSQLを生成する。クラウドストレージ「Amazon Simple Storage Service」（Amazon S3）、データレイクハウス「Amazon SageMaker Lakehouse」、クラウドデータウェアハウス（DWH）「Amazon Redshift」からデータを取得可能。

Amazon Bedrock Knowledge Bases structured data retrievalのフロー図。自然言語でプロンプトを入力すると、自動でSQLを生成してデータベースからデータを取得し、その内容を基に回答を出力する

• Amazon Bedrock Knowledge Base supports GraphRAG
  • データ間の関係性を表現する「ナレッジグラフ」を自動生成し、グラフの関連性を理解することで、RAGの回答精度を高める。従来のベクトル検索（テキストや画像をベクトルに変換して類似性を計算する検索手法）を主としたRAGでは、情報間の関連性を正確に把握することが難しかった。グラフデータベースの専門知識がなくても利用可能。
• Amazon Bedrock Data Automation
  • テキストや画像、ビデオ、音声などの非構造化データを解釈し、構造化データを出力するマネージドサービス。企業に蓄積されたデータの大半は非構造化データであるため、活用可能なデータの拡大につながる。

　検索サービス「Amazon Kendra」におけるRAG用インデックス「Generative AI Index」の追加も発表された。キーワード検索とベクトル検索を組み合わせたハイブリッド検索手法や、検索結果を関連性の高い順序に並べ替える「Rerank」モデルなど、検索精度を高めるための機能を持つ。「Amazon Bedrock Knowledge Bases」「Amazon Q Business」など複数のツール間で共通のインデックスを使用できるため、データの移動性が向上する。「Gmail」「Salesforce」を含む43種のデータソースに対応するコネクターを提供し、アプリケーションからのコンテンツ取得を容易に実現する。

Amazon Q

　「Amazon Q Developer」はソースコードやドキュメントの作成を通して、開発の生産性と品質向上を支援するツールだ。今回の基調講演における発表は以下の通り。

• SageMaker CanvasからAmazon Q Developerが利用可能に
  • ノーコードのAIモデル開発ツール「Amazon SageMaker Canvas」の中にAmazon Q Developerが統合される。自然言語で対話可能な専門的なアシスタントが常駐し、データの前処理からモデルの学習、デプロイ（配備）までの一連のライフサイクルにおいて最適なアプローチを提案してくれる。
• Amazon Q in Quicksight Scenarios
  • 自然言語で与えたシナリオに基づき、専門的なアシスタントがデータ分析を実施してくれる。ダッシュボードから仮説や洞察、推奨アクションを提示し、専門知識がなくてもより複雑なデータ分析が可能になる。「Amazon QuickSight Pro」ユーザーが利用可能。

取材協力先：アマゾンウェブサービスジャパン