LLMの性能は学習データの質に大幅に依存する。データに多様性が欠ける場合、モデルの出力内容に偏りが生じ、ユーザーの偏見を強めてしまう可能性がある。特にデリケートな話題を扱ったり、多様なユーザー層を対象としたりするアプリケーションにおいて、このリスクは無視できない。

2．パブリックLLMか、プライベートLLMか

　ITリーダーが直面する重要な選択の一つが、「パブリックLLM」を使うか「プライベートLLM」を使うかだ。

　パブリックLLMは、ここではパブリッククラウドで利用可能な商用LLMを指す。入力した内容はモデルの学習に利用される可能性があるため、企業はデータ漏えいのリスクを避けるために扱うデータの範囲を検討する必要がある。

　プライベートLLMは、ここでは外部ネットワークから隔離された自社専用のインフラで実行できるモデルを指す。企業は機密データを保護しつつ、自社データを基にモデルの性能を強化できる。構築や運用を自社で実施するため、労力が大きくなる。

3．チューニングの実施

　モバイルデバイスベンダーZebra TechnologiesでAI研究グローバルディレクターを務めるアンドレア・ミラビレ氏は、「LLMを扱う際は、ハイパーパラメーター（モデルのトレーニングに使う変数）の調整やモデルのチューニングをしてタスクに適応させることが重要だ」と話す。チューニングを実施しない場合、期待するパフォーマンスが出ない可能性がある。

　ディープラーニングモデルを含むLLMの複雑な構造を理解することは難しく、導入には慎重さが求められる。ミラビレ氏は、「モデルがなぜその内容を出力したか、理由を理解することが難しい場合、システムの信頼性を損なう可能性がある」と強調する。特に、責任や透明性が求められる重要アプリケーションにおいて、この課題が顕著だ。

4．コスト

　API（アプリケーションプログラミングインタフェース）経由でアクセス可能なLLMは、使用量に応じて課金されることが一般的だ。そのため急速にコストが増大してしまう可能性がある。「LLMのリクエストの計算は複雑だ。ペイロード（出力内容）を理解する必要がある」。セキュリティベンダーSonatypeのフィールドCTOイルッカ・トゥルネン氏はそう説明する。

4．知的財産権（IP）

　モデルの学習データに関する知的財産権（IP）に注意を払う必要がある。LLMを最適化したり差異化したりするには、業界固有のデータや独自データの使用が欠かせない。

　2023年11月、MicrosoftのAI部門で公共政策担当ディレクターを務めるオーウェン・ラーター氏は、AIモデルの訓練に使用されるデータの著作権について、「EU（欧州連合）加盟諸国や日本は法律の例外を設けている」と言及している。

　一方で2023年12月、米国では日刊紙を発行するThe New York Timesが、MicrosoftとOpenAIに対して訴訟を起こした。The New York Timesは、同社のWebサイト内の情報が不正に利用されてAI製品が作られたと主張している。

5．法規制への準拠

　国際武器取引規則（ITAR） や一般データ保護規則 （GDPR）、医療保険の携行性と責任に関する法律（HIPPA） の対象企業は、LLMが規制の基準に適合しているかどうかを確認する必要がある。

　キングスミス氏は、OpenAIのAIチャットbot「ChatGPT」を使って裁判の準備をした弁護士が逮捕された事例を引き合いに出して「弁護士と依頼人の間の秘密保持義務の侵害だ」と説明する。

6．ポリシーの策定とアクセス管理

　企業でLLMを導入する場合、明確な規制やポリシーの策定が必要だ。「特に機密情報を扱う場合、他の重要システムと同様、従業員のアクセス制御を実施すべきだ」とキングスミス氏はアドバイスする。

　後編は、AIシステムを運用するためのインフラについて解説する。