金融大手JPモルガンが慎重に「生成AIプロジェクト」を進める理由：用心深さが「生成AI」成功の鍵【後編】

生成AIの導入にはメリットだけでなくリスクが付き物であり、導入企業は慎重にならざるを得ない。金融機関JPMorgan Chaseは生成AIの導入においてどのようなアプローチを採用したのか。

[Esther Ajao，TechTarget]

　テキストや画像などを自動生成するAI（人工知能）技術「生成AI」（ジェネレーティブAI）の利用機会が広がる中で、そのリスクへの対策も急務となっている。特に大企業やグローバル企業、金融などのミッションクリティカルシステムを提供する企業は、リスク抜きに生成AIの利用を考えることはできない。

　金融サービス大手のJPMorgan ChaseでAI関連の取り組みを統括するブライアン・マーハー氏は、科学技術誌『MIT Technology Review』が2023年5月に開催したカンファレンス「EmTech Digital 2023」で同社の取り組みを説明した。マーハー氏が同社の生成AI導入について強調したのは“慎重さ”だった。

JPモルガンが慎重に「生成AI」導入を進める理由

併せて読みたいお薦め記事

連載：用心深さが「生成AI」成功の鍵

• 前編：あの業界が「生成AI」をまだ使わないのは当然？　“焦りは禁物”の訳

生成AIのリスクを解説

• リスクなくして「生成AIの成功」もなし？　知っておきたい“4つの視点”
• アクセンチュアが考える「生成AI」の“リスク“こそ大切な理由
• ChatGPTを安全に使う方法　「生成AI」のリスクとは？

　具体的には比較的リスクの低い分野を選定し、時間を掛けて生成AIを導入するやり方だ。JPMorgan Chaseは生成AIに関してまだ十分な知識やノウハウを持っていない。そのため以下のようなポイントを踏まえてリスクが比較的低い分野を検討し、限定的な利用にとどめているという。

• 顧客や取引先への潜在的な影響
• 大規模言語モデル（LLM）で使用するデータのリスク要因
• 内部データや機密データに与える影響

　JPMorgan Chaseは生成AIを使用するシナリオを全て厳重に登録し、生成AIが適切に機能しているかどうかを人間が監視してフィードバックを実施する。こうしたプロセスが必要になる理由は、生成AIの“非決定的な性質”にある。「生成AIが回答を生成する仕組みには未知の部分があり、それを説明するのは非常に困難だ」とマーハー氏は話す。米連邦取引委員会（FTC）をはじめとする規制当局から透明性の欠如について指摘を受ける恐れがあるため、同社は生成AIの監視を今後さらに強化する方針だ。

　米国における株式や債券などの証券取引の監督、監視を担う政府機関の米国証券取引委員会（SEC）は、2022年10月に規制の改正を提案した。具体的には、投資顧問会社が特定サービスをアウトソーシングして顧客に提供する際に、サービスプロバイダーのデューデリジェンス（適正評価）と監視の実施を義務付けるものだ。「明確には述べられていないが、AI技術は間違いなく規制の対象に入る」とマーハー氏は話す。このような規制の順守が必要な金融業界は、生成AIの導入に関して慎重なアプローチを取らざるを得ない。

　マーハー氏は、生成AIの透明性や説明可能性を向上させることに関してJPMorgan Chaseが負っている責任も強調する。「当社は金融機関として、規制当局や利害関係者、株主、顧客に対し、当社の取り組みを説明する責任がある」（同氏）

TechTarget発　世界のインサイト＆ベストプラクティス

米国TechTargetの豊富な記事の中から、さまざまな業種や職種に関する動向やビジネスノウハウなどを厳選してお届けします。