OpenAIのチャットbot型生成AIツール「ChatGPT」をソースコードのレビューに利用する事例は既に存在している。英国のセキュリティベンダーNCC Groupでチーフサイエンティストを務めるクリス・アンリー氏は、こうした用途では問題点を特定することに役立つ可能性はあるが、完全には信頼できないと考えている。「セキュリティの問題につながる欠陥を見逃したり、注目すべき部分を間違えたり、誤って架空のバグを見つけたりするなど、生成AIツールは事実とは異なる結果を出力する可能性がある。こうした事態は企業にとっては望ましくない」（同氏）

　ただしこうした点は、「ほとんど脅威にはならない」とアンリー氏は補足する。一般的に、重要なアプリケーションの開発に生成AIツールを利用することは現時点ではほとんどない。生成AIツールは不適切なソースコードを提案することがあるが、こうしたソースコードは意図した通りに動作しないため、即座に問題が発覚すると考えられる。「ソースコードは歌や演劇の台本、散文などとは異なり、『おおむね正しい』では許されない」と同氏は話す。

　生成AIツールはコーディング作業の全てを担うのではなく、熟練したエンジニアの作業効率や生産性を高めるために使われるようになる可能性が高い。「生成AIツールを使うことで生産性が10％でも高まることは、組織にとっては良い影響と言える」とアンリー氏は説明する。

　エンジニアが使い慣れていないライブラリ（プログラムの部品群）にある機能を使ったり、データをある形式から別の形式に変換したりするなど、生成AI技術は細かい技術的な作業に適している。アンリー氏によれば、生成AIツールはドキュメントや資料の参照といった作業を自動化することにも使える。「当社の顧客は、カスタマーサポートや自社内の業務プロセスの自動化など、何らかの形でAI技術を利用するようになっている」（同氏）

　ただし大規模なAIアプリケーションをユーザー企業のデータセンターで運用したり、社内ネットワークに接続したりするのであれば注意が必要だ。例えば大量の学習データを保管するストレージが攻撃されると、そのデータで学習した生成AIツールの制御ができなくなったり、悪用されたりする恐れがある。

　AIモデルを標的にして学習データの取得を狙う攻撃には、以下のような手法がある。

• メンバーシップ推論攻撃
  • 学習データだと推定されるデータをAIモデルに入力し、その応答結果から学習データに含まれるデータを特定する
• モデル反転攻撃
  • データの入出力を繰り返すことで、盗みたい学習データに近づける

生成AIアプリケーションがインフラに与える影響は

　生成AIを採用することで、データセンターに必要な処理能力や消費電力が以前よりも増える可能性がある。そうした事態を受けて、ユーザー企業はリソース消費を分散させるために、クラウドサービスに置いているシステムやデータの一部をオンプレミスインフラに移そうとすると考えられる。一方でエンドユーザーのスマートフォンやPCで生成AIアプリケーションを実行する場合、プライバシーやコンプライアンス（法令順守）に関わる問題が発生するリスクには注意が必要だ。

　法律事務所Gowling WLGでデータ保護やサイバーセキュリティ部門の共同責任者を務めるジョセリン・ポーリー氏は次のように話す。「既に容量の問題が発生しているデータセンターを拡張することは課題をより大きくする可能性があるが、ハードウェアや冷却方法の見直し、サーバ密度の向上によって解決できる可能性がある」

　後編は、生成AI技術がデータセンターに与えるリスクと、これらのリスクを回避するためのヒントを取り上げる。