「生成AI」の活用前に知っておくべき“限界とリスク”：データセンターは生成AIでどう変わるのか【中編】

生成AIの導入は、業務を効率化するメリットをもたらすだけでなく、セキュリティやデータセンターに影響を与える可能性がある。具体的にはどのようなメリットとリスクが考えられるのか。

[Fleur Doidge，TechTarget]

　入力された指示を基に、テキストや画像、動画を生成する「生成AI」（ジェネレーティブAI）ツールには、ユーザー企業の業務を効率化する存在としての期待が集まっている。ただし生成AIを利用することで新たに生じる懸念もあるため、生成AIに適した用途や、導入の際に対処すべき課題を見極めることが欠かせない。具体的にはどのような影響が生じるのか。エンジニアの業務やセキュリティ、データセンターの設計などに関して考慮すべき点を考えてみよう。

生成AIの影響はセキュリティやデータセンターにも　その限界とリスク

併せて読みたいお薦め記事

連載：データセンターは生成AIでどう変わるのか

• 前編：生成AIがいくら魅力でも「データセンターで使えない」のはなぜ？

生成AI活用をどう進めるべきか

• 生成AIは「まだ先の話」でもない？　“あの業界”では活用が進む
• バックアップ担当者が知っておくべき「生成AI」とはそもそも何か？

　OpenAIのチャットbot型生成AIツール「ChatGPT」をソースコードのレビューに利用する事例は既に存在している。英国のセキュリティベンダーNCC Groupでチーフサイエンティストを務めるクリス・アンリー氏は、こうした用途では問題点を特定することに役立つ可能性はあるが、完全には信頼できないと考えている。「セキュリティの問題につながる欠陥を見逃したり、注目すべき部分を間違えたり、誤って架空のバグを見つけたりするなど、生成AIツールは事実とは異なる結果を出力する可能性がある。こうした事態は企業にとっては望ましくない」（同氏）

　ただしこうした点は、「ほとんど脅威にはならない」とアンリー氏は補足する。一般的に、重要なアプリケーションの開発に生成AIツールを利用することは現時点ではほとんどない。生成AIツールは不適切なソースコードを提案することがあるが、こうしたソースコードは意図した通りに動作しないため、即座に問題が発覚すると考えられる。「ソースコードは歌や演劇の台本、散文などとは異なり、『おおむね正しい』では許されない」と同氏は話す。

　生成AIツールはコーディング作業の全てを担うのではなく、熟練したエンジニアの作業効率や生産性を高めるために使われるようになる可能性が高い。「生成AIツールを使うことで生産性が10％でも高まることは、組織にとっては良い影響と言える」とアンリー氏は説明する。

　エンジニアが使い慣れていないライブラリ（プログラムの部品群）にある機能を使ったり、データをある形式から別の形式に変換したりするなど、生成AI技術は細かい技術的な作業に適している。アンリー氏によれば、生成AIツールはドキュメントや資料の参照といった作業を自動化することにも使える。「当社の顧客は、カスタマーサポートや自社内の業務プロセスの自動化など、何らかの形でAI技術を利用するようになっている」（同氏）

　ただし大規模なAIアプリケーションをユーザー企業のデータセンターで運用したり、社内ネットワークに接続したりするのであれば注意が必要だ。例えば大量の学習データを保管するストレージが攻撃されると、そのデータで学習した生成AIツールの制御ができなくなったり、悪用されたりする恐れがある。

　AIモデルを標的にして学習データの取得を狙う攻撃には、以下のような手法がある。

• メンバーシップ推論攻撃
  • 学習データだと推定されるデータをAIモデルに入力し、その応答結果から学習データに含まれるデータを特定する
• モデル反転攻撃
  • データの入出力を繰り返すことで、盗みたい学習データに近づける

生成AIアプリケーションがインフラに与える影響は

　生成AIを採用することで、データセンターに必要な処理能力や消費電力が以前よりも増える可能性がある。そうした事態を受けて、ユーザー企業はリソース消費を分散させるために、クラウドサービスに置いているシステムやデータの一部をオンプレミスインフラに移そうとすると考えられる。一方でエンドユーザーのスマートフォンやPCで生成AIアプリケーションを実行する場合、プライバシーやコンプライアンス（法令順守）に関わる問題が発生するリスクには注意が必要だ。

　法律事務所Gowling WLGでデータ保護やサイバーセキュリティ部門の共同責任者を務めるジョセリン・ポーリー氏は次のように話す。「既に容量の問題が発生しているデータセンターを拡張することは課題をより大きくする可能性があるが、ハードウェアや冷却方法の見直し、サーバ密度の向上によって解決できる可能性がある」

---

　後編は、生成AI技術がデータセンターに与えるリスクと、これらのリスクを回避するためのヒントを取り上げる。

Computer Weekly発　世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。