生成AIが「賢くも危険でもない」と専門家が語るのはなぜ?データセンターは生成AIでどう変わるのか【後編】

生成AIの導入は、企業に業務効率化といったメリットだけではなく、リスクももたらすという見方がある。企業は生成AIを活用する際、何に気を付ければよいのか。業界関係者の見方を紹介する。

2023年11月30日 08時00分 公開
[Fleur DoidgeTechTarget]

関連キーワード

人工知能 | データセンター | 機械学習


 入力された指示を基にテキストや画像を生成する人工知能(AI)技術「生成AI」(ジェネレーティブAI)を企業のデータセンターで活用するための取り組みが進みつつある。ただし生成AIの活用をリスクだと捉える風潮もあり、生成AIとの向き合い方はさまざまだ。業界関係者は現状をどう見ているのか。

生成AIは賢くも危険でもないのか?

会員登録(無料)が必要です

併せて読みたいお薦め記事

連載:データセンターは生成AIでどう変わるのか


 英国のコンサルティング企業BML Digitalで最高技術責任者を務めるジャコ・フェルミューレン氏は次のように説明する。「生成AIは、基本的にはデータベースの検索以上に高度なシステムへのアクセス権限を必要としない。LLM(大規模言語モデル)を用いた生成AIツールでデータを処理する場合、分析結果の解釈やモデル開発の工程には人間が介在する必要があるが、その作業そのものはセキュリティリスクではない」

 生成AIは、学習済みのデータから特定のデータを選び出して出力するシステムに過ぎない。「ユーザー企業のニーズに合わせた学習データを用意しなければ、どのような生成AIツールを利用しても、ほぼ同じ出力結果を導き出す」とフェルミューレン氏は説明する。

 コンサルティング会社Profusionでエンジニアリング部門の責任者を務めるロブ・ファロー氏によれば、大半のAIモデルの学習では同じ手法を繰り返す。AIモデルの学習データを自動生成したり、自己学習したりする能力の開発が進めば、AIツールがフェイルセーフ(故障や誤作動があった場合の安全性を確保すること)機能やキルスイッチ(安全確保のための緊急停止)を必要とするほどの脅威になる可能性がある。ただしファロー氏は、それが10年以内に実現する可能性は低いとみており、「AIモデルには人間に危険を及ぼすほどの複雑さや、人間の知性のようなものはない」と語る。

データセンターで生成AI技術を利用するときの注意点

 生成AIツールの複雑さが増すことで、ツールが意図しない挙動を起こす可能性が増す。このことはソフトウェアの開発中に、ソフトウェアの動作や開発工程の透明性を高める必があることを示している。作成するソースコードの量を減らし、可能な限りシンプルな構造にすることは、AIツールの透明性を高めるのに役立つ可能性がある。ただしこうした構造にすることで、ツールの機能が限られる可能性があるとファロー氏は指摘する。

 ファロー氏は、大規模なデータ処理が可能なインフラを用意せずに生成AIプロジェクトを開始することに警鐘を鳴らす。それと同時に、データセンターで機械学習などのAI技術を使って将来起こり得ることの予測精度を高め、システム全体でのコスト削減を実現することで、電力や処理能力、ストレージへの影響に対処することを提案している。

 「Amazonの一部のデータセンターには数千台のバッテリーを備えるソーラーパネルがある。このパネルは機械学習技術を使い、効率的に太陽エネルギーを取り込んでいる」(ファロー氏)

 ファロー氏は次のように警告する。「企業がやみくもに生成AI技術や機械学習技術に飛び付くと、AIモデルのトレーニングや学習データの収集に失敗したり、AIシステムの監査や透明性の確保がうまくいかなかったりする可能性がある」

Computer Weekly発 世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。

Copyright © ITmedia, Inc. All Rights Reserved.

新着ホワイトペーパー

プレミアムコンテンツ アイティメディア株式会社

HDDを使わない「SSDオンリー」が無謀なのはなぜ?

SSDの大容量化や価格競争力の向上により、「SSDオンリー」という選択肢が現実味を帯びつつある。しかし、HDDが完全に不要になるとは断言できない。その理由は何か。

製品資料 JBCC株式会社

ファイルサーバのクラウド移行は今が好機か、最適な移行先を選ぶヒント

昨今は企業で扱うデータが増加傾向にある上、働き方の変化などにも対応する必要性から、オンプレミスのファイルサーバをクラウドに移行する企業が増えている。そこで、移行先を選ぶポイントやセキュリティ対策について、動画で解説する。

事例 INFINIDAT JAPAN合同会社

ECシステムのデータ急増やI/O性能低下などの問題を解消したストレージとは?

ECと通販システムを統合したパッケージの開発と導入を事業の柱とするエルテックスでは、事業の成長に伴いデータの容量を拡大する必要に迫られていた。そこでストレージを刷新してコスト削減や可用性の向上などさまざまな成果を得たという。

事例 レノボ・エンタープライズ・ソリューションズ合同会社

大阪回生病院が新たな仮想化基盤となるHCIに求めた要件とは?

職員700人が利用する部門システムの刷新を決断した大阪回生病院では、運用のシンプル化に期待して、HCIの導入を検討する。同病院がHCIに求めた要件とは何か。そして、この大規模移行プロジェクトを成功裏に完了できた理由に迫る。

市場調査・トレンド プリサイスリー・ソフトウェア株式会社

クラウド戦略の障壁となるメインフレームシステム、段階的にモダナイズするには

長年にわたり強力かつ安全な基盤であり続けてきたメインフレームシステム。しかし今では、クラウド戦略におけるボトルネックとなりつつある。ボトルネックの解消に向け、メインフレームを段階的にモダナイズするアプローチを解説する。

From Informa TechTarget

お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア(株)が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。

ITmedia マーケティング新着記事

news253.jpg

「AIエージェント」はデジタルマーケティングをどう高度化するのか
電通デジタルはAIを活用したマーケティングソリューションブランド「∞AI」の大型アップ...

news163.jpg

「政府」「メディア」への信頼度は日本が最低 どうしてこうなった?
「信頼」に関する年次消費者意識調査の結果から、日本においても社会的な不満・憤りが大...

news062.jpg

「Threads」が広告表示テスト開始 企業アカウント運用のポイントとは?
Metaのテキスト共有アプリ「Threads」で広告表示のテストが開始され、新たな顧客接点とし...