ChatGPTなどの「ジェネレーティブAI」が活用の幅を広げるとともに、危険性も高まる。ジェネレーティブAIの安全利用のために、やらなければならないこととは何か。
人工知能（AI）技術でテキストや画像などを自動生成する「ジェネレーティブAI」（生成型AI）は、企業や一般消費者にとって身近な存在になりつつある。人工知能（AI）ベンダーOpenAIが手掛ける「ChatGPT」などのAIチャットbot（AI技術を活用したチャットbot）は、その代表例だ。これらのジェネレーティブAIを安全に使うためには、どうすればいいのか。Googleの元CEO（最高経営責任者）、エリック・シュミット氏の見解を紹介する。
「IT業界には『良い技術は皆にシェアしよう』というマインドがある」とシュミットは認めつつ、AI技術に関しては「この考え方は危険だ」と語る。「AI技術は『強力過ぎる技術』になってしまった」（同氏）
シュミット氏によると、企業や消費者がジェネレーティブAIを使う場合は、ジェネレーティブAIをあくまでも「アドバイス役」にとどめ、最終的な意思決定は人に任せることが重要だ。ジェネレーティブAIは人に害を与える可能性がある。そのため「ジェネレーティブAIの生成物に対して責任を負う人が、必ず存在すべきだ」と同氏は述べる。
開発者や政府がジェネレーティブAIのリスクを見極めて、場合によっては機密扱いにして公開を差し控える必要があると、シュミット氏は主張する。大学生の頃の話として同氏は、ある学生が核弾頭の起爆機構を設計した際、大学が危険だと判断して、すぐに機密扱いにしたことを例に挙げる。
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
クラウドとオンプレミス、セキュリティ面でどちらが優れているかという議論は絶えない。クラウドのセキュリティはオンプレミスよりも劣っているのか。クラウドセキュリティの基礎と併せて解説する。
生成AIを支える大規模言語モデル（LLM）は、DDoS攻撃やプロンプトインジェクション、不正出力の誘導などさまざまな脅威にさらされている。利用時に押さえておきたい「LLMの10大脅威」と、その対策を解説する。
北里研究所は、Web会議やクラウドサービス利用の拡大に伴う回線逼迫に対処するため、新たなネットワーク構成を導入した。併せて適切なセキュリティ対策も講じている。通信最適化の具体的な手法と導入による効果とは。
「ファイアウォール」の仕組みはどれも同じではなく、幾つかの種類に分類できる。いまさら聞きづらいその仕組みを、ファイルアウォールの種類別に解説する。
「ファイアウォール」のいまさら聞けない基礎知識 その役割、運用方法は？
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ（仮想PC画面）は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「サイト内検索」＆「ライブチャット」売れ筋TOP5（2025年5月）
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10（2025年5月）
今週は、ECプラットフォーム製品（ECサイト構築ツール）の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年5月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
ITmediaはアイティメディア株式会社の登録商標です。
