ChatGPTなどの「ジェネレーティブAI」が活用の幅を広げるとともに、危険性も高まる。ジェネレーティブAIの安全利用のために、やらなければならないこととは何か。
人工知能(AI)技術でテキストや画像などを自動生成する「ジェネレーティブAI」(生成型AI)は、企業や一般消費者にとって身近な存在になりつつある。人工知能(AI)ベンダーOpenAIが手掛ける「ChatGPT」などのAIチャットbot(AI技術を活用したチャットbot)は、その代表例だ。これらのジェネレーティブAIを安全に使うためには、どうすればいいのか。Googleの元CEO(最高経営責任者)、エリック・シュミット氏の見解を紹介する。
「IT業界には『良い技術は皆にシェアしよう』というマインドがある」とシュミットは認めつつ、AI技術に関しては「この考え方は危険だ」と語る。「AI技術は『強力過ぎる技術』になってしまった」(同氏)
シュミット氏によると、企業や消費者がジェネレーティブAIを使う場合は、ジェネレーティブAIをあくまでも「アドバイス役」にとどめ、最終的な意思決定は人に任せることが重要だ。ジェネレーティブAIは人に害を与える可能性がある。そのため「ジェネレーティブAIの生成物に対して責任を負う人が、必ず存在すべきだ」と同氏は述べる。
開発者や政府がジェネレーティブAIのリスクを見極めて、場合によっては機密扱いにして公開を差し控える必要があると、シュミット氏は主張する。大学生の頃の話として同氏は、ある学生が核弾頭の起爆機構を設計した際、大学が危険だと判断して、すぐに機密扱いにしたことを例に挙げる。
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
攻撃対象領域の拡大に伴い、SOCは高優先度のアラート対応で手いっぱいになり、トリアージにおいても十分な追加検証が行えていない。この現状を打開するには、AI/機械学習を活用し、大量のデータをセキュリティ対策に生かす手法が有効だ。
リモートアクセスを保護する方法として注目されるゼロトラストネットワークアクセス(ZTNA)。その実現手段として検討したいのが、エンドポイント上でポリシーを適用し、アクセスをきめ細かく最適化する先進的なZTNAソリューションだ。
サイバー攻撃が高度化する中、企業・組織はこの対応に苦慮している。本資料では、CISOやSecOpsリーダーなど、役割別の課題を整理し、この解決につながる製品の選定においてチェックしたいポイントを紹介する。
ハイブリッドワークの定着により働き方が変化する中、セキュリティを強化する方法として注目されるSASE。だが実際には、スタンドアロン製品で構成されるものも多く、性能に不満の声もあった。これらを解消する、AI搭載の統合型SASEとは?
AIや自動化の波はセキュリティ対策にも訪れているものの、ある調査によれば、「脅威やインシデント対応のプロセスを完全に自動化できている」と回答した担当者は16%にとどまっており、停滞している実態がある。その原因と解決策を探る。
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...