「ChatGPT」が引き起こすセキュリティの新たな課題【第4回】
ChatGPT規制派を黙らせる「もう後戻りできないAI依存」の現実
フィッシングなどの犯罪への悪用を指摘する声がある、「ChatGPT」をはじめとするAIチャットbot。その悪用を防ぐための技術や法律には、どこまで期待できるのか。専門家の見方は。
人工知能(AI)ベンダーOpenAIの「ChatGPT」をはじめとするAIチャットbot(AI技術を活用したチャットbot)を、攻撃者がフィッシング(情報窃取を目的とした詐欺行為)メールの作成に悪用する恐れがある――。セキュリティベンダーSophosのプリンシパルリサーチサイエンティスト、チェスター・ウィスニエフスキー氏は、こう指摘する。
AIチャットbotの悪用に対処するために、セキュリティ対策の技術開発や法整備が進む可能性がある。ウィスニエフスキー氏は技術開発には期待を寄せるものの、法整備の実効性には否定的な見解を示す。それはなぜなのか。同氏に考えを聞いた。
だから“ChatGPT悪用禁止法”は意味がない
併せて読みたいお薦め記事
連載:「ChatGPT」が引き起こすセキュリティの新たな課題
- 第1回:ChatGPTが“悪夢の犯罪ツール”になる日
- 第2回:ChatGPTの「まるで人」の自然さが生み出してしまった“次世代の脅威”とは?
- 第3回:「これを書いたのは人じゃない、ChatGPTだ」と断言できなくなる日
「ChatGPT」の衝撃
―― フィッシングメールの文章が、ChatGPTをはじめとするAIチャットbotによって書かれたものかどうかを検出するには、どのような手段が必要になるのでしょうか。
ウィスニエフスキー氏 さまざまな研究者グループが、ChatGPTがもたらす影響に対処するための研究を進めている。私が見た中で最も興味深かったのは、AIベンダーHugging Faceの研究だ。同社はChatGPTが生成したテキストを確実に検出するAIモデルを構築した。メールのフィルタリングといった目的で、このAIモデルを利用可能にしようとしている。
Hugging FaceのAIモデルを生かせば「このメールの文章を書いたのが、ChatGPTや同様のML(機械学習)モデルである可能性は92%だ」などと教えてくれるプログラムを開発できるようになると考えられる。時間を掛けてこのAIモデルを改良すれば、ChatGPTなどのAIチャットbotが作り出したフィッシングメールをうまく判別できるようになる可能性がある。
―― ChatGPTの悪用を抑制するために、何かしらの法律を整備することは有効でしょうか。
ウィスニエフスキー氏 法律でChatGPTの利用を制限しても、大きな効果は期待できない。法律でAI技術の利用を制限することは、本質的にはAI技術を持つこと自体を違法とするのに等しい。AI技術を悪用させないためには、AI技術をなくすしかないからだ。AI技術の普及を止めることは、もはやできない。法律をいくら整備しても、既に世界中で利用されているAI技術をなかったことにすることは不可能だ。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
事例
[ServiceNow Japan合同会社] 大阪市の未来を創る「行政DX」の本質と、その取り組みを支える統合基盤の実力 -
事例
[ServiceNow Japan合同会社] 【行政DX先進事例】横浜市が「市民に大切な時間を返す」を実現できた理由とは? -
市場調査・トレンド
[ServiceNow Japan合同会社] 「行政DXの利益」を得られていない行政機関はどこでつまずいているのか? -
事例
[ServiceNow Japan合同会社] 藤沢市の「シン・シヤクショプラットフォーム」が問い合わせ電話を減らせた理由 -
市場調査・トレンド
[SAS Institute Japan株式会社] 79%が直面したAI判断手動修正のワナ 手戻りを防ぎ、ROIを最大化する方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
2
企業が「Microsoft Azure」を選ばざるを得ない理由
-
3
PC選びの妙で差がつくAI時代 通常PC、AI PC、Copilot+ PCをどう使い分ける?
-
4
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
5
「転職意向あり」の情シスが約半数 現場を追い詰める“業務過多”の解消術
-
6
NVIDIA、フアンCEO辞任で揺らぐ“AI帝国” IT調達計画への影響は?
-
7
「オフィス移転・刷新に伴うネットワーク環境の実態」に関するアンケート
-
8
なぜノートPCの更新が「4年→6年」に? AIインフラ急拡大の余波
-
9
「AI PCの導入状況と課題」に関するアンケート
-
10
IT製品の導入に関するアンケート「PC&デバイス」編
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
6
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
10
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー