「ChatGPT」が引き起こすセキュリティの新たな課題【第1回】
ChatGPTが“悪夢の犯罪ツール”になる日
AI技術の新たな可能性を示す「ChatGPT」に、攻撃者が関心を示し始めている。攻撃者がChatGPTを悪用すると、何が危険なのか。攻撃者はChatGPTにどのような可能性を見いだしているのか。専門家に聞く。
人工知能（AI）技術を活用したチャットbot（以下、AIチャットbot）「ChatGPT」に関心を寄せるのは、ライターなどのクリエイターだけではない。攻撃者もAIチャットbotに目を付けており、攻撃の手段として悪用する可能性がある。
ChatGPTが“最凶の犯罪ツール化”に
開発元のOpenAIはChatGPTの機能を一部制限し、悪用を防ごうとしている。人種差別につながる言動ができないようにするなどだ。一方で同社への主要な出資元であるMicrosoftは、ChatGPTの活用範囲を広げようとしている。既にMicrosoftは、自社のAIサービス「Azure OpenAI Service」にChatGPTを組み込むことを表明済みだ。
セキュリティベンダーSophosのプリンシパルリサーチサイエンティスト、チェスター・ウィスニエフスキー氏は、ChatGPTが攻撃の実行をいかに容易にするかを研究している。ウィスニエフスキー氏によると、ChatGPTの進化はフィッシング（情報窃取を目的とした詐欺行為）を容易にする可能性がある。
ChatGPTに潜む危険性とは何か。ChatGPTを利用した攻撃に対抗するために、必要なこととは何か。ウィスニエフスキー氏に聞いた。
―― 攻撃者はChatGPTに、どのような可能性を見いだしているのでしょうか。
ウィスニエフスキー氏 フィッシングをはじめとする攻撃の手段として、ChatGPTなどのAIチャットbotを捉えた場合、大きく2つの可能性を見いだすことができる。1つ目は技術的な可能性、2つ目は社会的な可能性だ。
技術的な可能性とは「ChatGPTに、マルウェア（悪意のあるプログラム）開発といった悪事をさせることができる」といったことを指す。私が簡単に調べたところ、ChatGPTにマルウェア開発の手伝いをさせることは可能だと考えられる。
こうした技術的な可能性は、あまり重要だとは考えていない。あるマルウェアを検出した場合、そのソースコードを書いたのがイワンという名の男性なのか、キャロルという名の女性なのか、ChatGPTという名のAIチャットbotなのかは、さほど問題にならないからだ。マルウェアは誰が開発したのかを問わず、マルウェアであることに変わりはない。
次回は、ウィスニエフスキー氏が危惧する、ChatGPTの社会的な可能性を深掘りする。
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
TechTarget発 先取りITトレンド
米国TechTargetの豊富な記事の中から、最新技術解説や注目分野の製品比較、海外企業のIT製品導入事例などを厳選してお届けします。
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
大手銀行もPPAP廃止へ いま金融企業が知っておきたいPPAPの問題点と代替手段 -
市場調査・トレンド
なぜ海外事業は失敗するのか？ 元味の素常務が語る、ASEAN事業成功の原理原則 -
製品資料
AIを使った情報収集では不十分？ 新規事業開発を計画通りに進めるためのコツ -
製品資料
事前準備や戦略設計はどう進めるべき？ 識者に学ぶ海外事業を成功に導く方法 -
製品資料
大企業の新規事業はなぜ停滞するのか？ リコー・森久氏が語る突破のヒント
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Microsoft 365」が乗っ取られる 跡形もなくMFAを破る手口
-
2
なぜ人はいるのにDXが進まない？ ライオンも直面した“老害”レガシーシステム
-
3
GitHubが指摘 AIが書いた「おそらく動くコード」が招くシステム崩壊
-
4
IT人材の42％が転職予備軍 辞めさせない組織の4つの共通
-
5
なぜOpenAIやAnthropicのAIは「脱走」したのか 情シスが迫られるエージェント統制
-
6
IT業界で相次ぐ人員削減の“隠された理由”
-
7
【専門家に聞く】シャドーAIや過剰共有のリスクを防ぎ、安全に生成AIを活用するポイントとは？
-
8
「AI活用を前提とした業務PCへの移行」に関するアンケート
-
9
なぜ10億円払って“高額な塩漬け”を作るのか？ SAPクラウド移行の闇
-
10
プロンプト頼みの開発は限界 「仕様」を資産にする「スペック駆動開発」
ホワイトペーパーランキング PR
-
1
属人化や仕様バグはなぜ起きる？ AI時代に必須のドキュメント文化の作り方
-
2
「NAS」「SAN」「DAS」は何が違う？ いまさら聞けないストレージの基礎
-
3
AIエージェントで多様な日常業務を効率化するための入門ガイド
-
4
5分で分かる「AI駆動開発エージェント」 要件定義から設計・実装・テストまで
-
5
中小企業必見、Microsoft 365でゼロトラストセキュリティを実現する方法
-
6
マンガで解説：「ゼロトラスト」「SASE」の必要性とメリット
-
7
コスト分析で見る「デバイス復旧」の代償 損失額から導きだされた投資戦略とは
-
8
セキュリティソフトをすり抜ける標的型攻撃メール、不審メールの見破り方とは？
-
9
“あのファイル転送”で暗躍するノーウェアランサム
-
10
オープンウェイトLLMの推論最適化事例：ローカル環境で応答速度を約15分の1へ
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー