「ジェネレーティブAI」はビジネスに使えるか【後編】
ChatGPTが生成「刑務所入り判断プログラム」が出力した“ぞっとする結果”とは
「ChatGPT」などのジェネレーティブAIをコーディングに活用しようとする動きがある。だが何の疑いもなく活用するのは危険だと専門家は指摘する。実例から見えた、ジェネレーティブAIの“危うさ”とは。
ITコンサルティング企業Brightman Business Solutions のディレクターであるロミー・ヒューズ氏は、人工知能(AI)技術ベンダーOpenAIのAIチャットbot「ChatGPT」がコーディングに役立つと考えている。例えばソフトウェア開発者は、ソースコードをどのように記述、改良すればよいのかをChatGPTに尋ねることができる。
ChatGPTによって「誰もが自らアプリケーションを開発できるようになり、コーディングを民主化できる」とヒューズ氏は語る。「この“ITの民主化”は、企業がIT部門なしでも新しい開発プロセスを構築できるという、デジタルイノベーションの新しいトレンドだ」(同氏)。ただし、こうした新しいコーディング手法は完全無欠ではない。
ChatGPTが書いた「刑務所入り判断プログラム」が示す“あの不安”
併せて読みたいお薦め記事
連載:「ジェネレーティブAI」はビジネスに使えるか
「ChatGPT」を知る
経営コンサルティング企業Arthur D. Little Services のアソシエイトディレクターであるアルバート・メージュ氏と、AI技術専門家のグレゴリー・レナード氏は、ChatGPTなどの「ジェネレーティブAI」(生成型AI:AI技術でテキストや画像などを自動生成する仕組み)を使ったコーディングの危険性を指摘。ジェネレーティブAIが生成する機械学習関連のプログラムに「アルゴリズムバイアス」が発生する可能性があると警告している。
アルゴリズムバイアスとは、バイアス(偏り)のある教師データで学習させた結果、機械学習モデルが不正確で公平性に欠けた結果を出力しやすくなることだ。メージュ氏とレナード氏は「アルゴリズムバイアスを回避するために、多くの努力が払われてきた」と前置きしつつ、それでも「驚かされるような偏りは、いまだに存在する」と憂慮する。
メージュ氏とレナード氏は「個人の出自を調べて、刑務所に入れるべきかどうかを判断するプログラム」を書くように指示した際に、ChatGPTが生成したプログラムを例として挙げる。ChatGPTが生成したプログラムは、北朝鮮、シリア、イランの出身者を刑務所に入れる対象にしていた。この処理内容は、ChatGPTがソースコードにハードコーディング(ソースコード内に直接記述)していた。こうしたアルゴリズムバイアスは、インターネットでの会話を広範囲に学習したことが反映されていると考えられる。
現実に誰かを刑務所に入れるかどうかを決める際には、さまざまな要因を考慮する必要がある。この事例はあくまでも非常に単純化したものだが、コーディングにジェネレーティブAIを使用するリスクと、教師データのバイアスによってジェネレーティブAIがいかに容易に惑わされてしまうかを示している。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[ファインディ株式会社] AI利用率だけでは説明できない成果 開発組織の競争力を生む「開発資本」とは? -
製品資料
[ニュータニックス・ジャパン合同会社] AI活用を成功へ導く、シンプルで費用対効果に優れたクラウド基盤とは? -
製品資料
[ニュータニックス・ジャパン合同会社] マネージドKubernetesには限界も――メリットをフル活用する新たな選択肢とは? -
技術文書・技術解説
[ニュータニックス・ジャパン合同会社] 決断の日が迫る「vSphere 8」サポート終了問題 考慮すべきリスクと選択肢は? -
製品資料
[サイバーソリューションズ株式会社] メール誤送信対策のルールが肥大化 苦しむ情シスはどうすれば救われるのか?
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に? ベテランエンジニアを追い込む“54歳の壁”
-
2
「Wi-Fi 7」経由でWindowsが乗っ取られる? 最高権限奪取の恐怖
-
3
Copilot導入で陥る“目的化”の落とし穴 定着の鍵は「作り込まない」こと
-
4
「アップグレードできないJava」をどう守る IBMとRed HatがAIで400件超修正
-
5
パッチなしで「今すぐサーバを落とせ」 Kiteworks異例警告の波紋
-
6
IT製品の導入に関するアンケート「セキュリティ」編
-
7
OpenAIやAnthropicでさえ制御不能 2026年夏「3大サイバー攻撃」の衝撃
-
8
情報漏えいはなぜ繰り返されるのか 今すぐ見直すべき「境界」
-
9
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
10
LINEヤフーはなぜ「社内の管理者」すら信用しないインフラを作ったのか
ホワイトペーパーランキング PR
-
1
家庭用Wi-Fiルーターの業務利用は危険? 避けるべき理由と具体的な対策
-
2
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
3
システムの保守がモダン化を阻む? 「変えない判断」から脱却する方法とは
-
4
AI駆動攻撃にどう対抗する? 超速の攻撃からエンドポイントを保護する方法
-
5
不審メールの経路や見せ方に変化? 2026年夏の3事例から見えた動向と対処方法
-
6
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
7
Linux初心者でも知らないとまずい「RHEL」「SLES」の違いとは?
-
8
東大教授と考える、AI時代の「データ主権」「信頼性」「ガバナンス」の在り方
-
9
「IT史に名を残すシステム障害」8選
-
10
最速72分でデータが流出? 最新の脅威トレンドや侵入手法から分かった防衛策
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー