AIにどこまで委ねるか？【中編】
「計算が全て」になる悪夢の日 「猫」を「犬だ」と言うAIさえ疑えない
コンピュータによる計算は正確だと言えるが、AIモデルが計算によって導き出す答えを人間が信じるかどうかは別の話だ。ただし人間はAIモデルが出力する結果を信じる傾向にある。
人間のオペレーターが直接制御または指揮することなく標的を選定、探知、攻撃する兵器システム「自律型兵器システム」（AWS：Autonomous Weapon Systems）について、戦場に投入するかどうかの議論が広がっている。SRE（サイト信頼性エンジニアリング）ベンダーStanza Systemsでプリンシパルソフトウェアエンジニアを務め、英国の殺人ロボット撲滅キャンペーン「Stop Killer Robots」のメンバーでもあるローラ・ノーラン氏は、自律型兵器システムの懸念を指摘する。その一つが、自動化システムからの出力を、別の情報源からの情報よりも信用してしまう人間の傾向「自動化バイアス」だ。
「猫」が「犬」でも計算は正しい 自動化バイアスが招く悪夢とは
併せて読みたいお薦め記事
連載：AIにどこまで委ねるか？
AIの軍事利用に関する記事
ノーラン氏によると、自動化バイアスを完全に排除するのは不可能だという。「ヒューマンファクター」（システム全体の機能に影響する人間の特性）の分野では、自動化バイアスをいかに減らしていくかについての研究が活発に実施されてきた。しかしノーラン氏によると、その解決法はまだ分かっていない。攻撃の戦略的価値を自律的に判断することは、自律型兵器システムには難しいというのが同氏の考えだ。「AI兵器はあくまでMLモデルで認識できる要素に注目し、ただ計算をしているだけ。軍事的な価値は何も分からないはずだ」
ケンブリッジ大学（University of Cambridge）でCentre for the Study of Existential Risk（CSER：生存リスク研究センター）客員研究員を務めるタニエル・ユセフ氏は、自律型兵器システムが画像を識別するために、数学的に画像ピクセルを割り当てる方法を説明し、「計算が正確だったとしても、導き出される結果が必ずしも正しいわけではない」と指摘する。
ユセフ氏は例として、犬と猫の画像を識別するために設計したAIアルゴリズムのテストを挙げる。テストでは、AIアルゴリズムが猫を犬だと誤って判断したケースもあり、このように単純なタスクでさえ失敗する可能性が露呈した。同様の失敗が戦場で起きて、現地で民間人が殺害される可能性は否定できない。そうした事態が起きても、兵器は「計算結果だった」としか説明できない。
AI技術による計算結果は正確に見えるので、人間はつい決定を委ねてしまう傾向にある。しかし、コーディングされた計算結果は正しくても、戦場においてはその結果が正しいとは限らない。計算によってどのように目標を導き出したのか、システムがどのようにその目標を達成するのかは、実行されるまで分からないことも問題だ。「攻撃の妥当性の判断をAIに責任を委ねることは、技術的に不可能だ」とユセフ氏は強調する。
後編は、AIの軍事利用に関する議論の動向について解説する。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[株式会社MatrixFlow] 「物流リソース最適化」ガイド：人員・配車・傭車を出庫依頼の確定前に決めきる -
製品資料
[株式会社キーエンス] なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは -
製品資料
[株式会社セールスフォース・ジャパン] 「CRMは設計と無関係」は本当か？ PLMとの融合で実現する高速開発 -
事例
[日本ヒューレット・パッカード合同会社] AIエージェントの時代にどう備える？ 「新たな働き手」を支える3要素とは -
製品資料
[日本ヒューレット・パッカード合同会社] “横並びの自動化”から脱却、AI活用で生産性と競争力を高める秘訣
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
ChatGPTは“検索しまくり”でGeminiは“淡泊”？ データが明かすAIの裏側
-
2
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
3
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
4
「IBM iはDXのボトルネック」は誤解 意外と知らない今風モダナイズの効果
-
5
損保ジャパンはなぜ「COBOL」を捨てなかったのか？ 脱メインフレームの真相
-
6
「朝8時にバッチが終わらない」データ爆発の危機をJPX総研はどう乗り越えたか
-
7
なぜ「Gemini 4 Argon」は出遅れたのか？ Googleが狙う“逆転のシナリオ”
-
8
「中堅・中小企業のネットワーク・セキュリティ運用実態」に関するアンケート
-
9
IT製品の導入に関するアンケート「PC＆デバイス」編
-
10
AI導入後に発覚する「社内文書を読めない」問題 情シスは何を直せばいい？
ホワイトペーパーランキング PR
-
1
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
2
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
3
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
-
4
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
5
財務部門がAIを最大限に活用する方法 無駄のない戦略的リーダーシップへの道
-
6
LLMが兵器化？ 元FBI高官が鳴らす警鐘とセキュリティツール統合のポイント
-
7
なぜRPA導入は頓挫する？ シナリオ作成の壁を乗り越える解決策とは
-
8
HDDを使わない「SSDオンリー」が無謀なのはなぜ？
-
9
「オンプレミス回帰」せざるを得ない“合理的な理由”
-
10
“あのファイル転送”で暗躍するノーウェアランサム
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー