AIにどこまで委ねるか？【前編】
人間は「予測不能なこと」をAIに期待していない？ 戦闘で考える“倫理問題”
人間はAIをどこまで信じるべきなのか。兵器にAI技術を組み込んだ「自律型兵器システム」が戦場に投入される可能性がある中で、これは重大な問題だ。掘り下げて考えてみよう。
人間は、AI（人工知能）技術が導き出す判断をどこまで信じられるのか――。これはAI技術を扱うさまざまな分野に関わる問題だが、人間のオペレーターが直接制御または指揮することなく標的を選定して攻撃する「自律型兵器システム」（AWS：Autonomous Weapon Systems）が戦闘に投入される可能性があることに関しては、特に考えるべき喫緊の問題だ。人間はAI技術の判断をどう見るべきなのか。
人間はAIの“あれ”を嫌う
2023年1月に英国議会は、AI（人工知能）技術の兵器利用について検討する調査委員会「AI in Weapon Systems Committee」を設立した。同年6月に開催した口頭弁論会では、調査委員会メンバーの英国貴族院（上院：House of Lords）議員に対し、法律やITの専門家が「AI（人工知能）技術の軍事投入はリスクを引き起こす」と警告した。
自律型兵器システムは複雑な状況を解析する十分な能力を備えていない。これを軍事投入すれば、以下のような問題を引き起こす可能性がある。
- 作戦が予測不可能になる
- 自動化バイアス（自動化システムからの出力を、別の情報源からの情報よりも信用してしまう人間の傾向）を生む
自律型兵器システムは、常に人間が制御する必要があるというのが専門家の意見だ。「現在のAI技術の能力を踏まえると、軍事行動の妥当性を評価したり、軍事的判断の責任を負わせたりすることは不可能だ」と専門家は見ている。
SRE（サイト信頼性エンジニアリング）ベンダーStanza Systemsでプリンシパルソフトウェアエンジニアを務め、英国の殺人ロボット撲滅キャンペーン「Stop Killer Robots」のメンバーとしても活動するローラ・ノーラン氏も、自律型兵器システムの軍事投入に反対の姿勢を示す。一般的に人間は、人間関係や状況の背景といったさまざまな要素を瞬時にくみ取り、柔軟に対処できる。最先端のAI技術であっても、人間と同じように行動することは難しいという。
AI兵器に状況を読み取って適切に行動してもらうためには、そのためのプログラムを組む必要がある。「機械学習（ML）によって環境やターゲットのプロファイリング（対象の情報を収集、分析して、その性質や嗜好、行動などを予測すること）を実施することはできるが、状況に適した柔軟な判断を下すことはできない」（ノーラン氏）
自律型兵器システムを戦場に投入する場合、人間のオペレーターや指揮官が攻撃の場所やタイミングをコントロールすることは極めて困難だとノーラン氏は警告する。巻き添えになる民間人や施設の被害がないかどうか予測することも難しい。戦闘状況のように、複数の行為者と構成要素が相互作用するシステムがある場合、複雑系理論の原則では発生し得る結果の数が指数関数的に増大する。「自律型兵器システムの動きを予測することは非常に難しい」とノーラン氏は話す。
中編は、自動化バイアスについて掘り下げて考える。
Computer Weekly発 世界に学ぶIT導入・活用術
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly発 世界に学ぶIT導入・活用術
この記事の著者
関連記事
新着ホワイトペーパー PR
-
市場調査・トレンド
[コパード株式会社] 約9割が負担を実感 Salesforceのテスト業務に関する実態調査で見えた課題とは -
市場調査・トレンド
[コパード株式会社] 「Salesforce」開発・運用におけるAI活用実態調査レポート -
事例
[テクバン株式会社] 1画面でITサービスデスク業務が完結 太陽ホールディングスに学ぶデバイス管理 -
製品資料
[デジタルサーカス株式会社] ライセンス無料 Drupalベースの「多言語ECサイト開発用パッケージ」の実力は？ -
製品資料
[デジタルサーカス株式会社] 日本発グローバル企業用Drupal「Risley（リズリー）」の実力とは？
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
半数がブルーカラー転向を視野に？ ベテランエンジニアを追い込む“54歳の壁”
-
2
OpenAIやAnthropicでさえ制御不能 2026年夏「3大サイバー攻撃」の衝撃
-
3
IT製品の導入に関するアンケート「セキュリティ」編
-
4
見落としが多発、AI普及＆データ急増に伴うネットワーク課題の意外な原因とは？
-
5
法務と開発者で「言葉が通じない」問題 トヨタやソニーが語るOSS管理の真実
-
6
なぜ「全社配布Copilot」は使われないのか？ 失敗に学ぶAI定着
-
7
【専門家に聞く】シャドーAIや過剰共有のリスクを防ぎ、安全に生成AIを活用するポイントとは？
-
8
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
9
【コスト分析】事例が示す中堅・中小向けERPの最適コスト構造
-
10
IT製品の導入に関するアンケート「サーバ＆ストレージ」編
ホワイトペーパーランキング PR
-
1
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
2
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
3
システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
-
4
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
5
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
6
プログラミング不要で誰でも実現できる、ネットワーク運用管理の自動化とは
-
7
Linux初心者でも知らないとまずい「RHEL」「SLES」の違いとは？
-
8
東大教授と考える、AI時代の「データ主権」「信頼性」「ガバナンス」の在り方
-
9
「IT史に名を残すシステム障害」8選
-
10
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー