「まるで悪魔を召喚するようなもの」

人工知能が人類の敵になる？　起業家イーロン・マスク氏が人工知能を警戒する理由

知能や学習能力を持ったスマートマシンや自動運転車などを実現するため、人工知能（AI）の研究が日夜進められている。その一方で、起業家のイーロン・マスク氏はそのリスクについて警鐘を鳴らしている。

公開 2014年10月30日 15時01分

著者

Cliff Saran

[Computer Weekly]

印刷する

　米マサチューセッツ工科大学（MIT）のAeronautics and Astronautics Department（航空宇宙工学科）で開催されたシンポジウムの閉幕講演において、起業家のイーロン・マスク氏は、人類が直面する人工知能（AI）のリスクについて警鐘を鳴らした。

　電子決済サービス大手の米PayPalや電気自動車メーカーの米Tesla Motorsの共同創業者であるマスク氏は、人工知能の悪用を防ぎ、人類に危害を及ぼすことがないようにするために国際的な法整備が必要になるだろうと指摘した。

　人工知能を活用する“機は熟した”のかという問いに対して、同氏は人工知能を「悪魔を召喚するようなもの」であると痛烈に批判した。

　「われわれ人類が何かとてつもなくばかなことをしでかさないように、国内・国外を問わず規制当局が監視する必要がある」（同）

　マスク氏は以前、ニック・ボストロム氏著の書籍『SuperIntelligence』についてツイートで言及したことがある。ボストロム氏はその書籍の中で、高度に進化し、容易に変更可能な機械知能（Seed AI）というのは、自らの知能を応用して「より賢い自分を作り出す」ことができると警告する。

　Seed AIなどの概念は、自我に目覚めたロボットが殺人マシンとなり、人類と機械の戦いを描いた映画『Terminator』のようなSF作品で見ることができる。

人工知能の現在

　アラン・チューリング氏は、ドイツのEnigma暗号の解読をはじめ第2次世界大戦中に暗号解読で活躍し、「Turing Machine」で近代のコンピュータモデルを定義した人物である。その同氏もまた、人工知能に関わるさまざまな概念を考え出している。

　チューリング氏が考案した「Turing Test」は、人間が機械を相手に行う思考実験である。ある機械の返答が、本物の人間のものと見分けがつかない場合、その機械は人間のようにふるまっているといえる。

　2014年6月、「Eugene Goostman」と呼ばれるコンピュータプログラムが、Turing Testで人間のように受け答えることに成功した。Eugene Goostmanを開発した技術者らによると、このプログラムはウクライナの12歳の少年のふりをすることができるという。人間と会話するチャットボットなどの分野に応用が可能で、これはマスク氏の示した暗い見通しとは大きく異なっている。

　その一方で、自動運転車などのイノベーションは、既存技術の限界に挑戦している。英国でビジネス・イノベーション・職業技能大臣を務めるビンス・ケーブル氏は2014年7月、2015年1月から自動運転自動車の公道走行を許可する方針を発表している。

　米Gartnerの著名アナリストであるスティーブ・プレンティス氏は2013年に次のような警鐘を鳴らしている。「米IBMの『Watson』のようなスマートシステムや自動走行車、軍用ロボットは、知らず知らずのうちに日々の意思決定を下している。そうした意思決定がわれわれの生活に及ぼす影響力はますます大きくなっている」

　「機械が判断を下すとして、その決断が間違っていたら何が起こるだろうか」（プレンティス氏）

印刷する