機械学習のロジックは設計者にも理解できない

　問題は、そうした奇跡のような機械学習装置が実現したとして、それがどう機能するか、装置を開発したコンピュータ科学者自身にも分からないことだ。まさに、IT技術者なら大抵はおなじみのブラックボックスソフトウェア問題のようなものだ。機械がどうやって学習するのかも、どう意思を決定するのかも、何を提案するのかも分からない。そして機械の側も、私たちにそれを教えることはできない。

　「われわれはこれまで、製作者が理解できない方法で稼働する機械を開発したことはなかった。予測できない不可解なインテリジェントマシンとどうやってコミュニケーションを取り、うまく付き合っていけというのか」。作家のウィル・ナイト氏は最近、『MIT Technology Review』に寄せたブラックボックス問題に関する寄稿でそう記した。

　自分たち人間のことを考えてみよう。自分が物事を決めるまでの過程を正確に説明できるだろうか。できるかもしれないが、大抵の場合、意思決定の過程を言い表すと「本能的直観」に頼ったり、「予感」に従って行動したり、「そういうものだから」という理由で行動したりしている。信じるか信じないかはともかく、人間が作った機械学習装置も同じだ。現時点で、そうしたシステムがどのようにしてその結論に至ったかを説明できる材料はない。ただそう決めたのだ。

　この「説明責任」の欠如は致命的かもしれない。何百万ドルというカネや誰かの人命がかかっている場合、人は説明を求める。もし機械によってクレジットカードの申し込みや自動車ローン、住宅ローンなどの申請を断られた場合、理由を知る権利はあるはずだ。機械学習の商用化が進む中で、システムを管轄するのは必ずしもコンピュータ科学者だけではない。そうしたシステムが私たちの日常生活に影響を与え始める中で、人工知能の説明責任について、立法府の介入が必要になるだろう。

　命が関わる分野では、例えば自分の子の命を救う臓器移植を機械に断られたらどうするだろうか。声を限りにして理由を教えろと求めるはずだ。また、これまではAIの軍事応用については言及してこなかったが、もし、未来のどこかで（ハリウッド映画のように）機械が軍事的に重大な決断を下す場合、私たち全て、とりわけ国家の指導者は、誰が何をどこで、いつ、なぜ決断するに至ったのかについて、明白な説明を必要とする。

　落ち着いて考えよう。あなたは2020年のSiriに何を期待するだろうか。お薦めのレストラン情報か。運動不足を注意してもらうことか。血糖値の測定か。酸素濃度の測定か。主要バイオマーカー54種類についての注意喚起か。特定の健康状態に関する反応に基づいて、Siriは私たちに尋ねることなく、自分の判断で救急車を呼ぶようになるだろうか。そうした個人サービスが同意に基づくものであるならば、私たちの日常生活の質を向上させることはあっても、それほど破壊的なことにはならないかもしれない。

　だが間違ってはいけない。そうしたスマートな人工知能は既に、世界に対する理解を飛躍的に深めている。コンピュータは予想より10年も早く、世界最強のプロ棋士を囲碁で打ち破った。Facebookのパターン認識ソフトウェアはもはや人間よりもうまく顔を認識できる。コンピュータは2030年までに、人間よりも高い知性を持つようになるだろう。

　機械学習が間もなくどれほど破壊的になるかは、1世紀に及ぶ私たちと自動車との関係を見ればよく分かる。2017年に散見された自動運転車のデモは、2018年にますます増えるだろう。わずか2年後には自動車業界全体が破壊されると評論家は予想する。多くの自動車会社が倒産するかもしれない。いずれ、われわれは車を持つのではなく、電話で呼ぶようになる。自分のところへ来てくれるUberの運転手が見つからなければ、自動運転車がやって来ることになるだろう。私たちが10代で運転免許を取ることはもうなくなる。自動車事故による死者は、現在の年間120万人以上から、20万人程度へと縮小する。自動車保険会社は徐々に消滅し、市内の駐車場は公園になる。そんな新しい世界を想像できるだろうか。機械学習にどんなことができるのかを考え始めると、たちまち世界は全く違った場所になる。

　機械学習はとてつもない可能性を秘めているが、その潜在的可能性は、人が実際に機械を信頼することを学ばなければ、フルに発揮されることはない。あなたにそれができるだろうか。実際にそうするだろうか。