人はAIを信頼できるか？：AIと人間の最良の関係とは

少なくとも現時点におけるAIは知能と呼べるものではない。そして推論した理由を十分に説明することができない。このようなAIを信頼できるだろうか。人間はこうしたAIをどう扱えばいいのだろうか。

[Jamil El Imad，Computer Weekly]

　AIの父とされているアラン・チューリング氏は素晴らしい科学者であり、数学者でもある。同氏は1950年代後半に「Can machines think?」（機械は考えることができるか）という科学論文を発表した。この短い論文は70年近くにわたってAI実験の基礎を成し、「チューリングテスト」はインテリジェントシステムをテストする際の標準になっている。

　ここ数十年の技術の進化によって、AIは実験段階から導入段階に前進することが可能になった。その結果、多くのソフトウェアが再考を求められ、設計の見直しが必要になるだろう。業界にとっては実に素晴らしくもあり、挑戦的でもある。

　AIは、恐らくマイクロチップ以来最も重大な技術イノベーションであり、新たな「画期的」飛躍だ。より「スマート」なシステムや機器が生活のほぼ全ての側面で人間と協調するのを目にすることになる。AIは第4次産業革命の基盤を築き、人間の行動を最適化し、知識を民主化して人間の可能性をより高みへと引き上げる力を与えることで、人間生活の変革を支援するだろう。AIによって人間と機械が自然言語でコミュニケーションを取ることができるようにもなる。人間が機械に合わせるのではなく、人間に合わせる機械を初めて手に入れることになるだろう。

　だが、AIが可能にすることを誇張し過ぎないことが重要だ。これまであまり引用されたことはないが、チューリング氏はAIの基礎を築いた論文の中で実に重要なことを述べている。

　同氏は「『機械は考えることができる』かどうかという疑問自体が無意味過ぎて議論に値しない」としている。MIT（マサチューセッツ工科大学）の著名な教授、ノーム・チョムスキー氏は次のように述べている。「『機械は考えることができる』かどうかという問い掛けは『潜水艦は泳ぐことができる』かと問うのと同じだ。それは言葉の選び方にすぎない」

関連記事

• 企業に求められる「説明可能なAI（Explainable AI）」
• MicrosoftがAIの監査可能性、説明可能性を向上させるツールを提供
• 「AIは物理学を理解するのではない。パターンを理解する」が持つ重大な意味
• 今こそAIの規制を考えるべきとき
• 用途を広げる自然言語処理AI「GPT-3」の、既に見えた限界と課題

　AIは人間の大半を無用にするという暴論が存在する。AIは人間よりも賢くなるだろう。AIが人間の生活や仕事を奪うだろう。AIは人間をこの惑星の劣等在来種へと追いやるだろうといった類いの過激な表現が用いられている。この業界で働いてきた40年以上の中で、こうした主張を何度も耳にしてきた。こうした主張の多くは非常に誇張されており、中にはあまりにもばかげた表現もあると感じている。

　AIが行うことを表現するために「intelligence」（知能）という言葉を使ったことが誇張表現だったとも考える。恐らく「Artificial Intellect」（人工思考力）の方が適切な表現になるだろう。知能には、演繹（えんえき）的思考と帰納的思考が含まれている。ディープラーニングやコグニティブコンピューティングは純粋な演繹的数学モデルだ。

　知能とは想像力だ。つまり現時点での真実を超えて考える力が重要になる。知能とは人間の好奇心だ。つまり答えを知ることよりも、尋ねられている疑問を知ることが重要になる。知能とは、あらゆる状況で生き残り、うまく対処し、適応し、生まれ変わることだ。知能とは、膨大な例の中からパターンを見つけ出し、統計的近似によってパターンをモデル化することではない。

　人間の脳を模倣し、それに磨きをかけることができる真にインテリジェントなコンピュータシステムを構築する前に、まずは人間の脳の仕組みを理解する必要がある。通常、科学的な発見があってからエンジニアリングが行われる。その逆はあり得ない。

　人間の脳は、生物学上の知能の聖杯（至高の目標）であり、まだほとんど知られていない器官だ。最近になってようやく脳の仕組みを詳しく研究できるようになってはいるが、その基本的な機能以外の仕組みはまだ分かっていない。今までのところ、脳理論を得るところには至っていない。脳の信号伝達言語が分かっていない。意識や記憶がどこで保たれているのか分かっていない。それは、人間の脳が他のどの身体器官よりも非常に複雑なためだ。

　IT的に表現すると、脳は830億のプロセッサ（ニューロン）を備えるサーバファームに相当する。それぞれの「プロセッサ」は別物だが、それぞれが数千億の動的経路を備えるネットワークを通じて接続され、それぞれが協調し、適合し合って人間を人間たらしめている。脳が停止することはない。しかもハイテクサーバファームとは異なり、人間の脳のエネルギー消費量は100ワットの電球にも満たない。脳は極めて複雑なのにとてつもなく効率的で、ドーナツやハンバーガーでも充電できる。この器官の謎を解き明かし、優れた代替を生み出すまでには長い歳月がかかるだろう。今のところ、人間が脅かされることはない。

　人間の知能は説明可能な根拠に基づいているのを考慮することも重要だ。これは人工知能には当てはまらない。専門家が結論を下した場合、その結論に至った理由を問われるのはよくあることだ。専門家には、その論理的根拠をロジックやその他の無形の人間的要因や感情的要因を使って説明することが期待される。今日のAIニューラルネットワークでは結果を導き出した根拠を疑問視することはできない。

　では、根拠を説明できないAIを完全に信頼できるだろうか。答えは簡単だ。

　信頼することなどできない。

　そこで必要なのがAIと人間とのパートナーシップだ。つまり、AIが知能的な「重労働」を担い、人間が知能的最終決定を下す。こうしたパートナーシップを築くことなく、人間の監視なしにAIが最終決定を下すことを許可すれば、デジタル専制時代を迎えることになるだろう。

ジャミル・エル・イマド博士はNeuroProのチーフサイエンティストで、最先端のリアルタイム神経生理学アプリケーションの開発スペシャリストだ。ライブイベントを専門とする新時代の没入型メディア企業Virtually Liveのチーフサイエンティストも務めている。TechNovus Ideas Laboratoryの創設パートナー兼CEOでもあり、AI、仮想現実、拡張現実、モノのインターネットなどの新しい技術トレンドを活用する革新的でディスラプティブなデジタルソリューションを開発している。

また、同博士は科学、技術、ヘルスケア、ビジネスの世界的リーダーを招集して脳の働きについての理解を深める慈善団体The Brain ForumのCEOも務めている。商業的活動や慈善活動と並行してImperial College Londonの電気電子工学科の名誉上級研究員も務める。脳信号分析、仮想現実、BCI（Brain Computer Interfaces）、ビッグデータを主な研究対象としている。Institution of Engineering and Technology（IET：英国工学技術学会）のフェローでもある。