世界各国で数十年前から、AI技術を恐れる文化が存在している。SF（サイエンスフィクション）小説からポップ文化まで、あらゆるジャンルでその影響が見られる。これはメディアの取り上げ方もそうだが、「そもそもAI技術はどのような技術なのか」が見えにくいことも大きく関係している。

　英国の理論物理学者である故スティーブン・ホーキング氏や米実業家のイーロン・マスク氏など、STEM（科学、技術、工学、数学）と呼ばれる分野の著名人が、AI技術が人に与える影響について懸念を示してきた。一方でAIシステムの開発者は総じて「AI技術は人の仕事を根本的に変える」と述べている。どちらを信じるべきだろうか。

　イェール大学（Yale University）でAI技術を研究し、AI技術関連の実業家や投資家としても活躍しているスティーブン・シュワーツ氏は、米国で2021年2月に新著『Evil Robots, Killer Computers, and Other Myths』を出版した。シュワーツ氏は同書で「AI技術を恐れる文化は根絶すべきだ」と主張し、AI技術が実現することに関する不安を払拭（ふっしょく）しようとしている。

　シュワーツ氏によると、一般の人は概して「AIシステムは『読む』『話す』『作る』『自動化する』といったさまざまなことができ、人と同じように知的だ」と勘違いしている。実際のAIシステムは、開発者がプログラムを組んで作ったものにすぎない。少なくとも現時点のAIシステムは、人とは異なり汎用（はんよう）的な知能を持たず、複数の能力を同時に発揮することはできない。

　「人々は、AIシステムがわれわれの仕事を全て奪ってしまうのではないかと心配している。しかし、そんなことは起こらない」。シュワーツ氏はこう断言する。

開発者なしで成長はしない、知的マシン構築の実現遠く

　シュワーツ氏の論調の根底には、次のような認識がある。「AIシステムは、人のような知的能力を持っていない。開発者は、そうした能力を持つようにAIシステムをトレーニングできないからだ」。AIシステムが人に取って代わるためには、開発者の作業なしで学習し、知識を積み上げ、多くの状況に応用することが必要になる。

　汎用的な知能を持つ真のAI「AGI」（汎用人工知能）を構築する方法は「誰にも分かっておらず、そのための理解は40年前から全く深まっていない」とシュワーツ氏は指摘する。同氏は以前、AGIを「すぐにも実現できる」と考えていた。その後「開発がいかに大変かを思い知らされた」という。

　現在のAIシステムは、計算の最終目標は何かを理解し、その実現への道筋も分かる。ただし個々の決定をなぜするのか、つまり決定の理由を語ることはできない。現状のAIシステムは人と違い、特定の行動を取る理由や、それに至ったいきさつの説明能力がないということだ。

　AIシステムが間違いをした場合、計算プロセスのどこで問題が生じたかを確実に特定することは難しい。企業はAIシステムの「できること」「できないこと」を正確に整理し、AI技術の可能性と脅威を冷静に判断する必要がありそうだ。

　後編は「RPA」（ロボティクスプロセスオートメーション）が労働者に及ぼす影響を考察する。