ジェフ・エアハルト氏（以下エアハルト氏）　AIと機械学習については、過剰に宣伝され、頻繁に話題に上っている。5年前のビッグデータとよく似ている。人々はGartnerが提唱する「幻滅期（Trough of Disillusionment）」に入り始めるだろう。これらのテクノロジーは明確に理解するのが非常に難しいためだ。Amazonや一部のツールベンダーは、基盤となるアルゴリズムを使いやすくしようとしている。しかし実際に難しいのはアルゴリズムではない。

ジェフ・エアハルト氏

　AIシステムと機械学習システムが非常に難しくなる理由は3つある。まず、構造化するのが難しい。ここでいう構造とは、どう機械学習を活用する対象を理解するか、どうデータのバイアスを理解するか、機械学習によって世界が変化する可能性をどう理解するかを意味している。こうした構造を明確にするのは容易ではない。2つ目は導入が難しいことだ。データサイエンスでは昔から、仕事の80％がデータの準備と後始末だといわれている。AIと機械学習の分野では今でもこれが当てはまる。3つ目は保守が難しいことだ。

　状況にあわせてこれらの問題を解決するには、相当な労力が必要になる。当社を始めとした一般的な企業は、システムを導入する場所と方法を選ぶ必要がある。GEではこうした理由に基づいて、大規模なアプリケーションを使用した結果を当社の顧客にサービスとして提供するユースケースにこのシステムを利用している。これにより、全ての仕事を1回だけ形にして、その結果を多くの顧客に販売する。顧客ごとに同じ仕事を毎回繰り返す必要はない。

――AIシステムの保守が難しい理由を教えてください。

エアハルト氏　伝統的なやり方でソフトウェアを構築するとしたら、ソフトウェアアプリケーションをビルドし、それをフロッピーディスクに収容して圧縮梱包（こんぽう）し、利用者に送付する。それなりに面倒な作業だ。しかしソフトウェアの開発、仕上げ、テストを済ませてしまえば、ロックダウンされ、変更されることはない。その後の時代になって、データ駆動型ソフトウェアの開発が始まった。優れたアプリケーションを設計することの他、ソフトウェアで利用する入力データが変化する可能性があることも考慮しなければならなくなった。このことから、ソフトウェア構築は複雑さが増した。

　機械学習やインテリジェントシステムになると、優れたソフトウェアを構築することや入力データが変化する可能性があることは当然考える必要がある。それに加えて、ソフトウェア自体が変化するため、変化を追跡しなければならない。そのため時間の経過に合わせて監視／保守するのは、ビジネス面を考えると現実的には非常に難しくなる。

　一般消費者を対象とする企業が、顧客の好みではない商品を薦めても、大きな問題にはならない。しかし当社が関わる業界では、ガスパイプラインの検査で潜んでいる欠陥を見逃すなど、判断を誤った代償は最悪の結果につながる恐れがある。そのためシステムが提示するレコメンデーションや判断が、現在だけでなく、将来にわたり正確であることに確信を持てなければならない。

――ソフトウェア開発を重視することは、AIシステム構築についてのGEの考え方にどのような影響を与えていますか。

エアハルト氏　こうしたシステムの設計ではまず、信頼性が高く、保守がしやすく、安全かつ安定して稼働するように細心の注意を払わなければならない。このような理由を1つの核とし、当社内でチームを編成し、機能を構築する際の方針を次のように定めている。「機械学習は従来のデータサイエンティストが努力すべき領域ではない。データ分析が本職ではない『シチズンデータサイエンティスト』が扱う分野でもない。アルゴリズムが課題になるのではなく、ソフトウェアエンジニアリングやシステムエンジニアリングの課題になる」

　この方針に沿って当社は真のエンタープライズソフトウェアを開発している。これらのシステムの設計／構築時にはゼロから品質、テスト、セキュリティ、信頼性を築く必要がある。その後も継続的に監視、制御などに取り組む。これらが全て一連の流れになる必要がある。もちろんAIも重要だが、事業全体の成功にとって、アルゴリズムとしてのAIは実に小さな要素にすぎない。

エアハルト氏　フォールトトレランス（耐障害性）と回復性の確保だ。先ほど挙げた項目の幾つかは認識することも解決することもできる。しかし多くのデータサイエンティストやデータサイエンス部門はそれらを考えない。

　データサイエンスの観点で、継続的インテグレーションや継続的デリバリーを考えることはほとんどない。Google、Facebookなどの近代企業はこれを考えている。だが、これまで関わってきたデータサイエンス企業の99％は、テストを行い継続的にリリースする意味を理解していなかった。

　システムはそこにあり、機械的に動作する。難しいのは、問題となっている構造をアプリケーションとしてどう捉えるかだ。AIが依然として得体の知れない技術で、活用できる人材が非常に少ない理由もここにある。問題は、数学的に正しく、長期的に安定していることだけではない。エンドユーザーエクスペリエンスも考えなければならない。さらには、物事の成り行きにシステムの予測機能を利用するときは、当社が調査、検証し、下した予測が実は誤っていた場合にどのような影響が出るのかも考えなければならない。