「AI」の信頼性と透明性の確保に向けて【前編】

本当は怖くない「AI」　説明可能性はなぜ大事か

アルゴリズムに対する信頼性がなければ、AI技術の導入は進まないだろう。そこで今、企業はAI技術を採用した自社システムの透明性を高め、説明可能にする取り組みを進めている。

公開 2019年12月17日 05時01分

更新 2019年12月16日 02時16分

著者

Kathleen Walch

[TechTarget]

印刷する

　人工知能（AI）技術があらゆる場面で使われつつある一方で、一部に導入へのためらいが見えるのは不思議ではない。「AIはSF（サイエンスフィクション）が描く未来のようで恐ろしいものだ」という考えも根強い。そこで実際の、あるいは想像が生み出す懸念に対処するため、AI技術の信頼性と透明性を高めようと取り組む企業もある。政府機関もより高い説明可能性（Explainability）を義務付ける法律や規制を検討している。

　ユーザーからの信頼を得るには、AIエンジンが決定を下す仕組みの透明性が欠かせない。信頼できなければ、ユーザーはAI技術が組み込まれたシステムを導入しないだろう。そのため企業の間で、こうしたAI技術ベースのシステムが機能する仕組みを説明しようと積極的に取り組む動きが広がっている。目標とするのは、AIシステムが人類に対する陰謀を企てるようにトレーニングされた魂なき機械などではなく、正しいことをするツールだとユーザーに認めてもらうことだ。

併せて読みたいお薦め記事

「AI」の意思決定は信じられるか

「AI」の信頼性を巡る議論

　意思決定機能を備えるさまざまな製品にAI技術が組み込まれ始めている。それに伴い、企業はそうしたシステムで実際に何が起こっているのか、システムがどのように動作しているかを、よりオープンにしようと努めている。つまり時間をかけてアルゴリズムの仕組みについての情報や機械学習モデルのトレーニングに使うデータの詳細を公開している。このような活動には、ユーザーがAIシステムに不安を感じないよう支援し、AIシステムの信頼性と透明性を高めるという目標がある。

AIシステムへの信頼の構築

　決定をどのように下し、どのように動作するかといったAIシステムの仕組みについて、ユーザーがより簡単に理解できるようにするには、説明可能性も後押しになる。自社のトレーニングデータが信頼できることだけでなく、そのデータから公平で正しい結果がもたらされることも示そうとしている企業もある。現状では、偏りのあるトレーニングデータの使用について多くの議論が交わされている。こうした議論を受けて、システムのデータ収集方法や評価方法を公開することで、起こりかねない批判に先回りして対処しようとする企業もある。

　AI技術には、多くの業界を変え、働き方や生活の仕方、コミュニケーションの仕方を変える力がある。そのためAI技術の利用規制に注目が集まっている。規制の現実性に疑問はあるが、何もせず放置すれば危険な影響を及ぼしかねないという指摘もある。自動運転車や自律型航空機、顔認証技術、bot、世論、投票に影響を与えるシステムなどへのAI技術の利用に、こうした懸念が示されている。ユーザー、システム、政府機関が機械学習駆動型の攻撃を受ける恐れもある。これらのさまざまな懸念から、AI技術を活動の中心とする企業が水面下で取り組んでいることをどの程度公開する必要があるか、関係者はより深く考えるようになっている。

　特定のアプリケーションでの限られたAI技術の利用に対する懸念もあれば、機械が非常に高い知能を持つようになるといった想像の話に対する懸念もある。またAIシステムがマルチプレイヤーゲームで人間を打ち負かした「DeepMind」の最近の成功を、アルゴリズムが人間から独立する前兆だと考える人もいる。AIシステムは、実物のように見える偽画像の生成にも使用されている。本物と見分けが付かない偽の動画や画像、いわゆる「ディープフェイク」に関する話は、見聞きしているものや読んでいるものを信じられなくなるという新たな課題を生み出す。

　顔認証や自動運転車などの技術がもっと一般的になれば、それに伴いAI技術の普及も進むことになる。そのため、これらの技術の利用や潜在的な悪用に対処するには、規制を早めに導入することが欠かせないだろう。何ら監視がなくても、企業はAI技術の信頼性と透明性に十分な注意を払うだろうか。政府機関がAI技術の倫理の枠組みを明確にして構築することが必要になると考えられる。それはAI技術の悪用を防ぐためだけではない。日常的なAI技術の利用が人々の心配の種にならないようにするためでもある。

印刷する