2019年12月17日 05時00分 公開
特集/連載

本当は怖くない「AI」 説明可能性はなぜ大事か「AI」の信頼性と透明性の確保に向けて【前編】

アルゴリズムに対する信頼性がなければ、AI技術の導入は進まないだろう。そこで今、企業はAI技術を採用した自社システムの透明性を高め、説明可能にする取り組みを進めている。

[Kathleen Walch,TechTarget]

関連キーワード

ITガバナンス | 機械学習


 人工知能(AI)技術があらゆる場面で使われつつある一方で、一部に導入へのためらいが見えるのは不思議ではない。「AIはSF(サイエンスフィクション)が描く未来のようで恐ろしいものだ」という考えも根強い。そこで実際の、あるいは想像が生み出す懸念に対処するため、AI技術の信頼性と透明性を高めようと取り組む企業もある。政府機関もより高い説明可能性(Explainability)を義務付ける法律や規制を検討している。

 ユーザーからの信頼を得るには、AIエンジンが決定を下す仕組みの透明性が欠かせない。信頼できなければ、ユーザーはAI技術が組み込まれたシステムを導入しないだろう。そのため企業の間で、こうしたAI技術ベースのシステムが機能する仕組みを説明しようと積極的に取り組む動きが広がっている。目標とするのは、AIシステムが人類に対する陰謀を企てるようにトレーニングされた魂なき機械などではなく、正しいことをするツールだとユーザーに認めてもらうことだ。

 意思決定機能を備えるさまざまな製品にAI技術が組み込まれ始めている。それに伴い、企業はそうしたシステムで実際に何が起こっているのか、システムがどのように動作しているかを、よりオープンにしようと努めている。つまり時間をかけてアルゴリズムの仕組みについての情報や機械学習モデルのトレーニングに使うデータの詳細を公開している。このような活動には、ユーザーがAIシステムに不安を感じないよう支援し、AIシステムの信頼性と透明性を高めるという目標がある。

AIシステムへの信頼の構築

ITmedia マーケティング新着記事

news143.jpg

ベクトル、広告業界のEコマースサイト「ヒロメル」 提供開始
ベクトルグループが持つ成功事例やノウハウを参考に、PR、マーケティング、ブランディン...

news057.jpg

東南アジアのソーシャルコマース最新事情
SNS時代に新しいカスタマージャーニー。アジアの消費者の心をつかむには?

news154.jpg

CEOの多くが「今後2年間にわたり景気は停滞せず拡大する」と予測――Gartner調査
CEOの半数以上が「成長」に主眼を置き、危機を乗り越えた先には機会があると考えています。