人工知能（AI）技術があらゆる場面で使われつつある一方で、一部に導入へのためらいが見えるのは不思議ではない。「AIはSF（サイエンスフィクション）が描く未来のようで恐ろしいものだ」という考えも根強い。そこで実際の、あるいは想像が生み出す懸念に対処するため、AI技術の信頼性と透明性を高めようと取り組む企業もある。政府機関もより高い説明可能性（Explainability）を義務付ける法律や規制を検討している。
ユーザーからの信頼を得るには、AIエンジンが決定を下す仕組みの透明性が欠かせない。信頼できなければ、ユーザーはAI技術が組み込まれたシステムを導入しないだろう。そのため企業の間で、こうしたAI技術ベースのシステムが機能する仕組みを説明しようと積極的に取り組む動きが広がっている。目標とするのは、AIシステムが人類に対する陰謀を企てるようにトレーニングされた魂なき機械などではなく、正しいことをするツールだとユーザーに認めてもらうことだ。
意思決定機能を備えるさまざまな製品にAI技術が組み込まれ始めている。それに伴い、企業はそうしたシステムで実際に何が起こっているのか、システムがどのように動作しているかを、よりオープンにしようと努めている。つまり時間をかけてアルゴリズムの仕組みについての情報や機械学習モデルのトレーニングに使うデータの詳細を公開している。このような活動には、ユーザーがAIシステムに不安を感じないよう支援し、AIシステムの信頼性と透明性を高めるという目標がある。
NECが取り組む営業のデジタルシフト 「会えば何かが起こる」から「先に課題を提示できる」営業へ
新型コロナウイルス感染症（COVID-19）拡大に伴い企業活動の在り方も大きな変更を迫られ...
「メディアの伝えることの信頼性が気になった」65.1％――博報堂DYメディアパートナーズ調査
「緊急事態宣言解除後のメディア接触調査」の結果から見えてきた3つのこととは。
外出自粛による「孤立感」は案外低く「所有意向」は上昇 新型コロナによる意識変化――日本テラデータ調査
新型コロナウイルスと関連した消費者の不安、不自由、孤立、情報について日本の消費者を...
ITmediaはアイティメディア株式会社の登録商標です。
