2019年04月09日 08時00分 公開
特集/連載

なぜ“42”なの?AIはなぜそう答えたのか? 説明責任は人間に

人間は、AIが下した決定の理由を答えられなければならない。それを実現するのがXAI(Explainable AI:説明可能なAI)だ。AIの決定に基づいて行われた結果の責任をAIに転嫁することはできない。

[Cliff Saran,Computer Weekly]

 人工知能(AI)は、データと演算能力を大量に用意でき、研究プロジェクトに投資する余裕のある教育機関や大手Web企業での導入が主だったが、それ以外にも広がろうとしている。誇大な宣伝も多いが、企業はAIの利用に駆り立てられている。

 最近2つの研究結果が公開され、企業が競争上の優位性を保つためにAIを導入する重要性が強調されている。

 OC&C Strategy Consultantsのコンサルタントが執筆した「Let's get real about AI study」(AIの研究にまつわる事実)によると、企業はAIに莫大(ばくだい)な投資を行っており、2018年には全世界の企業IT投資全体の約7%に当たる2190億ドル(約24兆4000億円)がAIに費やされたという。そのうち米国での投資額は910億ドル(約10兆円)、英国では120億ドル(約1兆3000億円)だった。

 だが、答えに信頼性を持たせることが、AIを使用する際の大きな課題の一つになるとOC&Cは警告する。AIは通常、結果を見て「ルール」を学習する。つまり、AIはある結果を導き出した理由を説明できない可能性がある。これがAIの信頼性に対する深刻な問題につながる恐れがあるというのが同社の警告だ。人間のオペレーターが拒否されたり、規制順守に対する根本的な問題が起きたりすることも考えられる。

ビジネス上のメリットをもたらす説明可能なAI

 2018年、米アリゾナ州でUberの自動運転車に女性がひかれて死亡するという痛ましい事故が大きく報道された。




続きを読むには、[続きを読む]ボタンを押して
会員登録あるいはログインしてください。






ITmedia マーケティング新着記事

news103.jpg

「InstagramよりTwitter」「脱毛に関心」他、男子大学生の実態――SHIBUYA109エンタテイメント調べ
同じ大学生でも意識や行動において男女の差は意外と大きなものがあるようです。

news113.jpg

恵方巻の予約購入派は35%、企業側は70%以上が予約販売を実施――ONE COMPATH調べ
恵方巻とフードシェアリングサービスに関する意識調査です。

news087.jpg

「Oracle Data Cloud」とTrue Dataの連携は日本のプログラマティック広告をどう変えるか
「Oracle Data Cloud」とTrue Dataの購買データが連携し、プログラマティック広告配信に...