2016年08月15日 12時00分 公開
特集/連載

機械学習に起こり得る3つの障害、外部からの攻撃にどう対処すべきか?フェイルオーバー計画が必要な理由

機械学習モデルには脆弱性と障害がつきものだ。本稿では障害の発生原因と、障害発生時にもユーザーの作業を中断させないためのフェイルオーバー計画について説明する。

[Judith Myerson,TechTarget]
アナリティクス活用に当たっての主な課題(出典:デロイト)(参照:やっぱり「勘と経験」が頼り? データアナリティクスを定着させるには)《クリックで拡大》

 機械学習モデルには脆弱性がある。これが主な原因となって障害が起こりやすい。例えばハッカーは医療現場で健康に関する予測に利用される機械学習モデルをロックして、正当なユーザーがアクセスできないようにすることができる。また、機械学習モデルにコードを挿入して、ネットワーク上での不正な取引に関して欠陥のある予測が行われるようにすることも可能だ。

 障害が発生したときに、作業を中断されることを望む機械学習ユーザーはいない。ユーザーに不便な思いをさせないために、企業は主要な機械学習モデルからスタンバイモデルへのフェイルオーバーを可能にするフェイルオーバーメカニズムを検討する必要がある。このメカニズムがあれば、ユーザーはバックグラウンドでフェイルオーバープロセスが発生していることにも気付かないだろう。

 機械学習の障害には主に3つの原因がある。1つは「アルゴリズムの欠陥」、もう1つは「ネットワーク構成の欠陥」、そして3つ目は「敵対的な環境への露呈」だ。

原因1:アルゴリズムの欠陥

ITmedia マーケティング新着記事

news089.png

中小企業のDX支援へ「HubSpot CRM」と「Eight 企業向けプレミアム」が機能連携
名刺情報をコンタクト情報と同期させることでユーザー企業は社員が個別に蓄積してきた名...

news065.jpg

「E-Waste」最新事情 国民一人当たりで最も多くの電子廃棄物を排出しているのは?
マーケターの頭の片隅を刺激するトピックをインフォグラフィックスで紹介。

news154.jpg

「不祥事によって購入・利用意向が下がる」 回答者の6割以上――ネオマーケティング調査
20〜69歳の男女1000人に聞いた、広報のリスク管理に関する調査の結果です。