機械学習に起こり得る3つの障害、外部からの攻撃にどう対処すべきか？：フェイルオーバー計画が必要な理由

機械学習モデルには脆弱性と障害がつきものだ。本稿では障害の発生原因と、障害発生時にもユーザーの作業を中断させないためのフェイルオーバー計画について説明する。

[Judith Myerson，TechTarget]

アナリティクス活用に当たっての主な課題（出典：デロイト）（参照：やっぱり「勘と経験」が頼り？　データアナリティクスを定着させるには）《クリックで拡大》

　機械学習モデルには脆弱性がある。これが主な原因となって障害が起こりやすい。例えばハッカーは医療現場で健康に関する予測に利用される機械学習モデルをロックして、正当なユーザーがアクセスできないようにすることができる。また、機械学習モデルにコードを挿入して、ネットワーク上での不正な取引に関して欠陥のある予測が行われるようにすることも可能だ。

　障害が発生したときに、作業を中断されることを望む機械学習ユーザーはいない。ユーザーに不便な思いをさせないために、企業は主要な機械学習モデルからスタンバイモデルへのフェイルオーバーを可能にするフェイルオーバーメカニズムを検討する必要がある。このメカニズムがあれば、ユーザーはバックグラウンドでフェイルオーバープロセスが発生していることにも気付かないだろう。

　機械学習の障害には主に3つの原因がある。1つは「アルゴリズムの欠陥」、もう1つは「ネットワーク構成の欠陥」、そして3つ目は「敵対的な環境への露呈」だ。

併せて読みたいお勧めの記事

機械学習入門

• データサイエンティストに縁遠い人のための「機械学習」入門
• 「機械学習」とは？　データ分析技術に関連する12の大胆予測

機械学習の使われ方

• 「Microsoft Azure」の機械学習を診療技術支援に応用　慶応義塾と日本マイクロソフトら
• 「機械学習」時代の経営判断はどうあるべきか
• GoogleやAWSが提供する機械学習サービス、ビジネスにどう活用する？

機械学習をセキュリティに応用する

• 15時間で侵入？　機械学習のマルウェア検出システムに浮上した“不都合な真実”

原因1：アルゴリズムの欠陥