機械学習でBad Rabbitを発見
Microsoftが語る機械学習の成果と懸念
「Bad Rabbit」をわずか14分で悪意のあるマルウェアであると立証するなど、Microsoftの機械学習利用は成果を上げている。だがサイバーセキュリティ分野のCTOのケリー氏は機械学習に懸念を抱いている。
セキュリティオペレーションセンターは、何兆件ものセキュリティシグナルを収集している。これらのシグナルが本格的なサイバー攻撃に変わる前に、それを悪意のあるアクティビティーとして警告する機械学習がある。この機械学習がなければ、こうしたシグナルを理解するのはセキュリティアナリストにとって途方もない作業になる。
例えば「Microsoft Azure」（以下、Azure）では、毎日6兆5000億件ものセキュリティシグナルが生まれる。同社には数百人のセキュリティ担当者がいる。だが、このように多くのデータポイントを解析することは人間の能力を超えている。そう話すのは、同社でサイバーセキュリティ分野のCTO（最高技術責任者）を務めるダイアナ・ケリー氏だ。
同氏はシンガポールで開催された「RSA Conference 2019 Asia Pacific & Japan」で本誌のインタビューに答えて次のように話した。「このような場合に役立つのが機械学習だ。攻撃についての情報の早期検出をサポートし、人間には見えないものを見つける」
Microsoftは複合検知やモンテカルロシミュレーションなどの技法を使って、正確性の低いシグナルを正確性の高いシグナルへと変えている。コンピュータは学習するにつれ、人間には分からないセキュリティイベントを検知するようになる。
機械学習は、脅威対策のサイクルを速めるのに役立つ。だが、機械学習に携わる多様なチームを用意しなければ、データと脅威のモデルにバイアスが生まれ、犯罪者に攻撃の経路を与える恐れがある。
ケリー氏は、データに無意識のバイアスが生まれることを懸念している。ケリー氏は、履歴書を解析して候補者を特定する機械学習ツールを例に挙げた。男性従業員が多い企業の場合、データには既にバイアスが存在するという。
「コンピュータエンジニアリングやサイバーセキュリティの分野には男性が多い。男性従業員が多ければ、ツールは男性を優れた候補者であると判断するだろう」と同氏は話す。
「こうした現象は、ユーザーに金融情報を提供するオンラインサイトでも生じる。これまで男性の投資家が多かったという理由で、女性の投資家は投資の新しいチャンスについての情報が得にくい」（ケリー氏）
サイバー攻撃者は、被害者の判断を誤らせるために機械学習モデルが利用するデータを既に操作し始めている。
「攻撃者は、分類予定の画像の画素を単純に変えるなど、注目すべき攻撃を幾つか試している。その結果、人間に提供される分類が変わる恐れがある。攻撃者は分類方法の理解を試み、分類に影響を与えようとしている」とケリー氏は話す。
調査会社Gartnerによると、セキュリティに機械学習を早くから導入しているのは、マルウェア、ユーザー行動分析、エンドポイントセキュリティなどの分野だという。同社は、2025年までに機械学習をセキュリティ戦略に含めるのが当たり前になると予測する。
Copyright © ITmedia, Inc. All Rights Reserved.
Computer Weekly日本語版
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品資料
[o9ソリューションズ・ジャパン株式会社] 「改正物流効率化法対策」徹底解説 総物流費を抑制するサプライチェーン戦略 -
製品資料
[o9ソリューションズ・ジャパン株式会社] 「サプライチェーン最適化」実践ガイド：効果的な意思決定を実現する秘訣とは？ -
製品資料
[株式会社リンプレス] 非デジタル／IT人材を「自走するDX推進者」に変えるための育成ロードマップ -
市場調査・トレンド
[ワンアイルコンサルティング株式会社] AI時代の組織設計：「判断と責任」を人に残すための2つの原則とは？ -
技術文書・技術解説
[ワンアイルコンサルティング株式会社] システムの保守がモダン化を阻む？ 「変えない判断」から脱却する方法とは
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
1200万円のSaaS導入を回避 スギ薬局「運用費10万円」のAIエージェント構築術
-
2
「完璧な設計」なのに3000万円溶けた AWSの失敗事例から学ぶ3つの教訓
-
3
100億円の「Linux更新」を回避 みずほ銀行が選んだ“おきて破り”のRHEL延命策
-
4
LLMの「過学習」、正しく説明している文章はどれ？
-
5
高額な「AI PC」を一般従業員も使えたら？ 費用のハードルを一気に下げる方法
-
6
IT調達担当者が知るべき「IT機器 大インフレ時代の前向きな選択肢」
-
7
二極化する生成AI活用 「一部の社員しか使いこなせない」をどう解消すべきか
-
8
公式ストアの“防波堤”が消える「スマホ法」の衝撃 今必要な対策とは
-
9
高信頼セキュアネットワーク、アラクサラ統合で広がるフォーティネットの選択肢
-
10
マンガで解説：KSK2稼働で何が変わる？ 税務調査の高度化に備えるデータ管理
ホワイトペーパーランキング PR
-
1
JR西日本ITソリューションズが「監視業務の属人化」を解消した方法とは？
-
2
インシデント対応工数を約3割削減、東京ガスの事例に学ぶ監視体制刷新のコツ
-
3
生成AIで文書活用を進めるには？ 効率化と安全性をどう両立する
-
4
Windows PCとMacの選択制で生産性向上 LINEヤフーが実践する運用管理方法とは
-
5
DX／AI投資の壁を突破、現代の最高財務責任者が直面する課題と克服のヒント
-
6
「Google Workspace」活用事例34選、先進の生成AIによる組織変革の全貌
-
7
「人員を増やす」という選択肢はない 情シスが負の連鎖から抜け出すには？
-
8
Linuxのスキルを証明する“激推し”の認定資格はこれだ
-
9
「問題が深刻化しやすいプロジェクト管理」から脱却する方法とは？
-
10
Microsoft 365を安全に運用 うっかりミスやサイバー攻撃に備えるデータ保護術
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー