Microsoftが語る機械学習の成果と懸念機械学習でBad Rabbitを発見

「Bad Rabbit」をわずか14分で悪意のあるマルウェアであると立証するなど、Microsoftの機械学習利用は成果を上げている。だがサイバーセキュリティ分野のCTOのケリー氏は機械学習に懸念を抱いている。

2019年09月19日 08時00分 公開
[Aaron TanComputer Weekly]

 セキュリティオペレーションセンターは、何兆件ものセキュリティシグナルを収集している。これらのシグナルが本格的なサイバー攻撃に変わる前に、それを悪意のあるアクティビティーとして警告する機械学習がある。この機械学習がなければ、こうしたシグナルを理解するのはセキュリティアナリストにとって途方もない作業になる。

 例えば「Microsoft Azure」(以下、Azure)では、毎日6兆5000億件ものセキュリティシグナルが生まれる。同社には数百人のセキュリティ担当者がいる。だが、このように多くのデータポイントを解析することは人間の能力を超えている。そう話すのは、同社でサイバーセキュリティ分野のCTO(最高技術責任者)を務めるダイアナ・ケリー氏だ。

 同氏はシンガポールで開催された「RSA Conference 2019 Asia Pacific & Japan」で本誌のインタビューに答えて次のように話した。「このような場合に役立つのが機械学習だ。攻撃についての情報の早期検出をサポートし、人間には見えないものを見つける」

 Microsoftは複合検知やモンテカルロシミュレーションなどの技法を使って、正確性の低いシグナルを正確性の高いシグナルへと変えている。コンピュータは学習するにつれ、人間には分からないセキュリティイベントを検知するようになる。

 機械学習は、脅威対策のサイクルを速めるのに役立つ。だが、機械学習に携わる多様なチームを用意しなければ、データと脅威のモデルにバイアスが生まれ、犯罪者に攻撃の経路を与える恐れがある。

 ケリー氏は、データに無意識のバイアスが生まれることを懸念している。ケリー氏は、履歴書を解析して候補者を特定する機械学習ツールを例に挙げた。男性従業員が多い企業の場合、データには既にバイアスが存在するという。

 「コンピュータエンジニアリングやサイバーセキュリティの分野には男性が多い。男性従業員が多ければ、ツールは男性を優れた候補者であると判断するだろう」と同氏は話す。

 「こうした現象は、ユーザーに金融情報を提供するオンラインサイトでも生じる。これまで男性の投資家が多かったという理由で、女性の投資家は投資の新しいチャンスについての情報が得にくい」(ケリー氏)

 サイバー攻撃者は、被害者の判断を誤らせるために機械学習モデルが利用するデータを既に操作し始めている。

 「攻撃者は、分類予定の画像の画素を単純に変えるなど、注目すべき攻撃を幾つか試している。その結果、人間に提供される分類が変わる恐れがある。攻撃者は分類方法の理解を試み、分類に影響を与えようとしている」とケリー氏は話す。

 調査会社Gartnerによると、セキュリティに機械学習を早くから導入しているのは、マルウェア、ユーザー行動分析、エンドポイントセキュリティなどの分野だという。同社は、2025年までに機械学習をセキュリティ戦略に含めるのが当たり前になると予測する。

Copyright © ITmedia, Inc. All Rights Reserved.

髫エ�ス�ス�ー鬨セ�ケ�つ€驛「譎擾スク蜴・�。驛「�ァ�ス�、驛「譎冗樟�ス�ス驛「譎「�ス�シ驛「譏懶スサ�」�ス�ス

事例 富士通株式会社

富士通が実践、AI時代に最適な設計プロセスを実現する方法

製造業の設計現場では、設計プロセスの複雑化などの課題が山積している。こうした中、注目を集めているのが生成AIの活用だ。本資料では、生成AIがもたらす設計業務の未来について、詳しく解説する。

製品レビュー 富士通株式会社

小売業の売り上げと利益を向上させる鍵、AIを活用した最適な価格設定の方法

小売業では、売り上げと利益を向上させる価格設定が重要だが、迅速かつ適切な設定は労力もかかり困難を極める。膨大な商品の需要バランスを見極め、最適な価格調整を自動的に算出することがAI活用にて実現可能だ。その次世代の方法とは。

製品資料 富士通株式会社

AI活用で価格を最適化、小売業界のダイナミックプライシング推進方法

リアルタイムで価格を変動させる「ダイナミックプライシング」。小売業界においてその重要性が高まっているが、導入をためらう企業は少なくない。その理由を確認しながら、課題解決策となるAI技術を活用したアプローチを紹介する。

製品資料 ServiceNow Japan合同会社

生成AI活用を社内全体で推進し、生産性向上やビジネス変革につなげる方法とは?

生成AIのビジネスにおける活用を検討する際には、実際に自社のどのような業務領域に、どのような形で導入するかを考慮する必要がある。本資料では、生産性向上につながる生成AI戦略について詳しく解説する。

製品資料 アルテリックス・ジャパン合同会社

AIを活用してより良いインサイトを獲得、「AI対応データ」を準備する方法

AIをビジネスで生かし、大きな成果を得るには、「AI対応データ」が必要だ。しかし、AI対応データを手に入れるためには、地道なデータ準備が不可欠となる。本資料では、AI対応データを準備するための6つのステップを紹介する。

アイティメディアからのお知らせ

郢晏生ホヲ郢敖€郢晢スシ郢ァ�ウ郢晢スウ郢晢ソスホヲ郢晢ソスPR

From Informa TechTarget

「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ

「テレワークでネットが遅い」の帯域幅じゃない“真犯人”はこれだ
ネットワークの問題は「帯域幅を増やせば解決する」と考えてはいないだろうか。こうした誤解をしているIT担当者は珍しくない。ネットワークを快適に利用するために、持つべき視点とは。

Microsoftが語る機械学習の成果と懸念:機械学習でBad Rabbitを発見 - TechTargetジャパン エンタープライズAI 隴�スー騾ケツ€髫ェ蛟�スコ�ス

ITmedia マーケティング新着記事

news017.png

「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。

news027.png

「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。

news023.png

「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...