機械学習を活用
いじめに遭った子どもの「心の叫び」に気付くために学校が取り入れたITとは
米国のある学区は、クラウドアプリケーションセキュリティサービス「ManagedMethods」を使用している。学習者が作成するドキュメントにある“有害な言葉”を検出することに役立てているという。その実態とは。
ジョージア州ビッブ郡学区のサイバーセキュリティ部門は、教職員と学習者が学校のPCで特定の言葉やフレーズをドキュメントに入力すると、アラートが出るようにしている。対象となる言葉やフレーズは、暴力的なもの、いじめに関わるもの、有害な恐れのあるものなどだ。
「自分を傷つけたい」「人生が嫌だ」「切る」「憂鬱」(ゆううつ)といったキーワード、あるいはそれに近い言葉やフレーズが入力されると、担当者であるグレッグ・ホーガン氏に通知が行く。同氏はビッブ郡学区のネットワークデータセキュリティコーディネーターだ。
クラウドアプリケーション向けセキュリティサービス「ManagedMethods」がアラートを発すると、ホーガン氏はそのエンドユーザーが編集中のドキュメントを確認できる。このドキュメントは、概して「Microsoft Word」形式のファイルだ。ビッブ郡学区の学習者は、ドキュメントを一種のチャットメッセージとして利用し、共有可能なドキュメントを友人との間で受け渡しする傾向がある。
「ひどい状態」のセキュリティを改善
ビッブ郡学区がサイバーセキュリティとサイバーセーフティに専用ソフトウェアを利用し始めたのはごく最近のことだ。ITとネットワークの専門家であるホーガン氏は、2017年に同学区に採用され、ネットワークデータセキュリティコーディネーターという役職を創設した。同氏によると就任当初、同学区のサイバーセキュリティは「ひどいものだった」という。
「大量のフィッシングメールが届き、多数のアカウントが侵害されていた」とホーガン氏は振り返る。セキュリティ対策は導入されていたが、ネットワークを出入りするデータをまともに監視できていなかった。
管理者の立場から見て、ネットワークは「効果的に可視化されていなかった」(ホーガン氏)。そこでビッブ郡学区は新たなセキュリティ対策の導入に踏み切った。セキュリティベンダーを数社調査し、2013年に創業した新興企業ManagedMethods社を選んだ。
ManagedMethods(図)は、機械学習を使ってパターンを分析し、通常とは異なる場所からのログインなど、パターンから外れたイベントを検出する機能を持つ。サイバーセーフティ機能では、ソーシャルメディアや教育分野のデータで人工知能(AI)モデルを訓練し、クラウドアプリケーション内の有害な言葉を自動的に特定することが可能だ。例えば「自傷に関するAIモデル」などがあり、ビッブ郡学区のサイバーセキュリティチームはそのAIモデルを利用している。
ManagedMethodsは「簡単に使える」ことがユーザーから高い評価を得ていると、ManagedMethods社の最高製品責任者を務めるスティーシー・ナラハリ氏は話す。主なユーザーは、州政府、地方自治体、学校組織、中堅企業だという。
「助けを求める叫び」に気付けるように
ホーガン氏をはじめとするビッブ郡学区のサイバーセキュリティチームが、ManagedMethodsの導入にかかったのはわずか数日だ。最初にログを幾つか作成し、徹底的にシステムをスキャンした。その後、同学区のネットワークと、職員と学習者両方が使用するオンラインストレージ同期サービス「OneDrive」をManagedMethodsの監視対象にした。「初期の設定後に多少の調整は必要だったが、それほど時間はかからなかった」と同氏は語る。
用意されたAIモデルのうち、特に自傷に関するアラートモデルを修正する必要があった。ホーガン氏によれば、当初このAIモデルは、実際には検出対象でないキーワードも誤って「有害な恐れがある」と判断してしまう過検知を、非常に多く生んだという。AIモデルの修正後、こうした過検知は減った。
ManagedMethodsが「有害な恐れがある」と見なしたキーワードを含むドキュメントは、ホーガン氏が内容を確認する。文脈に応じて他の学校職員に通知を送るとともに、その学校組織のカウンセラーに情報を送信するといった運用体制を取る。
「最善策を判断するのはカウンセラーだ」とホーガン氏は語る。これまで、カウンセラーを巻き込む必要があるレベルまで進んだ事態はほんの一握りしかない。それでも、同氏はサイバーセーフティ機能を備えた製品/サービスを導入する重要性を主張する。助けを求める叫びに気付くためだ。「学習者は、われわれがどれほどのデータを観測し、分析しているか知らないだろう。これはプライバシーの問題ではない」(ホーガン氏)
オンラインでは「自分の匿名性は守られている」と考えがちだが、匿名性と安全性は相いれないことがある。「学校環境では学習者の安全性を優先すべきで、オンラインの匿名性は成り立たない」とホーガン氏は説明する。ビッブ郡学区はサイバーいじめ(インターネットを使ったいじめ行為)に関するポリシーを明確に定義している。
サイバーセキュリティ面については、ManagedMethodsとオフィススイート「Office 365」標準のセキュリティ機能を活用し、さらに職員や学習者向けのトレーニングや情報提供を増やした。その結果、フィッシングやマルウェアに関して「大きく前進した」とホーガン氏は話す。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
課題解決
[NTT東日本株式会社] いま建設業に「10ギガ光回線」が必要な理由とは? -
課題解決
[NTT東日本株式会社] 情報漏えいも業務停止もさせない「止まらないネットワーク」への第一歩は? -
課題解決
[NTT東日本株式会社] 情報漏えいや業務停止に備える、安心・安定のネットワーク環境とは? -
事例
[Wrike Japan 株式会社] 年間100件超でも“プロジェクト炎上”を回避、JERAの管理体制は何が違うのか? -
事例
[Wrike Japan 株式会社] プロジェクト納品時間を最大40%短縮 事例で見る「劇的な高速化」の実現方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
「Active Directory」復旧で“詰む”企業が続出 ランサムウェアに備える4対策
-
2
なぜ「WSUS」を捨てない? 非推奨でも35%が使い続けるワケ
-
3
なぜ「Microsoft Teams」がランサムウェアの入り口になるのか?
-
4
Java SEに「Java4Shell」、WebLogicも修正――今朝の情シスニュース
-
5
企業が「Microsoft Azure」を選ばざるを得ない理由
-
6
なぜ「PHP2Shell」はパッチを当てても終わらないのか?
-
7
「Android」の極悪マルウェア、非公式アプリからうっかり感染しないためには?
-
8
「Microsoft 365」障害はなぜ拡大? “安全装置”フェイルオーバーのわな
-
9
なぜAIで「無意味な仕事」が増えるのか 人間の監視がむしろ足かせに?
-
10
パスワードはなぜ死んだか 情シスが今すぐ始めるパスキー移行の現実解
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
SCS評価制度時代の「SASE選定」ガイド
-
3
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
4
マンガで解説:情シスの負担を減らす「MDRサービスのインシデント対応」の中身
-
5
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
6
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
7
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
-
8
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
9
「止まらない」と「シンプル運用」を両立、四街道市新庁舎を支えるネットワーク
-
10
AIに何を聞いても「汎用的な答え」しか返ってこないのはなぜか?
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー