機械学習を活用
いじめに遭った子どもの「心の叫び」に気付くために学校が取り入れたITとは
米国のある学区は、クラウドアプリケーションセキュリティサービス「ManagedMethods」を使用している。学習者が作成するドキュメントにある“有害な言葉”を検出することに役立てているという。その実態とは。
ジョージア州ビッブ郡学区のサイバーセキュリティ部門は、教職員と学習者が学校のPCで特定の言葉やフレーズをドキュメントに入力すると、アラートが出るようにしている。対象となる言葉やフレーズは、暴力的なもの、いじめに関わるもの、有害な恐れのあるものなどだ。
「自分を傷つけたい」「人生が嫌だ」「切る」「憂鬱」（ゆううつ）といったキーワード、あるいはそれに近い言葉やフレーズが入力されると、担当者であるグレッグ・ホーガン氏に通知が行く。同氏はビッブ郡学区のネットワークデータセキュリティコーディネーターだ。
クラウドアプリケーション向けセキュリティサービス「ManagedMethods」がアラートを発すると、ホーガン氏はそのエンドユーザーが編集中のドキュメントを確認できる。このドキュメントは、概して「Microsoft Word」形式のファイルだ。ビッブ郡学区の学習者は、ドキュメントを一種のチャットメッセージとして利用し、共有可能なドキュメントを友人との間で受け渡しする傾向がある。
「ひどい状態」のセキュリティを改善
ビッブ郡学区がサイバーセキュリティとサイバーセーフティに専用ソフトウェアを利用し始めたのはごく最近のことだ。ITとネットワークの専門家であるホーガン氏は、2017年に同学区に採用され、ネットワークデータセキュリティコーディネーターという役職を創設した。同氏によると就任当初、同学区のサイバーセキュリティは「ひどいものだった」という。
「大量のフィッシングメールが届き、多数のアカウントが侵害されていた」とホーガン氏は振り返る。セキュリティ対策は導入されていたが、ネットワークを出入りするデータをまともに監視できていなかった。
管理者の立場から見て、ネットワークは「効果的に可視化されていなかった」（ホーガン氏）。そこでビッブ郡学区は新たなセキュリティ対策の導入に踏み切った。セキュリティベンダーを数社調査し、2013年に創業した新興企業ManagedMethods社を選んだ。
ManagedMethods（図）は、機械学習を使ってパターンを分析し、通常とは異なる場所からのログインなど、パターンから外れたイベントを検出する機能を持つ。サイバーセーフティ機能では、ソーシャルメディアや教育分野のデータで人工知能（AI）モデルを訓練し、クラウドアプリケーション内の有害な言葉を自動的に特定することが可能だ。例えば「自傷に関するAIモデル」などがあり、ビッブ郡学区のサイバーセキュリティチームはそのAIモデルを利用している。
図 ビッブ郡学区が利用している「ManagedMethods」《クリックで拡大》
ManagedMethodsは「簡単に使える」ことがユーザーから高い評価を得ていると、ManagedMethods社の最高製品責任者を務めるスティーシー・ナラハリ氏は話す。主なユーザーは、州政府、地方自治体、学校組織、中堅企業だという。
「助けを求める叫び」に気付けるように
ホーガン氏をはじめとするビッブ郡学区のサイバーセキュリティチームが、ManagedMethodsの導入にかかったのはわずか数日だ。最初にログを幾つか作成し、徹底的にシステムをスキャンした。その後、同学区のネットワークと、職員と学習者両方が使用するオンラインストレージ同期サービス「OneDrive」をManagedMethodsの監視対象にした。「初期の設定後に多少の調整は必要だったが、それほど時間はかからなかった」と同氏は語る。
用意されたAIモデルのうち、特に自傷に関するアラートモデルを修正する必要があった。ホーガン氏によれば、当初このAIモデルは、実際には検出対象でないキーワードも誤って「有害な恐れがある」と判断してしまう過検知を、非常に多く生んだという。AIモデルの修正後、こうした過検知は減った。
ManagedMethodsが「有害な恐れがある」と見なしたキーワードを含むドキュメントは、ホーガン氏が内容を確認する。文脈に応じて他の学校職員に通知を送るとともに、その学校組織のカウンセラーに情報を送信するといった運用体制を取る。
「最善策を判断するのはカウンセラーだ」とホーガン氏は語る。これまで、カウンセラーを巻き込む必要があるレベルまで進んだ事態はほんの一握りしかない。それでも、同氏はサイバーセーフティ機能を備えた製品／サービスを導入する重要性を主張する。助けを求める叫びに気付くためだ。「学習者は、われわれがどれほどのデータを観測し、分析しているか知らないだろう。これはプライバシーの問題ではない」（ホーガン氏）
オンラインでは「自分の匿名性は守られている」と考えがちだが、匿名性と安全性は相いれないことがある。「学校環境では学習者の安全性を優先すべきで、オンラインの匿名性は成り立たない」とホーガン氏は説明する。ビッブ郡学区はサイバーいじめ（インターネットを使ったいじめ行為）に関するポリシーを明確に定義している。
サイバーセキュリティ面については、ManagedMethodsとオフィススイート「Office 365」標準のセキュリティ機能を活用し、さらに職員や学習者向けのトレーニングや情報提供を増やした。その結果、フィッシングやマルウェアに関して「大きく前進した」とホーガン氏は話す。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
新着ホワイトペーパー PR
-
製品レビュー
[Dropbox Japan株式会社] ランサムウェア対策の重要ポイント バックアップがあっても安心できない理由 -
製品資料
[Dropbox Japan株式会社] 失敗しないDropbox導入 移行の進め方と事前設計の注意点 -
製品レビュー
[Dropbox Japan株式会社] 取引先から聞かれる前に知っておきたい、SCS評価制度とファイル共有管理の基本 -
製品資料
[TXOne Networks Japan合同会社] 沖電気工業に学ぶ、OT環境の「リスク可視化」から始めるセキュリティ対策 -
事例
[Neatframe株式会社] 船井総研HDのビデオ会議はここが違う 美観・品質・操作性を追求した環境構築術
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
Microsoft 365導入後も稟議は「Excelをメールで回覧」 承認が止まる理由
-
2
「Copilot」はなぜ放置される？ “議事録要約止まり”を脱する処方箋
-
3
IT製品の導入に関するアンケート「サーバ＆ストレージ」編
-
4
「Windows」の不要なファイルを安全に消して容量を空ける方法
-
5
半数がブルーカラー転向を視野に？ ベテランエンジニアを追い込む“54歳の壁”
-
6
生成AIが普及しても「技術書」を手放せないエンジニアの本音
-
7
AIエージェントで「ERPの魔改造」復活の懸念 せっかくのクリーンコアが崩壊
-
8
米国防総省で300万人分の個人情報が流出 その「意外な原因」と教訓
-
9
OpenAIやAnthropicでさえ制御不能 2026年夏「3大サイバー攻撃」の衝撃
-
10
増えすぎたAIエージェントが野良化 幹部の36％がインシデント発生時に隠したいと回答
ホワイトペーパーランキング PR
-
1
AI駆動攻撃にどう対抗する？ 超速の攻撃からエンドポイントを保護する方法
-
2
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
3
家庭用Wi-Fiルーターの業務利用は危険？ 避けるべき理由と具体的な対策
-
4
最速72分でデータが流出？ 最新の脅威トレンドや侵入手法から分かった防衛策
-
5
「IT史に名を残すシステム障害」8選
-
6
不審メールの経路や見せ方に変化？ 2026年夏の3事例から見えた動向と対処方法
-
7
マンガで学ぶXDR／MDRのメリット、中小企業のセキュリティ強化になぜ有効か？
-
8
SASE選定は「見極め力」で大きな差――本当に必要な製品を選ぶための6つの視点
-
9
Wi-Fi 7はまだ導入しなくてよい？ AI時代の企業ネットワーク戦略、次の一手は
-
10
脱VMwareに成功した企業は何をどう実践した？ 事例に学ぶ戦略立案＆実装のコツ
TechTargetジャパン SNS
@techtarget_itmをフォロー
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー