機械学習を活用

いじめに遭った子どもの「心の叫び」に気付くために学校が取り入れたITとは

米国のある学区は、クラウドアプリケーションセキュリティサービス「ManagedMethods」を使用している。学習者が作成するドキュメントにある“有害な言葉”を検出することに役立てているという。その実態とは。

公開 2019年10月09日 05時00分

更新 2022年10月05日 10時08分

著者

Mark Labbe

[TechTarget]

印刷する

　ジョージア州ビッブ郡学区のサイバーセキュリティ部門は、教職員と学習者が学校のPCで特定の言葉やフレーズをドキュメントに入力すると、アラートが出るようにしている。対象となる言葉やフレーズは、暴力的なもの、いじめに関わるもの、有害な恐れのあるものなどだ。

　「自分を傷つけたい」「人生が嫌だ」「切る」「憂鬱」（ゆううつ）といったキーワード、あるいはそれに近い言葉やフレーズが入力されると、担当者であるグレッグ・ホーガン氏に通知が行く。同氏はビッブ郡学区のネットワークデータセキュリティコーディネーターだ。

　クラウドアプリケーション向けセキュリティサービス「ManagedMethods」がアラートを発すると、ホーガン氏はそのエンドユーザーが編集中のドキュメントを確認できる。このドキュメントは、概して「Microsoft Word」形式のファイルだ。ビッブ郡学区の学習者は、ドキュメントを一種のチャットメッセージとして利用し、共有可能なドキュメントを友人との間で受け渡しする傾向がある。

「ひどい状態」のセキュリティを改善

　ビッブ郡学区がサイバーセキュリティとサイバーセーフティに専用ソフトウェアを利用し始めたのはごく最近のことだ。ITとネットワークの専門家であるホーガン氏は、2017年に同学区に採用され、ネットワークデータセキュリティコーディネーターという役職を創設した。同氏によると就任当初、同学区のサイバーセキュリティは「ひどいものだった」という。

　「大量のフィッシングメールが届き、多数のアカウントが侵害されていた」とホーガン氏は振り返る。セキュリティ対策は導入されていたが、ネットワークを出入りするデータをまともに監視できていなかった。

　管理者の立場から見て、ネットワークは「効果的に可視化されていなかった」（ホーガン氏）。そこでビッブ郡学区は新たなセキュリティ対策の導入に踏み切った。セキュリティベンダーを数社調査し、2013年に創業した新興企業ManagedMethods社を選んだ。

　ManagedMethods（図）は、機械学習を使ってパターンを分析し、通常とは異なる場所からのログインなど、パターンから外れたイベントを検出する機能を持つ。サイバーセーフティ機能では、ソーシャルメディアや教育分野のデータで人工知能（AI）モデルを訓練し、クラウドアプリケーション内の有害な言葉を自動的に特定することが可能だ。例えば「自傷に関するAIモデル」などがあり、ビッブ郡学区のサイバーセキュリティチームはそのAIモデルを利用している。

図　ビッブ郡学区が利用している「ManagedMethods」《クリックで拡大》

　ManagedMethodsは「簡単に使える」ことがユーザーから高い評価を得ていると、ManagedMethods社の最高製品責任者を務めるスティーシー・ナラハリ氏は話す。主なユーザーは、州政府、地方自治体、学校組織、中堅企業だという。

併せて読みたいお薦め記事

学校のIT導入事情

学校とセキュリティ

「助けを求める叫び」に気付けるように

　ホーガン氏をはじめとするビッブ郡学区のサイバーセキュリティチームが、ManagedMethodsの導入にかかったのはわずか数日だ。最初にログを幾つか作成し、徹底的にシステムをスキャンした。その後、同学区のネットワークと、職員と学習者両方が使用するオンラインストレージ同期サービス「OneDrive」をManagedMethodsの監視対象にした。「初期の設定後に多少の調整は必要だったが、それほど時間はかからなかった」と同氏は語る。

　用意されたAIモデルのうち、特に自傷に関するアラートモデルを修正する必要があった。ホーガン氏によれば、当初このAIモデルは、実際には検出対象でないキーワードも誤って「有害な恐れがある」と判断してしまう過検知を、非常に多く生んだという。AIモデルの修正後、こうした過検知は減った。

　ManagedMethodsが「有害な恐れがある」と見なしたキーワードを含むドキュメントは、ホーガン氏が内容を確認する。文脈に応じて他の学校職員に通知を送るとともに、その学校組織のカウンセラーに情報を送信するといった運用体制を取る。

　「最善策を判断するのはカウンセラーだ」とホーガン氏は語る。これまで、カウンセラーを巻き込む必要があるレベルまで進んだ事態はほんの一握りしかない。それでも、同氏はサイバーセーフティ機能を備えた製品／サービスを導入する重要性を主張する。助けを求める叫びに気付くためだ。「学習者は、われわれがどれほどのデータを観測し、分析しているか知らないだろう。これはプライバシーの問題ではない」（ホーガン氏）

　オンラインでは「自分の匿名性は守られている」と考えがちだが、匿名性と安全性は相いれないことがある。「学校環境では学習者の安全性を優先すべきで、オンラインの匿名性は成り立たない」とホーガン氏は説明する。ビッブ郡学区はサイバーいじめ（インターネットを使ったいじめ行為）に関するポリシーを明確に定義している。

　サイバーセキュリティ面については、ManagedMethodsとオフィススイート「Office 365」標準のセキュリティ機能を活用し、さらに職員や学習者向けのトレーニングや情報提供を増やした。その結果、フィッシングやマルウェアに関して「大きく前進した」とホーガン氏は話す。

印刷する