2019年10月09日 05時00分 公開
特集/連載

いじめに遭った子どもの「心の叫び」に気付くために学校が取り入れたITとは機械学習を活用

米国のある学区は、クラウドアプリケーションセキュリティサービス「ManagedMethods」を使用している。学習者が作成するドキュメントにある“有害な言葉”を検出することに役立てているという。その実態とは。

[Mark Labbe,TechTarget]

関連キーワード

教育 | 機械学習 | セキュリティ対策


画像

 ジョージア州ビッブ郡学区のサイバーセキュリティ部門は、教職員と学習者が学校のPCで特定の言葉やフレーズをドキュメントに入力すると、アラートが出るようにしている。対象となる言葉やフレーズは、暴力的なもの、いじめに関わるもの、有害な恐れのあるものなどだ。

 「自分を傷つけたい」「人生が嫌だ」「切る」「憂鬱」(ゆううつ)といったキーワード、あるいはそれに近い言葉やフレーズが入力されると、担当者であるグレッグ・ホーガン氏に通知が行く。同氏はビッブ郡学区のネットワークデータセキュリティコーディネーターだ。

 クラウドアプリケーション向けセキュリティサービス「ManagedMethods」がアラートを発すると、ホーガン氏はそのエンドユーザーが編集中のドキュメントを確認できる。このドキュメントは、概して「Microsoft Word」形式のファイルだ。ビッブ郡学区の学習者は、ドキュメントを一種のチャットメッセージとして利用し、共有可能なドキュメントを友人との間で受け渡しする傾向がある。

「ひどい状態」のセキュリティを改善

 ビッブ郡学区がサイバーセキュリティとサイバーセーフティに専用ソフトウェアを利用し始めたのはごく最近のことだ。ITとネットワークの専門家であるホーガン氏は、2017年に同学区に採用され、ネットワークデータセキュリティコーディネーターという役職を創設した。同氏によると就任当初、同学区のサイバーセキュリティは「ひどいものだった」という。

 「大量のフィッシングメールが届き、多数のアカウントが侵害されていた」とホーガン氏は振り返る。セキュリティ対策は導入されていたが、ネットワークを出入りするデータをまともに監視できていなかった。

 管理者の立場から見て、ネットワークは「効果的に可視化されていなかった」(ホーガン氏)。そこでビッブ郡学区は新たなセキュリティ対策の導入に踏み切った。セキュリティベンダーを数社調査し、2013年に創業した新興企業ManagedMethods社を選んだ。

 ManagedMethods(図)は、機械学習を使ってパターンを分析し、通常とは異なる場所からのログインなど、パターンから外れたイベントを検出する機能を持つ。サイバーセーフティ機能では、ソーシャルメディアや教育分野のデータで人工知能(AI)モデルを訓練し、クラウドアプリケーション内の有害な言葉を自動的に特定することが可能だ。例えば「自傷に関するAIモデル」などがあり、ビッブ郡学区のサイバーセキュリティチームはそのAIモデルを利用している。

図 図 ビッブ郡学区が利用している「ManagedMethods」《クリックで拡大》

 ManagedMethodsは「簡単に使える」ことがユーザーから高い評価を得ていると、ManagedMethods社の最高製品責任者を務めるスティーシー・ナラハリ氏は話す。主なユーザーは、州政府、地方自治体、学校組織、中堅企業だという。

「助けを求める叫び」に気付けるように

ITmedia マーケティング新着記事

news155.jpg

2020年上期インターネット広告市場動向と下期業種別出稿動向予測――サイバー・コミュニケーションズ調査
国内のデジタルマーケティング業界の関係者を対象にした、新型コロナ禍におけるインター...

news162.jpg

「ダークソーシャル」はユーザーの行動にどれだけ影響するか――ホットリンク調べ
DM(ダイレクトメッセージ)をきっかけとする消費者行動の実態とは。

news155.jpg

東京五輪を「訪日観戦したい」 中国58.4%、米国21.0%――ブレインパッド調べ
東京五輪に関して世界の2大国で意識調査。米中ともに約半数が東京五輪の開催を希望してお...