2019年10月09日 05時00分 公開
特集/連載

機械学習を活用いじめに遭った子どもの「心の叫び」に気付くために学校が取り入れたITとは

米国のある学区は、クラウドアプリケーションセキュリティサービス「ManagedMethods」を使用している。学習者が作成するドキュメントにある“有害な言葉”を検出することに役立てているという。その実態とは。

[Mark Labbe,TechTarget]

関連キーワード

教育 | 機械学習 | セキュリティ対策


画像

 ジョージア州ビッブ郡学区のサイバーセキュリティ部門は、教職員と学習者が学校のPCで特定の言葉やフレーズをドキュメントに入力すると、アラートが出るようにしている。対象となる言葉やフレーズは、暴力的なもの、いじめに関わるもの、有害な恐れのあるものなどだ。

 「自分を傷つけたい」「人生が嫌だ」「切る」「憂鬱」(ゆううつ)といったキーワード、あるいはそれに近い言葉やフレーズが入力されると、担当者であるグレッグ・ホーガン氏に通知が行く。同氏はビッブ郡学区のネットワークデータセキュリティコーディネーターだ。

 クラウドアプリケーション向けセキュリティサービス「ManagedMethods」がアラートを発すると、ホーガン氏はそのエンドユーザーが編集中のドキュメントを確認できる。このドキュメントは、概して「Microsoft Word」形式のファイルだ。ビッブ郡学区の学習者は、ドキュメントを一種のチャットメッセージとして利用し、共有可能なドキュメントを友人との間で受け渡しする傾向がある。

「ひどい状態」のセキュリティを改善

 ビッブ郡学区がサイバーセキュリティとサイバーセーフティに専用ソフトウェアを利用し始めたのはごく最近のことだ。ITとネットワークの専門家であるホーガン氏は、2017年に同学区に採用され、ネットワークデータセキュリティコーディネーターという役職を創設した。同氏によると就任当初、同学区のサイバーセキュリティは「ひどいものだった」という。

 「大量のフィッシングメールが届き、多数のアカウントが侵害されていた」とホーガン氏は振り返る。セキュリティ対策は導入されていたが、ネットワークを出入りするデータをまともに監視できていなかった。

 管理者の立場から見て、ネットワークは「効果的に可視化されていなかった」(ホーガン氏)。そこでビッブ郡学区は新たなセキュリティ対策の導入に踏み切った。セキュリティベンダーを数社調査し、2013年に創業した新興企業ManagedMethods社を選んだ。

 ManagedMethods(図)は、機械学習を使ってパターンを分析し、通常とは異なる場所からのログインなど、パターンから外れたイベントを検出する機能を持つ。サイバーセーフティ機能では、ソーシャルメディアや教育分野のデータで人工知能(AI)モデルを訓練し、クラウドアプリケーション内の有害な言葉を自動的に特定することが可能だ。例えば「自傷に関するAIモデル」などがあり、ビッブ郡学区のサイバーセキュリティチームはそのAIモデルを利用している。

図 図 ビッブ郡学区が利用している「ManagedMethods」《クリックで拡大》

 ManagedMethodsは「簡単に使える」ことがユーザーから高い評価を得ていると、ManagedMethods社の最高製品責任者を務めるスティーシー・ナラハリ氏は話す。主なユーザーは、州政府、地方自治体、学校組織、中堅企業だという。

「助けを求める叫び」に気付けるように

ITmedia マーケティング新着記事

news017.jpg

消費財メーカーを悩ませる「店舗」という大問題、SaaSならどう解決できる?
小売業が激動する時代の消費財メーカーにSaaSができることは何か。Salesforceの新製品「C...

news035.jpg

企業の魅力は人の魅力――電通パブリックリレーションズ「第4回魅力度ブランディング調査」
電通パブリックリレーションズ内の企業広報戦略研究所は、生活者1万人を対象とした「第4...

news023.jpg

UberとLinkedInが初ランクイン テクノロジーブランドはなぜ強い?――「Best Global Brands 2019」
世界のブランド価値評価ランキング「Best Global Brands 2019」トップ3は不動のApple、Go...