学校が今からでも知っておくべき「生成AI」の“これだけのリスク”：「生成AI」は教育をどう変えるのか【第2回】

教育機関は「生成AIツール」を生かすことで、校務における負担軽減といった効果が期待できる。ただし懸念はゼロではない。教育機関は生成AIツールの活用を進める上で、どのような点に注意すればよいのか。

[Alex Scroxton，TechTarget]

　テキストや画像などを自動生成する人工知能（AI）技術「ジェネレーティブAI」（生成AI）を実装したツールは、教員の有能な事務補佐役になる可能性がある――。英国教育省（DfE：Department for Education）はこうした見方を示す。ただし教育機関が生成AIツールのメリットを享受するには、あることに注意が必要だ。

だから「“無防備”での生成AI利用」は危ない

併せて読みたいお薦め記事

連載：「生成AI」は教育をどう変えるのか

• 第1回：“ChatGPT禁止”はただの思考停止　学校は「生成AI」とちゃんと向き合うべし

生成AI関連の注目トピック

• いまさら聞けない「ChatGPT」と“有力ライバル”「Bard」の基礎知識
• ChatGPTこそが「新しい時代の“iPhone”」だ
• ChatGPTが宣告　「プログラマーはコーディングさえできればよい」時代の終わり

　生成AIツールを正しく使えば、教員は校務を効率化でき、学習者と向き合う時間を確保しやすくなり、核となる教育任務により専念できるようになる。教育機関がこうした校務効率化を目的に生成AIツールを使うとしても、データ侵害や学習者のプライバシーの侵害が起こらないように注意を払う必要があると英国教育省は指摘する。

　例えば教員は、学習者の個人データや機密データに、生成AIツールがアクセスできないようにするといった注意が必要だ。オンラインサービスの生成AIツールの場合、入力したデータは全てインターネットに公開されるリスクがあることを理解しなければならない。

　直接的に生成AIツールを利用しなくても、教員はサイバーセキュリティに対する意識を高めることが望ましい。例えば攻撃者が生成AIツールを使えば、説得力のあるフィッシングメールを生成しやすくなる。教育機関がランサムウェア（身代金要求型マルウェア）攻撃を含め、深刻なサイバー攻撃の被害を受けるリスクが高まる可能性があるのだ。

　生成AIツールは、信頼できない情報を生成する可能性がある。そのため出力内容の適切性と正確性を確保するためのチェックが不可欠だと言える。

---

　次回は、教員の目の届きにくい家庭学習における、生成AIツール活用に関する英国教育省の見解を紹介する。

Computer Weekly発　世界に学ぶIT導入・活用術

米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。