iStock.com/kentoh

　勧告ではAIにおける倫理を育む指針とするため、10の原則（安全性とセキュリティ、公平性と差別の排除、均整と無害、持続可能性、透明性と説明責任、認知とリテラシーなど）を示し、その原則を実現する方法を政策的処置によって裏付けている。

　さらにデータ保護と人権の観点を含め、システムの広範な社会経済的影響をAIの開発者とデプロイ担当者が確実に考慮する方法として倫理的影響評価の使用を強く推奨し、AIシステムに起因するあらゆる危害に効果的に対処できるよう「強力な執行メカニズムと是正措置」を講じることを加盟国に求めている。

　AIシステムをどのようにデプロイすべきか、デプロイすべきでないかも示している。「災害のリスクからの回復、環境と生態系の監視、保護、再生、地球の保全を目的としてAIソリューションの開発と採用を権利に基づく倫理的なものにするため、加盟国は適切なインセンティブを導入する必要がある」

　「このようなAIシステムは、ライフサイクル全体を通じて地域および先住民のコミュニティーの参加を促し、循環経済型のアプローチと持続可能な利用・製造パターンをサポートする必要がある」

　人権の侵害や悪用のためにAIを使用すべきではないとして、「特に社会的格付けや大衆監視の目的でAIシステムを使用すべきではない」と補足している。

　加盟国が社会的格付けや大衆監視の可能性を抑止する規制を考案するに当たっては、最終責任は常に人間にあることを保証しなければならず、AI自体に法的人格を与えてはならないとも強調されている。

　「AIに関して人類に利益をもたらすルールを世界は必要としている。AIの倫理に関する今回の勧告がその答えだ。この勧告は、初の世界的な規範的枠組みを設定すると同時に、加盟国に勧告を適用する責任を与える。ユネスコはこの勧告の導入に関して加盟国を支援する。また導入の進捗（しんちょく）と実践を定期的に報告することを加盟国に求める」とユネスコのオードレ・アズレ事務局長は語る。

　2021年9月、国連人権理事会が報告書（A/HRC/48/31）を公開した。この報告書は、国家も企業もその多くがAIシステムのデプロイを急いでおり、AIシステムが人権に与える影響について適切なデューデリジェンスをしていないことが多いことを明らかにした。

　「人権デューデリジェンスプロセスには、企業が引き起こす恐れのある人権への悪影響、企業が寄与する恐れがある人権への悪影響、または企業に直接結び付く人権への悪影響を特定、評価、防止、軽減する目的がある」とし、デューデリジェンスはAIシステムのライフサイクル全体を通じて実施すべきと補足している。

　「デューデリジェンスプロセスによってAIの使用が人権と相いれないことが判明したら、その被害を軽減する有意義な方法は存在しないのでAIの使用をそれ以上追求すべきではない」

　この報告書の発表は、国連人権高等弁務官ミシェル・バチェレ氏が喫緊の問題として人権に深刻なリスクをもたらすAIシステムの販売と使用の一時停止を求めたコメントと一致する。

大衆監視に関するユネスコ加盟国の実績

　ユネスコの勧告は、既に普及しているAIによる大衆監視の終了に中国が合意した初めてのケースだ。だが米国はユネスコに加盟していないため、米国は勧告に自発的に署名していないことに注意が必要だ。

　2021年10月、英国開発学研究所とADRN（African Digital Rights Network）は、ユネスコ加盟国のエジプト、ケニア、ナイジェリア、セネガル、南アフリカ、スーダンの6カ国における監視の法律と慣行の比較分析を発表した。

　この分析の結果、各国政府は電子通信を大量にまとめてスキャンするためのAIベースのインターネットおよびモバイル監視など、市民を違法に監視する新しいデジタル技術の利用や投資を行っていることが明らかになった。

　大衆監視はユネスコの他の加盟国でも行われている。英国の秘密情報収集機関GCHQ（Government Communications Headquarters）はNSA（National Security Agency：米国国家安全保障局）と機密契約し、英国市民の通話、インターネット、電子メールの記録を違法に分析していることが判明している。GCHQはAIの使い方を正確には公式発表していない。2021年2月に公開された政策文書では監視に言及していないものの、英国の安全を守るために責任を持ってAIを使っているとしている。

　EU（欧州連合）は法的拘束力のある方法でAIの使用を規制しようと試みている。だがEUが提案するAI法は、権力の構造的不均衡を解決しない限り基本的な権利を本当の意味で保護することはないと市民権、人権、デジタル権をうたう100以上の団体が声を上げている。

　ヒューマン・ライツ・ウォッチも声明を出し（2021年11月）、AI法はEUの社会的セーフティーネットを弱体化させる恐れがあり、人々を監視や差別から守る準備が整っていないと主張する。

　ヒューマン・ライツ・ウォッチのアモス・トー氏（AIおよび人権に関する上級研究員）は、この提案では貧困層の「虐待的な監視とプロファイリング」を最終的に終わらせることはできないだろうと言う。「EUの提案は、貧困層が自活し、仕事を見つけるのに必要な支援を不当に取り除くアルゴリズムから人々を守るには不十分だ」