特に安全とセキュリティを重視するアプリケーションにおいて、AIモデルが生成した情報をどこまで信頼できるのるかという点は重要だ。誤った情報や誤解を招く結果を生成する「ハルシネーション」の問題は、メディアで広く取り上げられている。

　そうした誤りを生まない“完璧な”AIモデルであっても問題は残る。対象となる現象に関して誤った前提条件を設定すると、AIモデルは技術的には正確だが現実世界の動きを反映していない結果を出力する。

　重要なパラメータの欠落やアルゴリズムを誤った方向に導くパラメータの導入も問題となる。入力したデータの品質が出力結果にも影響する「Garbage In, Garbage Out」（ごみを入れたら、ごみが出てくる）という問題は、デジタルツインで複雑な操作や環境の再現をする際の懸念事項だ。

　セキュリティの問題も存在する。アルゴリズムは不正行為のために悪用される恐れがある。現実世界と連動するアプリケーションでは、安全性の考慮が必要だ。AIモデルが個人情報や行動データ、生体データを収集、処理、回答することに伴うプライバシーの懸念もある。アルゴリズムのバイアス（偏見）や差別などの倫理的な問題にも対処しなければならない。

　生成AIの普及は、仮想空間の構築を効率化するだけではなく、産業界での人材ニーズと雇用機会も変える。例えば、コンテンツを作成するスキルは、プロンプト（生成AIへの質問や指示）の入力と出力結果を調整するスキルに取って代わられることになる。

AIとXRの組み合わせが招く懸念

　AI技術とXRの組み合わせにはさまざまな利点があるが、欠点も伴う。AI技術は仮想空間での脅威や攻撃の検出、防止、軽減に役立つ可能性がある。一方で攻撃者もこうした技術を活用して高度な攻撃手法を編み出す。

　生成AIにも善と悪の両方の用途がある。AI技術は、インタラクティブ（双方向性があること）で、パーソナライズされた仮想空間やオブジェクト（仮想世界における物体などの構成要素）を作成し、没入感のある空間を生み出すことが可能だ。同時にAI技術はディープフェイクを作り出し、偽物の空間を生み出す可能性もある。

　攻撃者が他人になりすましたりデータを偽造したりする「スプーフィング攻撃」は、仮想空間でも起きる可能性がある。攻撃者が金銭を搾取したり、価値のあるデータや情報を入手するために、正規の企業や店舗、マーケットプレースを装った空間の偽造にも注意が必要だ。

　AI技術は、XRにおけるエンドユーザーの行動を分析して好みを予測し、カスタマイズされた体験を作り出すことに役立つ。これによって、パーソナライズされたオブジェクトやアバターを生み出し、触覚、音、視覚的な効果をエンドユーザーの好みに応じて調整できるようになる。このようなAI技術による調整は、没入感のある空間を作り出すだけではなく、さまざまなエンドユーザーが参加できる包括的な場も生み出す。

　米国連邦通信委員会（FCC）の元委員長であるトム・ウィーラー氏は「プライバシーの侵害や誤情報などの課題は、メタバースの没入性や個人識別が可能という性質によって深刻化する恐れがある」と指摘する。「メタバースは、ハラスメント、バイアス、個人や子どもの安全に対する脅威など、オンライン上のコミュニティーに内在する問題を増長させる」（ウィーラー氏）

　ウィーラー氏は論評「AI makes rules for the metaverse even more important」の中で「規制の枠組みを整備する必要がある」との主張を示す。「今、国際的な規制を策定できなければ、一握りの企業がインターネットを支配してきた歴史を繰り返すだけになる」と同氏は付け加える。