「AIがAIを学習する」とどうなる 「モデル崩壊」のリスク、対策を解説：自然な回答だけど現実から“ずれる”
AIモデルの変遷が著しい。AIが生成したデータをAIが繰り返し学習するとどうなるのか？ IBMのAI フォワードデプロイドエンジニア、ミーナクシ・コダッティ氏が、その仕組みと影響、対策を解説した。
生成AIが作った文章や画像がインターネット上に増え続けている。では、将来のAIモデルが、こうしたAI生成コンテンツを大量に学習するようになったら何が起きるのか。IBMでAI フォワードデプロイドエンジニア（AI FDE）を務めるミーナクシ・コダッティ氏は「モデル崩壊」（Model Collapse）という現象を紹介する。モデル崩壊はユーザーにどのような影響を与えるのか。防ぐ手立てはあるのか。
モデル崩壊の正体と対策
モデル崩壊は、AIモデルが他のAIモデルによって生成されたデータを繰り返し学習することで、現実世界に存在する情報の分布を徐々に捉えられなくなる現象を指す。
これは、コピーした文書をさらにコピーし、そのコピーをまたコピーしていく状況に似ている。最初はほとんど違いがなくても、コピーを繰り返すたびに小さな劣化が積み重なり、最後には元の文書とかけ離れたものになる。AIモデルの場合も、欠落した情報や単純化されたパターン、ハルシネーション、統計的な偏りなどが次世代の学習データに入り込み、それを繰り返し学習することで歪みが蓄積する可能性がある。
「珍しい情報」から消えていく
モデル崩壊では、最初から学習した情報が一様に失われるわけではない。初期段階では、頻繁に登場する情報を扱う性能は維持されながら、出現頻度の低い情報から失われていく。
出現頻度の低い情報とは、学習データのごく一部にしか含まれていない希少疾患や少数言語、専門性の高い科学知識といった情報だ。さらに崩壊が進むと、出力そのものが画一的になり、元のデータが持っていた多様な構造が再現されなくなる可能性がある。
なぜ、出現頻度の低い珍しい情報から消えるのか。
人間が生み出した情報には、頻繁に登場しやすいものと、それほどたくさんの頻度で登場しないものがある。動物の中でも「犬」や食べ物であれば「ピザ」、大都市について書かれた文書は大量に存在する一方、少数民族の言語やあまり知られていない歴史的出来事、専門性の高い科学的発見について扱った文書の量は、相対的に少ない。
AIモデルがデータを生成すると、出現確率の高い情報を生成する機会も多くなる。そのデータを次世代のAIモデルが学習すれば、もともと少なかった情報の比率はさらに小さくなる。これを世代ごとに繰り返せば、現実には存在している情報でも、AIモデルの中ではほとんど存在しないものとして扱われかねない。
例えば、あるAIモデルが、大量の犬と猫の画像と、少数のアルビノのクジャクの画像を学習したとする。最初のAIモデルは3種類を学習できても、そのAIモデルが生成する画像ではアルビノのクジャクは少なくなりやすい。その生成画像を次のAIモデルが学習するとアルビノのクジャクはさらに減り、世代を重ねるうちにほとんど消えてしまう。現実からアルビノのクジャクが消えたのではなく、AIモデルが持つ「現実の表現」が変化したことになる。
モデル崩壊で怖いのは「明らかに間違う」ことではない
モデル崩壊によって懸念されるのは、単純にAIモデルの回答精度が下がることだけではない。懸念されるポイントの1つ目は、多様性の低下だ。
AIモデルの出力が平均的な回答へと収束し、複数のAIモデルが似たような文章や画像を生成するようになる可能性がある。AIモデルが生成した情報を別のAIモデルが学習し、その出力をさらに別のAIモデルが学ぶ循環が続けば、独自性のある情報が減っていく。
もう1つは、事実性の低下だ。モデル崩壊が進んでも、文章の文法や流暢さまで直ちに失われるとは限らない。自然で自信に満ちた文章を生成しながらも、現実との対応関係は徐々に弱くなる恐れがある。
バイアスが増幅される可能性もある。ある文化や言語、人口集団が、初期モデルの生成結果で実際より少ない頻度で表現されていたとする。その生成データを次世代のモデルが学習すると、その偏りを引き継ぎ、世代を重ねるにつれてさらに過小に表現される可能性がある。少数言語や専門領域の知識がモデル崩壊の議論で重視される理由の1つだ。
既にAIの「モデル崩壊」は始まっているのか
コダッティ氏によると、注意が必要なのは、「現在の生成AIが既にモデル崩壊している」と単純に結論付けることはできない点だ。
モデル崩壊の仕組みは、制御された実験環境では確認されている。一方、実際のAI開発において、どの程度深刻な問題になるのかについては議論が続いているとコダッティ氏は指摘する。
コダッティ氏によると、大手AIベンダーは、AIモデルが生成したデータをそのまま無条件に次世代モデルへ投入しているわけではないという。人間によるフィードバックや精査したデータセット、データのフィルタリング、品質管理といったプロセスが存在する。RAG（検索拡張生成）のように、外部情報を参照させる仕組みもある。
「合成データを使わない」が答えではない
では、モデル崩壊を防ぐにはどうすればいいのか。コダッティ氏は1つの選択肢として、人間が生み出したデータを継続的に学習に取り入れる取り組みを紹介する。AIモデルが生成したデータだけで学習を循環させるのではなく、実世界に由来するデータを組み込むことで、モデルが元の情報分布から離れていくことを防ぐ。
データの出所を把握する「データプロビナンス」も重要な取り組みだ。そのデータは人間が作ったものなのか、AIモデルが生成したのか。検証済みの情報なのかといったデータを記録し、追跡できるようにすれば、AIモデルが生成したデータだけを再帰的に学習する事態を避けやすくなる。
ただし、AIモデルによる合成データそのものを排除すればよいわけではない。重要なのは、その品質だ。検証、多様性の確保、外部情報との照合、人間による確認などを組み合わせれば、合成データを学習に利用することも可能だ。
RAGを利用し、AIモデル内部に蓄積された知識だけで回答するのではなく、必要に応じて外部の情報源を検索させる方法もコダッティ氏は紹介する。複数のAIに互いの出力を検証させ、正確性や一貫性、新規性、外部情報との整合性を確認してから学習データとして採用する方法も検討されているという。
生成AIが作った文章や画像、コード、動画が増えれば、将来のAIがそれらを再び学習する機会も増える。そこで重要になるのは、「AIが生成したデータか、人間が作ったデータか」だけで学習データを判断するのではなく、どこから来たデータなのか、現実とのつながりを検証できるのか、希少な情報や多様性を維持できているのかを管理することだ。
AIの性能競争ではモデルの規模や計算能力に目が向きやすい。しかし、AIが長期的に現実世界を正しく捉え続けるには、そのAIが何を学んでいるのかという「データの品質」を管理することも重要になる。
本稿は、IBM Technologyが2026年8月6日に公開した動画「What Is AI Model Collapse? Why AI Could Forget Reality」を基に作成しました。
Copyright © ITmedia, Inc. All Rights Reserved.
