モデル崩壊 (model collapse) とは、AI が出力したテキストや画像がインターネットにアップロードされ、それらが AI の訓練データに混入し、そのデータで訓練された AI が出力したものがアップロードされる、というサイクルを繰り返すことで AI の性能が崩壊することです。最も有名な研究は Nature に採択された AI models collapse when trained on recursively generated data(再帰的に生成されたデータで学習させると、AIモデルは崩壊する)[Shumailov+ Nature 2024] でしょう。日本でも理研(当時)の幡谷さんらの Will Large-scale Generative Models Corrupt Future Datasets?(大規模生成モデルは将来のデータセットを劣化させるのか?)[Hata

