「自己学習するAI」を実現するフレームワーク「SEAL」をMITの研究チームが発表、AIが新たな情報を自分で編集して強化学習してどんどん賢くなる
https://gigazine.net/news/20250620-ai-self-adapting-language-model/
SEALによる自己学習を繰り返せば無限に性能を向上させられるように思えますが、実際の実験環境では自己学習を繰り返すことで「以前は実行できていたタスクが実行不能になる」という現象が発生することが確認されました。研究チームはこの現象を「壊滅的な忘却」と呼んでおり、忘却を避けて知識を保持するメカニズムの必要性を指摘しています。
12
