以前から言われていたのですが、AI生成物があふれるとAIを崩壊させるようです。
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告
今は、人が作ったオリジナルを正しく学習させているため、人が驚くようなもの、良いものをたくさん生み出しています。しかし、AI成果物があふれて学習材料がAI成果物ばかりになると、変な方向に進んでいく可能性があります。情報が偏るからです。
AIが発展すると、絵を描く人や文章を書く人が必要なくなる、なんて話があったのですが、オリジナルを人間が作らないと、AIは変な方向に進化してしまいそうです。絵や文章を作る仕事が完全に無くなることはないでしょう。
ただ、もしかすると、AIがAI成果物から正しい学習をできるようになると、シンギュラリティが起こるかもしれません。そのためには、AIが「これは失敗、良くないから学習しない」と判断できるようにならないといけません。
