２０２４年、生成ＡＩの終末を告げる「モデル崩壊」が始まっている
筆者はＡＩすべてを悪者扱いするわけではありませんが、昨今のマスコミ報道、特にテレビニュースを見る限り、あまりにもＡＩに期待をかけ、その未来を楽観視しすぎているように思えます。
人手不足を補い、消費者に的確な対応を返してくれるサポート機能や、こちらの選択がより的確ですと取捨選択のアシスト機能はとても便利です。この分野ではすでに実用化レベルに達しています。
筆者がＡＩ開発の方向性に疑問を持っているのは、主にクリエイティブ性をアピールしている生成ＡＩについてです。
現在のところもっとも将来性を期待され投資の対象ともなっているのがこの分野ですから、莫大な開発資金が投下されており、開発企業も投資家もいまさら手を引けなくなっています。
そのためなのか、何を生成すれば良いのかという指針や方向性を失った開発企業も現れており、ＡＩプログラムの中にはクリエイティブ作品として成立しない成果物、いわゆるバグを吐き出し始めたようです。
AIモデルのトレーニングにAI生成データを使用すると
AIが物事を忘却してしまう「モデル崩壊」が起きるという指摘
他のAIモデルによって生成されたデータから無差別に学習すると、AIモデルは「モデル崩壊」を起こすそうです。「モデル崩壊」は、時間の経過と共にAIモデルが基礎となるデータ分布を忘れてしまうという退化プロセス…。
（Gigazine 2024年07月25日）
この現象は目新しいことではなく、人間が創作したデータを生成ＡＩが食べ尽くした先には、ＡＩの急速な崩壊が起こるだろうと、以前から言われています。
そして、高品質データの枯渇問題は、どうやら今年から始まっているようです。
生成ＡＩが作り出したでたらめな生成データを無制限に食べ始めたＡＩは、何が優れた作品かの判断はできないまま、もっとも一般的、もっとも好まれる、もっとも平均値の結果に向かってひたすら走り続け・・・、人間にとっては何の価値のないバグデータを吐き出し始めました。
上記の論文では図解を使って、「モデル破壊」がおこる過程を説明しています。
森永卓郎氏 年末株価の最新予測が衝撃過ぎた！
「いまは人類史上最大のバブル」人工知能？「あんなのインチキ」
人工知能だとか半導体とか。ありもしない期待をずっと作り上げてきたんです。金融業界の人がバックアップしてきたんですけど、人工知能なんてインチキだって、私はずっと言い続けて、あいつらがやってるのは偽装とパクリだけなんです。何のクリエイティビティもない
（デイリー 2024年8月14日）
経済アナリストの森永卓郎氏のことばですが、生成ＡＩを支えているのが金融業界で、ＡＩバブルを演出しているだけとの趣旨は、決して外れてはいないでしょう。
過去にはクリーンで安全な原子力発電、バイオエネルギー、ドイツのクリーンディーゼル、エコなＥＶ車、など各国政府や金融業界のテコ入れでそれなりに盛り上がったはやりがありました。
生成ＡＩがこのはやりのひとつにすぎないのか、それとも世の中を変革するだけのテクノロジーなのか。ここ数年のうちに結論は出るかも知れませんね。（水田享介）