2024年5月、私たちはGoogleに簡単な料理の質問をすることができました。しかし、返ってきた答えは危険なものでした。チーズがなぜピザから滑り落ちるのかと質問した人に対して、GoogleのAIはソースに接着剤を加えるよう勧めました。本物の接着剤です。冗談ではありませんでした。そのAIはRedditに投稿されていた昔のジョークをコピーし、それを事実であるかのように繰り返していたのです。この出来事は、AIが生成した要約が信頼できる情報とジョークや誤情報を区別できない場合があることを示しました。
なぜこのようなことが起こるのでしょうか。それは、インターネットがロボットであふれつつあるからです。現在、インターネット上のトラフィックの半分以上は人間ではなくボットによるものです。これらのボットは偽の記事を書き、他のサイトの内容をコピーし、Googleをだまして自分たちのページを検索結果の上位に表示させています。
人々が日常的な質問のためにAIチャットボットを利用するようになったことで、自動化されたトラフィックは急速に増加しています。ウェブを自動的に閲覧するAIエージェントも、この自動化トラフィックの増加に影響している可能性があります。
同時に、人々がオンラインで情報を探す方法も変化しています。ユーザーをウェブサイトへ誘導する代わりに、AIを活用した検索ツールは検索結果ページ上で直接質問に答えることが増えています。
批判的な意見として、AIによる要約はユーザーが検索ページ上で直接答えを得られるため、外部サイトへのクリック数を減少させる可能性があると指摘されています。検索エンジンは、私たちがリンクをクリックして外部サイトへ移動すると利益を得られません。そのためGoogleは、利用者を自社のページ内にとどめる方法を学びました。現在では、検索をすると最初に目に入るのは実際のウェブサイトではなくAIによる要約です。私たちは答えを得て、そのまま何もクリックしなくなります。そして今、AIは他のAIの誤りから学習するようになっています。専門家はこれを「モデル崩壊（model collapse）」と呼んでいます。コピーのコピーのさらにコピーのように、繰り返されるたびに内容がぼやけていく現象です。
