最近、ある ChatGPT の有料ユーザーが高機能音声モードを使用中に驚くべき状況に遭遇しました。彼は当初、ChatGPT と寿司についての話題を議論していましたが、突如として広告の宣伝に切り替わったのです。ユーザーの話によると、ChatGPT は予告なく「Prolon」という栄養計画について紹介し、URL を詳細に読み上げたため、この広告が完全に制御されていない形で挿入されたもののように感じられました。
この出来事はネットユーザーの間で広範な議論を引き起こしました。そのユーザーはソーシャルメディアで「あなた方は本当に有料ユーザーに広告テストをしているのか？」と疑問を投げかけました。彼はこれが技術的な障害ではなく、OpenAI が製品品質において深刻な問題を抱えていると考え、支払った費用に対するサービスの質が不均衡だと嘆きました。
画像提供：AI生成
この異常事態が偶然の出来事であるかを確認するために、他のユーザーもテストを行いました。その結果、さらに驚きの事実が発覚しました。あるユーザーが ChatGPT に「A」を連続して読ませたところ、音声が機械的に変化し始め、ついには広告内容が流れ始めたのです。その内容は DirectTV の推薦に関するもので、その後ループ状態に陥りました。ネットユーザーたちは、これは ChatGPT の音声モードにおけるバグであると確信しています。
ユーザーたちのさらなる調査により、ChatGPT が広告を流すのは稀ではなく、毎回音声チャットが終わると奇妙な音が聞こえるという経験をする人がいることが分かりました。一部のユーザーは、モデルの訓練データに潜むこれらの音声コンテンツが原因で、特定のトピックに関連してこのような広告が挿入されるのではないかと推測しています。
これに対して OpenAI の技術者はソーシャルメディアで反応し、「これは広告の挿入ではなく、一種の幻覚だ」と述べています。モデルが特定の条件下で音声の誤認識を起こす可能性があるものの、彼らはこれを改善する努力を続けていくと約束しました。
一方、他の AI 音声アシスタントのパフォーマンスはより合理的です。例えば、Doubao は「A」を連続して読むように求められた際、会話を別のトピックに誘導しました。また、Tencent の元宝はそのリクエストを拒否しました。
いずれにしても、この出来事は AI 音声アシスタントの実用上の潜在的な問題を明らかにし、そのサービス品質についての深い考察を促しました。