最近、Reddit は公式に許可されていないAI実験に対して強い措置を取ることを決定しました。この実験はチューリヒ大学の研究者が行い、4か月間にわたり、人気のあるr/changemyviewフォーラムでAIエージェントを展開することを目的としていました。これらのAIエージェントは、心的外傷の生存者や政治家などを装い、個別化された説得力のあるコメントを通じてユーザーの意見に影響を与えようとしていました。そして、それが非人間であることを明かすことなく行われていました。
この事件の暴露により、Redditコミュニティ内では大きな反響が広がりました。Redditの最高法務責任者は、この実験が法律に違反するだけでなく、倫理的な基準にも反していると公然と批判しました。RedditのCEOであるスティーブ・ハフマン氏も、Redditの魅力は本物の人間同士の交流にあると述べ、この実験はその信頼を明らかに損なうものだと指摘しました。
多くの怒りに直面して、Redditはこの実験に関連するすべてのアカウントに対する永久的な禁止処分を決定し、チューリヒ大学に対して正式な苦情を申し立てました。また、ユーザーの信頼を取り戻すため、Redditは第三者によるID認証ツールの導入を計画しています。このツールはユーザーが人間であることを確認するものであり、個人データの収集は行いません。この措置はユーザーの匿名性を保護するとともに、ますます深刻化するAIによる偽装の脅威に対応しようとするものです。
Redditは、プライバシーの保護を引き続き最優先事項としている一方で、AI技術の進化に伴い、プラットフォームもそれに応じた調整を行う必要があると述べています。将来、Redditはより安全でリアルな議論の環境を提供し、ユーザーにプラットフォームへの信頼を取り戻してもらうことを目指します。