抖音は「2025年第1四半期不正行為対策データ報告書」を発表し、不正産業チェーンの取り締まりにおいて顕著な成果を収めたことを明らかにしました。報告書によると、抖音は第1四半期に、水軍、詐欺、不正誘導に関与する260万件のアカウントを凍結し、違法犯罪に関連する情報を関係当局に報告しました。
抖音はAIを中核とした対策システムを構築することで、不正行為の巡回検査、早期警戒、分析などの効率を大幅に向上させました。水軍対策においては、AIを活用したインテリジェントなロボットツールを構築し、リスク検知、早期警戒、巡回検査、分析、再調査などの工程を自動化しました。「水増し」の検知と処理の効率が大幅に向上し、1件あたりの処理時間は秒単位となり、総合精度は85％を超えました。ネットワーク水軍サービスの不正行為巡回検査効率は10.25倍向上し、1日平均6000万件の不正要求を遮断し、20万件を超える水軍アカウントを凍結しました。
詐欺対策においては、抖音は継続して詐欺防止の注意喚起を強化し、「認証アシスタント」ツールをアップグレードすることで、ユーザーが情報が抖音公式から発信されたものであるかを確認し、公式カスタマーサービスとの連絡履歴を確認できるようにしました。また、プラットフォームは複数のシナリオにおけるセキュリティモデルを改善し、小規模なチャットシナリオにおける詐欺問題に重点的に対処し、「殺猪盤」やわいせつ誘導取引などの高リスクシナリオにおけるユーザーへの注意喚起機能を強化しました。2025年以降、抖音は詐欺関連アカウント140万件を凍結し、毎日80万件を超える注意喚起SMSを送信し、17万件近くの詐欺防止警告電話をかけました。
不正誘導問題に関しては、抖音は複数アカウントのリンク識別システムを構築し、事前、事中、事後などの複数の段階で不正アカウント間のつながりを断ち切り、不正アカウントを一括で処理しました。AI技術の高度な活用により、プラットフォームは第1四半期に関連する不正行為の通報件数を73.3％減少させ、不正誘導アカウントを約100万件凍結し、不正な動画コンテンツ745万件を処理し、関係当局に情報を報告し、不正誘導グループの取り締まりに協力しました。
抖音は、AI技術を活用して対策能力を継続的に向上させ、ユーザーの安全を保護し、プラットフォームの健全なエコシステムを維持していくと述べています。
