TikTok a publié son « Rapport sur la lutte contre les activités illégales du premier trimestre 2025 », montrant des résultats significatifs dans la lutte contre les chaînes criminelles. Le rapport indique que TikTok a bloqué 2,6 millions de comptes impliqués dans des activités illégales telles que les armées de robots, les fraudes et le trafic illégal de données au cours du premier trimestre, et a signalé les indices de crimes présumés aux autorités compétentes.
TikTok a considérablement amélioré l'efficacité de ses contrôles, de ses alertes et de ses analyses des cas de violation des règles grâce à un système de gestion basé sur l'IA. En ce qui concerne la lutte contre les armées de robots, TikTok a mis en place un outil de robot intelligent grâce à l'IA, automatisant la détection des risques, les alertes, les contrôles, les analyses et les vérifications. Cela a considérablement amélioré l'efficacité de la plateforme en matière d'identification et de traitement des « gonflements » artificiels de statistiques. Le temps de traitement d'un cas est désormais de l'ordre de la seconde, avec un taux de précision global supérieur à 85 %. L'efficacité des contrôles des violations liées aux services d'armées de robots a été multipliée par 10,25, avec une interception quotidienne de 60 millions de demandes illégales et le blocage de plus de 200 000 comptes d'armées de robots.
Concernant la lutte contre la fraude, TikTok renforce continuellement ses alertes anti-fraude, améliore son outil « assistant de vérification » pour aider les utilisateurs à vérifier si les informations proviennent bien de TikTok et à consulter l'historique de leurs contacts avec le service client officiel. La plateforme a également amélioré ses modèles de sécurité dans plusieurs scénarios, en s'attaquant notamment aux problèmes d'escroquerie dans les petites conversations privées, et a renforcé les alertes pour les utilisateurs dans les scénarios à haut risque tels que les « arnaques romantiques » et le trafic de contenu à caractère sexuel. Depuis le début de l'année 2025, TikTok a bloqué 1,4 million de comptes liés à des fraudes, envoyé plus de 800 000 SMS d'alerte par jour et passé près de 170 000 appels d'alerte anti-fraude.
Pour lutter contre le trafic illégal de données, TikTok a mis en place un système d'identification des liens entre plusieurs comptes, coupant les liens entre les comptes illégaux à différents stades (avant, pendant et après), et appliquant des sanctions uniformes aux comptes illégaux. Grâce à l'utilisation approfondie de l'IA, la plateforme a réduit de 73,3 % le nombre de signalements de violations au cours du premier trimestre, bloqué près d'un million de comptes impliqués dans ce trafic, supprimé 7,45 millions de contenus vidéo illégaux et signalé les indices aux autorités compétentes pour participer à la lutte contre les groupes organisés impliqués dans ce trafic.
TikTok a déclaré qu'elle continuerait à utiliser l'IA pour améliorer ses capacités de gestion, protéger la sécurité des utilisateurs et maintenir un écosystème sain sur sa plateforme.