TikTok hat seinen „Bericht über die Bekämpfung illegaler Aktivitäten im ersten Quartal 2025“ veröffentlicht, der die erheblichen Erfolge im Kampf gegen kriminelle Netzwerke aufzeigt. Der Bericht zeigt, dass TikTok im ersten Quartal 2,6 Millionen Konten gesperrt hat, die an „Water Army“-Aktivitäten, Betrug und unerlaubter Weiterleitung beteiligt waren. Außerdem wurden Hinweise auf mögliche Straftaten an die zuständigen Behörden gemeldet.

Durch den Aufbau eines KI-basierten Kontrollsystems konnte TikTok die Effizienz bei der Überwachung, Frühwarnung und Analyse von illegalen Aktivitäten deutlich steigern. Im Kampf gegen „Water Armies“ hat TikTok mit Hilfe von KI ein intelligentes Roboter-Tool entwickelt, das die Automatisierung der Risikoerkennung, Frühwarnung, Überwachung, Analyse und Rückverfolgung ermöglicht. Dies hat zu einer erheblichen Steigerung der Effizienz bei der Erkennung und Bearbeitung von „Fake-Likes“ geführt. Die Bearbeitungszeit einzelner Fälle beträgt nur noch Sekunden, die Gesamtgenauigkeit liegt bei über 85 %. Die Überwachungseffizienz bei Verstößen durch „Water Armies“ wurde um das 10,25-fache gesteigert, täglich werden 60 Millionen illegale Anfragen abgefangen und über 200.000 „Water Army“-Konten gesperrt.

TikTok

Im Bereich Betrugsbekämpfung verstärkt TikTok kontinuierlich die Betrugswarnungen und verbessert das „Verifizierungs-Assistenten“-Tool, um Nutzern zu helfen, zu überprüfen, ob Informationen von der offiziellen TikTok-Seite stammen, und die Kontaktinformationen des offiziellen Kundendienstes einzusehen. Die Plattform hat auch Sicherheitsmodelle für verschiedene Szenarien verbessert, um insbesondere Betrug in kleineren Chat-Gruppen zu bekämpfen, und die Warnfunktionen für gefährliche Szenarien wie „Pig-Butchering“-Betrug und illegale Weiterleitung von pornografischen Inhalten verstärkt. Seit Anfang 2025 hat TikTok insgesamt 1,4 Millionen betrugsbezogene Konten gesperrt, täglich über 800.000 Warn-SMS verschickt und fast 170.000 Betrugswarnanrufe getätigt.

Gegen illegale Weiterleitungen hat TikTok ein System zur Erkennung von Mehrkonten-Verbindungen aufgebaut, um die Verbindungen zwischen illegalen Konten in verschiedenen Phasen (vorher, währenddessen und nachher) zu unterbrechen und die illegalen Konten einheitlich zu bearbeiten. Durch den intensiven Einsatz von KI-Technologie konnte die Plattform im ersten Quartal die Anzahl der entsprechenden Beschwerden um 73,3 % senken, fast 1 Million Konten wegen illegaler Weiterleitung sperren, 7,45 Millionen illegale Videoinhalte entfernen und Hinweise an die zuständigen Behörden melden, um die Bekämpfung illegaler Weiterleitungsbanden zu unterstützen.

TikTok erklärte, dass es die KI-Technologie weiterhin einsetzen werde, um die Kontrollfähigkeiten zu verbessern, die Sicherheit der Nutzer zu gewährleisten und ein gesundes Plattform-Ökosystem zu erhalten.