Kürzlich fand die globale AI for Good (KI zum Wohle der Menschheit) Konferenz der Vereinten Nationen im schweizerischen Genf statt. Peng Jin, stellvertretender Generaldirektor des Technologie-Strategie- und Entwicklungsamts von Ant Group, wurde eingeladen, chinesische technologische Fortschritte bei der Bekämpfung von „Deepfake“ in Finanzszenarien zu präsentieren. Gleichzeitig gab er bekannt, dass die Frequenz von Deepfake-Angriffen auf Gesichter bei Banken in Südostasien, die von Ant Science & Technology betreut werden, von einem Hochstand von 10 % auf 4 % gesunken ist. Die Erkennungsgenauigkeit liegt weiterhin bei 99,9 % und kann eine wiederverwendbare „China-Lösung“ für die globale KI-Sicherheitsverwaltung bieten.
Stellvertretender Generaldirektor Peng Jin von Ant Group spricht bei der AI for Good-Konferenz über chinesische technologische Erfolge
Die globale AI for Good-Konferenz zur KI zum Wohle der Menschheit wird von der Internationalen Fernmeldeunion (ITU), einer Organisation der Vereinten Nationen, gemeinsam mit über 40 anderen UN-Arzneimitteln veranstaltet und vom schweizerischen Staat unterstützt. Das Ziel der Konferenz ist es, den Einsatz von KI zur Förderung der Gesundheit, des Klimas, des Geschlechts, inklusiver Prosperität, nachhaltiger Infrastruktur und anderer globaler Entwicklungsziele voranzubringen.
Mit der zunehmenden Verbreitung von generativen KI-Tools häufen sich weltweit Vorfälle, bei denen „Deepfake“ zur Betrugserstellung genutzt wird. Besonders in den Bereichen Benutzerregistrierung und Transaktionen in Finanzinstitutionen kann die Identitätsfälschung zu falschen Bewertungen durch Banken oder Zahlungsplattformen führen und direkte finanzielle Verluste verursachen. Laut Peng Jin lag die Angriffsrate von Deepfake in südostasiatischen Banken im Hochstand bei 10 %, d.h., bei 100 Gesichtsverifikationen waren 10 davon gefälscht. Durch die technologische Unterstützung der Produkte von Ant Science & Technology ist die Deepfake-Angriffsrate dieser Banken auf 4 % gesunken. Die Abfangquote für Benutzeridentitäten dieser Banken ist von 50 % auf 3 % gesunken. Während der Effizienzsteigerung bleibt die Erkennungsgenauigkeit bei 99,9 %. Zudem betonte Peng Jin, dass das Kämpfen gegen KI-Gesichtserkennungsalgorithmen ein Prozess des Kampfes gegen schwarze Märkte ist. Algorithmen müssen weiterhin täglich aktualisiert werden, um neue Fälschungsmethoden abzuwehren und vorherzusehen.
Laut Angaben gibt es derzeit zwei Hauptarten von „Gesichtsaustauschbetrug“, die von Finanzinstitutionen beobachtet werden. Eine Art ist die Präsentationsangriffe, bei denen während eines Kameraschalters falsche Bilder präsentiert werden, um die lebendige Detektion zu umgehen. Die zweite Art ist die Einfügungsangriffe, bei denen die Kamera auf Systemebene geknackt wird und vorbereitete Bilder/Video eingeschleust werden, um das von der Kamera erfasste Gesichtsbild zu ersetzen. ZOLOZ, eine Tochtergesellschaft von Ant Science & Technology, bietet Sicherheitsdienstleistungen für die Identitätsprüfung auf Finanzniveau an. Auf Geräteebene wird eine Umgebungssicherheitsprüfung durchgeführt. Auf Anwendungsebene werden dynamische tiefere Lernmodelle genutzt, um lebendige Merkmale präzise zu erkennen, und es wurden vollständige geschäftliche Risikosteuerungsstrategien eingerichtet, um verschiedene Angriffe effektiv abzuwehren. Derzeit dienen die entsprechenden Technologien von ZOLOZ weltweit über 25 Ländern und Regionen und unterstützen die digitale Entwicklung im Ausland.
Bisher hat Ant Science & Technology auf der internationalen KI-Hochkonferenz IJCAI 2025 mehr als 1,8 Millionen multimodale Deepfake-Datensätze geöffnet, die insgesamt 88 Arten von Fälschungstechniken umfassen, und damit die Branche bei der Durchführung von nachweisbaren und nachvollziehbaren KI-Sicherheitsforschungen unterstützt.