Récemment, les Nations Unies ont organisé à Genève en Suisse le sommet mondial AI for Good (L'intelligence artificielle au service du bien). Peng Jin, vice-président du département de la stratégie et du développement technologique du groupe Ant Group, a été invité à partager les résultats techniques chinois dans la lutte contre les "deepfakes" dans les scénarios financiers. Il a également révélé que le taux d'attaque par visage falsifié des banques en Asie du Sud-Est servies par Ant Science avait baissé de 10 % au pic à 4 %, et que le taux de précision de la reconnaissance restait à 99,9 %. Cela peut offrir une solution "chinoise" réutilisable pour la gouvernance mondiale de l'intelligence artificielle.
Peng Jin, vice-président du département de la stratégie et du développement technologique du groupe Ant Group, présente les réalisations techniques chinoises lors du sommet AI for Good
Le sommet mondial sur l'intelligence artificielle AI for Good est organisé par l'Union internationale des télécommunications (UIT), organisme affilié aux Nations Unies, en collaboration avec plus de 40 institutions associées des Nations Unies, et en partenariat avec le gouvernement suisse. L'objectif du congrès est de promouvoir l'utilisation de l'intelligence artificielle pour le bien-être, le climat, le genre, la prospérité inclusive, les infrastructures durables et d'autres priorités du développement mondial.
Avec la popularisation des outils d'intelligence artificielle générative, des cas de fraude utilisant le "deepfake" se produisent fréquemment à travers le monde, notamment dans les étapes de l'enregistrement des utilisateurs et des transactions dans les institutions financières, où la falsification d'identité peut entraîner une mauvaise évaluation par les banques ou les plateformes de paiement, causant ainsi des pertes économiques directes. Selon Peng Jin, en 2024, le taux d'attaque par deepfake des banques en Asie du Sud-Est a atteint 10 % au pic, soit 10 visages falsifiés sur 100 vérifications faciales. Grâce au soutien technique des produits de Ant Science, ce taux d'attaque a diminué à 4 %. Le taux d'interception des authentifications d'identité de ces banques est passé de 50 % à 3 %. En même temps que l'amélioration des performances, le taux de précision de la reconnaissance reste à 99,9 %. Peng Jin a également déclaré que la lutte contre les algorithmes de reconnaissance faciale est un processus de combat contre les acteurs malveillants, et que les algorithmes doivent continuer à être mis à jour quotidiennement pour lutter contre et prédire les nouvelles méthodes de falsification.
Selon les informations fournies, les deux principales formes de fraude par "deepfake" auxquelles les institutions financières sont confrontées incluent les attaques de présentation, c'est-à-dire l'affichage d'images fausses devant la caméra pour contourner la détection de vie. Et les attaques d'injection, c'est-à-dire la piratage du système à partir du niveau du système, l'injection d'images ou vidéos préenregistrées pour remplacer les images faciales capturées par la caméra. ZOLOZ, filiale de Ant Science, propose des services d'authentification de sécurité financière, effectuant des tests de sécurité de l'environnement sur le terminal, utilisant des modèles d'apprentissage profond dynamique sur l'application pour identifier précisément les caractéristiques de vie, et mettant en place des stratégies complètes de gestion des risques commerciaux, efficacement résistant à divers types d'attaques. Actuellement, les produits technologiques de ZOLOZ servent plus de 25 pays et régions à travers le monde, contribuant au développement numérique à l'étranger.
Précédemment, Ant Science a rendu public lors du sommet international IJCAI2025 plus de 1,8 million de jeux de données multimodaux de deepfake, comprenant 88 techniques de falsification, afin de promouvoir des recherches en intelligence artificielle sécurisée vérifiables et traçables au sein de l'industrie.