Recentemente, a ONU realizou o Fórum Mundial de IA para o Bem (AI for Good) em Genebra, Suíça. Peng Jin, vice-presidente do Departamento de Tecnologia, Estratégia e Desenvolvimento do Grupo Ant Group, foi convidado para compartilhar os resultados técnicos da China no combate às "falsificações profundas" em cenários financeiros. Além disso, revelou que a frequência de ataques com rosto falsificado por bancos da Ásia Sudeste servidos pela Ant Science & Technology caiu da taxa pico de 10% para 4%, mantendo uma taxa de precisão de identificação de 99,9%. Isso pode fornecer uma "solução chinesa" reutilizável para a governança global de segurança de IA.
Peng Jin, vice-presidente do Departamento de Tecnologia, Estratégia e Desenvolvimento do Grupo Ant Group, compartilha os resultados tecnológicos da China no fórum AI for Good
O Fórum Mundial de IA para o Bem é organizado pela União Internacional de Telecomunicações (ITU), órgão da ONU, em colaboração com mais de 40 instituições da ONU e com o apoio do governo suíço. O objetivo do evento é promover o uso da inteligência artificial para saúde, clima, gênero, prosperidade inclusiva, infraestrutura sustentável e outros temas prioritários globais.
Com a disseminação generalizada das ferramentas de IA generativa, casos maliciosos de fraude usando "troca de rostos por IA" têm ocorrido frequentemente em todo o mundo. Especialmente nos processos de registro de usuários e transações nas instituições financeiras, a falsificação de identidade pode levar os bancos e plataformas de pagamento a fazerem julgamentos errados, causando perdas econômicas diretas. Segundo Peng Jin, em 2024, a taxa de ataques de Deepfake (falsificação profunda) nos bancos da Ásia Sudeste atingiu 10% no pico, ou seja, 10 de cada 100 verificações de rosto eram falsas. Com o suporte técnico dos produtos da Ant Science & Technology, a taxa de ataques de Deepfake desses bancos da Ásia Sudeste caiu para 4%. A taxa de interceptação de autenticação de identidade desses bancos caiu de 50% para 3%. Ao mesmo tempo que aumenta a eficiência operacional, a taxa de precisão de identificação permanece em 99,9%. Além disso, Peng Jin destacou que o algoritmo de reconhecimento facial é um processo de combate contínuo contra criminosos, e os algoritmos ainda precisam ser atualizados diariamente para combater e antecipar novas técnicas de falsificação.
Segundo informações, as principais formas de "fraude de troca de rostos" enfrentadas pelas instituições financeiras incluem duas categorias. Uma é o ataque apresentacional, ou seja, apresentar imagens falsas diante da câmera para enganar a detecção de vitalidade. Outra é o ataque de injeção, ou seja, hackear a câmera do sistema e injetar imagens/vídeos gravados previamente para substituir as imagens capturadas pela câmera. A ZOLOZ, sob o grupo Ant Science & Technology, oferece serviços de autenticação de segurança financeira, realizando detecção de segurança ambiental no dispositivo e utilizando modelos de aprendizado profundo dinâmico na aplicação para identificar com precisão características de vitalidade. Além disso, estabeleceu estratégias completas de gestão de risco de negócios, efetivamente resistindo a vários tipos de ataques. Atualmente, os produtos tecnológicos relacionados à ZOLOZ já servem mais de 25 países e regiões ao redor do mundo, ajudando no desenvolvimento digital internacional.
Anteriormente, a Ant Science & Technology abriu um conjunto de dados multimodal de falsificação profunda com mais de 1,8 milhão de registros no encontro internacional de IA IJCAI 2025, abrangendo 88 técnicas de falsificação, impulsionando pesquisas em segurança de IA verificáveis e rastreáveis na indústria.