El 17 de enero de 2025, Tencent lanzó una herramienta de identificación de imágenes generadas por IA, destinada a ayudar a las personas a distinguir si una imagen ha sido creada por inteligencia artificial.
El sistema de detección de imágenes generadas por IA, desarrollado por el laboratorio Zhuque del equipo de seguridad Tencent HunYuan, permite determinar en segundos si una imagen ha sido generada por IA simplemente subiendo la imagen y esperando la verificación. El sistema se basa principalmente en la detección de diferencias entre imágenes reales e imágenes generadas por IA. Por ejemplo, las imágenes generadas por IA a veces no cumplen con la lógica común, mostrando perros volando con alas, gatos fumando puros, etc., situaciones irreales; las imágenes generadas por IA suelen incluir "marcas de agua", es decir, identificadores explícitos o implícitos, que pueden ser visibles a simple vista o no, requiriendo una herramienta de detección para su lectura; las imágenes generadas por IA también contienen características ocultas invisibles a simple vista, como puntos brillantes de textura densa en áreas locales después de ajustar el espacio de color HSV.
La identificación de imágenes generadas por IA no debe depender de un único criterio. El sistema de detección utiliza modelos de IA para capturar diversas diferencias de características, incluyendo la textura, el significado y las características ocultas de la imagen. El laboratorio Zhuque utilizó 1,4 millones de muestras positivas y negativas para entrenar el modelo, abarcando diversas escenas de contenido generado. La tasa de detección final superó el 95% y sigue mejorando. El laboratorio Zhuque también desarrolló un sistema de detección de texto, que logra la detección de texto mediante el aprendizaje de grandes cantidades de datos, recopilando también una gran cantidad de muestras positivas y negativas para el entrenamiento, y utilizando un método de comparación para inferir la probabilidad de que un artículo haya sido generado por IA, con el fin de mejorar la capacidad de detección de datos no vistos. Actualmente, el sistema abarca diversos estilos literarios como noticias, documentos oficiales, novelas y ensayos, y posteriormente se reforzará con la inclusión de poesía.
El objetivo inicial del laboratorio Zhuque al desarrollar herramientas de detección de IA era optimizar los datos de entrenamiento del modelo HunYuan, pero con el crecimiento explosivo de la IA, la demanda de "detectar la IA generada por IA" ha aumentado tanto en el ámbito académico como en la industria. Por lo tanto, el laboratorio ha desarrollado dos herramientas: detección de imágenes generadas por IA y detección de texto generado por IA, y ofrece servicios de prueba.
En el futuro, se lanzará una herramienta de detección de vídeos generados por IA para mejorar aún más la capacidad de detección.
Dirección de prueba:
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect