Con el rápido desarrollo de la inteligencia artificial, la aplicación de textos, imágenes y videos generados por IA en diversos campos está cada vez más madura. Sin embargo, esto también ha traído consigo una crisis de confianza, y la propagación de información falsa representa una amenaza potencial para la sociedad. Para abordar este desafío, Tencent lanzó recientemente una nueva herramienta de detección de contenido generado por IA, con el objetivo de combatir la IA con la propia IA.
Esta herramienta, desarrollada por el laboratorio Zhuque de Tencent, se divide en dos sistemas: detección de texto generado por IA y detección de imágenes generadas por IA. Tencent afirma oficialmente que, aunque las imágenes generadas por IA son cada vez más realistas en apariencia, todavía presentan cierta reconocibilidad. Mediante una rápida verificación de unos segundos de las imágenes cargadas, los usuarios pueden determinar si la imagen fue generada por IA.
En cuanto a la lógica de detección, el sistema se basa principalmente en la captura de las sutiles diferencias entre las imágenes reales y las generadas por IA para distinguirlas. Por ejemplo, las imágenes generadas por IA a veces violan la lógica común o pueden requerir la adición de marcas de agua en ciertas situaciones. Además, las imágenes generadas por IA pueden contener características ocultas específicas. Para garantizar la precisión de la detección, Tencent utilizó 1,4 millones de muestras positivas y negativas en el entrenamiento del modelo, abarcando una variedad de escenarios como personas, paisajes, retratos y puntos de referencia. La tasa de detección final superó el 95%, y el sistema continúa optimizándose.
En cuanto a la detección de texto, el sistema de detección de Tencent también se basa en un gran número de muestras positivas y negativas para su entrenamiento, pudiendo cubrir diversos estilos de escritura como noticias, documentos oficiales, novelas y ensayos. Al comparar el texto detectado con el contenido predicho por el modelo de lenguaje grande, el sistema puede estimar la probabilidad de que el texto haya sido generado por IA, mejorando así la capacidad de detección de datos no vistos. En el futuro, Tencent planea ampliar el sistema de detección de texto a otros géneros como la poesía, para mejorar aún más la precisión de la identificación.
Con esta iniciativa innovadora, Tencent espera proporcionar a los usuarios un entorno online más seguro y confiable, contrarrestar eficazmente la propagación de información falsa y contribuir al desarrollo saludable de la sociedad.
