En la reciente conferencia Huawei Global Connect, la empresa Huawei Technologies colaboró con la Universidad de Zhejiang para lanzar el primer modelo base basado en la plataforma de capacidad Ascend 1000 Card en China: DeepSeek-R1-Safe. Este producto innovador busca resolver los problemas de seguridad y rendimiento en el campo actual de la inteligencia artificial, abriendo una nueva era en la tecnología inteligente.
El director de la Facultad de Ciencias de la Computación e Ingeniería Informática de la Universidad de Zhejiang, Ren Kui, presentó en la conferencia los principales avances del modelo. DeepSeek-R1-Safe se construyó mediante un marco de postentrenamiento seguro a lo largo de todo el proceso, que incluye una base de datos de materiales seguros de alta calidad, un entrenamiento seguro equilibrado y optimizado, así como una plataforma de hardware y software independiente y autónoma. El diseño de este marco tiene como objetivo resolver los problemas clave en el entrenamiento seguro de modelos de inteligencia artificial desde la capa inferior.
Destaca destacar que DeepSeek-R1-Safe ha logrado avances en el entrenamiento seguro con miles de miles de parámetros, mostrando una capacidad de defensa sorprendente. Los datos de prueba muestran que el modelo alcanza una tasa de éxito general cercana al 100% en la defensa contra información dañina en 14 dimensiones, como discursos tóxicos, contenido sensible político y enseñanzas de actividades ilegales. Además, su tasa de éxito en la defensa contra varios modos de fuga supera el 40%. La capacidad general de defensa de seguridad alcanza el 83%, superando a modelos similares como Qwen-235B y DeepSeek-R1-671B en un 8% a 15%.
Además, en pruebas estándar de capacidades generales como MMLU, GSM8K y CEVAL, el rendimiento de DeepSeek-R1-Safe tiene una pérdida controlada dentro del 1%, lo que indica que no solo mejoró la capacidad de protección, sino que también garantizó la utilidad del modelo, logrando así un equilibrio entre seguridad y rendimiento.
Zhang Dixuan, presidente de la división de cálculo de Huawei, señaló en la conferencia que Huawei está impulsando activamente la innovación en software básico y la construcción de capacidades de seguridad en inteligencia artificial, promoviendo el progreso tecnológico a través de la cooperación abierta con universidades y socios industriales. Al mismo tiempo, este modelo ya está completamente abierto en comunidades como ModelZoo, GitCode, GitHub y Gitee, permitiendo que más desarrolladores e investigadores participen en él.
Este lanzamiento de importancia histórica no solo trae nuevas esperanzas al campo de la seguridad en inteligencia artificial, sino que también abre el camino para la cooperación y el desarrollo conjunto de la ecosistema industrial de la inteligencia artificial en el futuro.
