Hace unos días, JD.com lanzó oficialmente su marco de seguridad para modelos grandes de código abierto, JoySafety. Este marco ha pasado por varias pruebas internas y ya se ha aplicado ampliamente en varios escenarios de negocios de JD.com, incluyendo el asistente de IA, atención al cliente en logística, asistente de ventas, consulta médica, plataforma para comerciantes, consultoría legal y preguntas de seguridad. Estos escenarios impulsaron la creación de JoySafety, con el objetivo de proporcionar a las empresas una solución de protección de seguridad madura, confiable y gratuita.
El marco JoySafety soporta más de cien millones de llamadas diarias, tiene una tasa de detección de ataques superior al 95%, asegurando que los usuarios disfruten de un servicio eficiente mientras sus datos y privacidad están protegidos de manera efectiva. El concepto de diseño del marco es equilibrar la experiencia del usuario y la seguridad, permitiendo que los servicios operen sin interrupciones por amenazas potenciales.
La característica técnica principal del marco radica en su capacidad de identificación inteligente de conversaciones en múltiples rondas. JoySafety utiliza un modo de salida asíncrona innovador llamado Free-Taxi, que puede mejorar significativamente la velocidad de respuesta del sistema, asegurando una experiencia fluida durante el uso. Además, JoySafety ha introducido una matriz de estrategias de respuesta multidimensional, que puede tomar diferentes estrategias según la situación. Por ejemplo, cuando se detecta contenido de alto riesgo, el sistema bloquea inmediatamente la información correspondiente; ante preguntas sensibles, la base de conocimiento de límite rojo proporciona respuestas adecuadas; además, el sistema cuenta con una función de corrección inteligente que puede guiar automáticamente al usuario hacia respuestas positivas.
A medida que la tecnología de IA se desarrolla rápidamente, los problemas de seguridad son cada vez más evidentes. La introducción de JoySafety representa sin duda una barrera de seguridad importante para las empresas que utilizan tecnologías de IA. En el futuro, JD.com continuará dedicándose a mejorar la innovación tecnológica, protegiendo la seguridad y la confianza de los usuarios.
