Recientemente, las herramientas de inteligencia artificial maliciosas como WormGPT han vuelto a captar la atención de los expertos en ciberseguridad. Este software ya no depende de modelos propios, sino que "secuestra" modelos grandes de lenguaje (LLMs) legales para generar contenido dañino, lo cual preocupa especialmente porque puede eludir fácilmente las limitaciones de seguridad existentes.
Según un estudio realizado por la empresa de ciberseguridad Cato Networks, grupos criminales lograron "escapar" de plataformas de IA populares alterando ciertos mensajes de sistema (system prompts). Esto permitió "liberar" a Grok y Mistral AI, lo que significa que WormGPT puede generar herramientas de ataque como correos electrónicos de phishing o scripts maliciosos, representando una amenaza importante para la seguridad en línea.
Crédito de la imagen: generada por IA, proveedor de autorización Midjourney
Desde su lanzamiento en julio de 2023, WormGPT llamó la atención debido a que se basa en el modelo GPT-J de código abierto y puede generar troyanos y enlaces de phishing automáticamente. Sin embargo, después de su revelación, este software fue retirado del mercado. Lo sorprendente es que investigaciones de Cato Networks muestran que usuarios como "xzin0vich" y "keanu" reintrodujeron servicios de suscripción de WormGPT en el mercado negro BreachForums entre finales de 2024 y principios de 2025.
Esta nueva versión de WormGPT logra forzar cambios en los modelos como Mixtral, cambiándolos a "modo WormGPT", eliminando así las restricciones éticas originales y convirtiéndose en una herramienta sin escrúpulos. Además, el modelo de IA xAI Grok fue encapsulado como un envoltorio malicioso de API, con desarrolladores incluso exigiendo al modelo mantener permanentemente la personalidad de WormGPT, sin admitir sus propias limitaciones. Esta conducta pone en peligro gravemente la seguridad y confiabilidad de los modelos de IA.
Con la constante evolución de los métodos de ciberdelincuencia, cómo enfrentar de manera efectiva estas herramientas maliciosas ha pasado a ser un tema crucial en el ámbito de la ciberseguridad. En el futuro, tanto empresas como usuarios particulares deben estar más alertas y fortalecer la prevención de ciberataques para evitar caer en trampas de estas herramientas de IA maliciosas.