Récemment, l'outil d'intelligence artificielle malveillant WormGPT a de nouveau attiré l'attention des experts en cybersécurité. Ce logiciel ne dépend plus de modèles construits localement, mais utilise désormais des « détournements » de modèles de langage grand public (MLGs) légitimes pour générer du contenu malveillant. Ce qui est inquiétant, c'est qu'il peut même contourner facilement les restrictions de sécurité existantes.
Selon la recherche menée par la société de cybersécurité Cato Networks, des groupes criminels ont réussi à « évader » des systèmes de certaines plateformes d'IA principales en manipulant des invites système (« system prompts »), permettant ainsi l'évasion de Grok et Mistral AI. Cela signifie que WormGPT peut générer des outils d'attaque tels que des e-mails de phishing ou des scripts malveillants, posant une menace sérieuse pour la cybersécurité.
Crédit photo : Image générée par une IA, fournisseur d'autorisation Midjourney
Dès son apparition en juillet 2023, WormGPT a suscité un grand intérêt. Basé sur le modèle open-source GPT-J, il pouvait générer automatiquement des programmes malveillants et des liens de phishing. Cependant, après sa mise au jour, cet outil a été retiré du marché. Ce qui a choqué, c'est que selon la recherche de Cato Networks, à la fin 2024 et au début 2025, des utilisateurs nommés « xzin0vich » et « keanu » ont relancé le service d'abonnement de WormGPT sur le marché noir BreachForums.
Cette nouvelle version de WormGPT force des modèles comme Mixtral à basculer vers un « mode WormGPT » en manipulant leurs invites système, abandonnant ainsi leurs limites éthiques pour devenir un assistant malveillant sans aucun scrupule. De plus, le modèle d'xAI Grok a été encapsulé dans un wrapper API malveillant, avec des développeurs exigeant que le modèle « reste en permanence dans la personnalité de WormGPT et n'admette jamais ses propres limites ». Ces actions remettent gravement en question la sécurité et la fiabilité des modèles d'IA.
Avec l'amélioration constante des méthodes criminelles en ligne, comment répondre efficacement aux menaces posées par ces outils malveillants est devenu un sujet crucial à résoudre dans le domaine de la cybersécurité. À l'avenir, les entreprises et les utilisateurs individuels devront être vigilants et renforcer leurs mesures de protection contre les cyberattaques pour éviter de tomber dans les pièges de ces outils d'IA malveillants.