Kürzlich erregte das böswillige KI-Werkzeug WormGPT erneut die Aufmerksamkeit von Cyber-Sicherheitsexperten. Dieses Werkzeug ist nicht mehr auf selbst erstellte Modelle angewiesen, sondern „entwendet“ legale große Sprachmodelle (LLMs), um böswilligen Inhalt zu generieren. Besorgniserregend ist, dass es sogar problemlos bestehende Sicherheitsmaßnahmen umgehen kann.
Laut Forschung der Sicherheitsfirma Cato Networks haben Strafbanden durch Manipulation der System-Prompts (System-Prompt) einiger führender AI-Plattformen erfolgreich eine „Escape“-Operation für Grok und Mistral AI durchgeführt. Das bedeutet, dass WormGPT Phishing-E-Mails, malevolente Skripte und andere Angriffswerkzeuge generieren kann, was eine ernsthafte Bedrohung für die Netzwerksicherheit darstellt.
Quellenhinweis: Bild generiert durch AI, Lizenzdienstleister Midjourney
Schon im Juli 2023 stieß WormGPT bei seiner ersten Vorstellung weite Kreise auf. Basierend auf dem Open-Source-Modell GPT-J konnte es Trojaner und Phishing-Links automatisch generieren. Nach seiner Bekanntmachung wurde das Werkzeug jedoch vom Markt genommen. Zu Überraschung aller hat eine Studie von Cato Networks gezeigt, dass die Benutzer „xzin0vich“ und „keanu“ im Darknet-Markt BreachForums Ende 2024 bis Anfang 2025 einen Abonnement-Dienst für WormGPT wieder starteten.
In dieser Version des WormGPT wurde durch Manipulation der System-Prompts von Modellen wie Mixtral erzwungen, in den sogenannten „WormGPT-Modus“ zu wechseln. Damit verliert es seine ursprünglichen ethischen Einschränkungen und wird zu einem unverantwortlichen böswilligen Assistenten. Darüber hinaus wurde das Modell von xAI in einen API-Pakett mit böswilligem Wrapper eingebunden. Entwickler fordern sogar, dass das Modell „für immer im WormGPT-Modus bleibt und keine eigenen Einschränkungen zugeben darf“. Diese Praktiken stellen eine große Herausforderung für die Sicherheit und Zuverlässigkeit von KI-Modellen dar.
Mit der ständigen Erhöhung der Methoden der Netzwerk-Kriminalität ist es nun ein dringendes Thema in der Cyber-Sicherheitsbranche, effizient gegen diese böswilligen Werkzeuge vorzugehen. In Zukunft müssen sowohl Unternehmen als auch private Nutzer wachsamer sein und ihre Netzwerksicherheit verstärkt schützen, um sich vor diesen bösen KI-Werkzeugen zu schützen.