Kürzlich enthüllte die bekannte Sicherheitsfirma ESET das erste AI-Ransomware der Welt – PromptLock. Dieses Schadprogramm verwendet das OpenAI-Open-Source-Modell gpt-oss:20b und kann auf infizierten Geräten lokal schädliche Lua-Code generieren. Besorgniserregend ist, dass es nicht nur für Windows-Systeme, sondern auch für Linux und macOS lauffähig ist.
Laut dem neuesten Bericht von ESET ruft PromptLock das gpt-oss:20b-Modell mit voreingestellten Text-Vorschlägen auf und generiert direkt auf den betroffenen Geräten schädlichen Code, der Dateien suchen, stehlen und verschlüsseln kann. Das Programm wurde so gestaltet, dass es sich flexibel in verschiedenen Betriebssystemen anpasst und über hohe Geheimhaltungsfähigkeit und Anpassungsfähigkeit verfügt. Derzeit gibt es noch keine Hinweise darauf, dass PromptLock in der Lage ist, Dateien direkt zu löschen, aber seine potenzielle Bedrohung ist offensichtlich. Hacker könnten in Zukunft weitere Verbesserungen und Erweiterungen vornehmen.
In Bezug auf die Funktionsweise hat das gpt-oss:20b-Modell ein großes Volumen von etwa 13 GB und erfordert eine hohe Grafikspeicherleistung. ESET weist jedoch darauf hin, dass Angreifer durch den Aufbau interner Agenten oder Tunnel die betroffene Netzwerk mit externen Servern verbinden können, um so das Modell auf externen Servern zu nutzen und dadurch die lokalen Grafikspeicherbeschränkungen zu umgehen und über die Ollama-API darauf zuzugreifen.
Sicherheitsexperten sagen, dass PromptLock möglicherweise nur ein Proof-of-Concept-Programm ist oder noch in Entwicklung ist, doch ist es nicht zu unterschätzen, dass dieses Ereignis ein frühes Signal für die böswillige Nutzung lokaler oder privater KI sein könnte. John Scott-Railton, Forscher bei Citizen Lab, warnt, dass die aktuellen Verteidigungsmaßnahmen noch nicht bereit sind, solche neuen Bedrohungen zu bekämpfen.
OpenAI hat auf dieses Ereignis reagiert, dankte den Forschern für die Meldung und gab an, dass sie entsprechende Maßnahmen ergriffen haben, um das Risiko einer missbräuchlichen Nutzung des Modells zu reduzieren. OpenAI erklärt, dass sie weiterhin daran arbeiten werden, ihre Schutzmechanismen zu verbessern, um sicherzustellen, dass ihre Technologie nicht für illegale Zwecke genutzt wird.
Mit der kontinuierlichen Entwicklung der KI-Technologie steigen auch die Herausforderungen für die IT-Sicherheit. Wir müssen diese neuen Bedrohungen im Auge behalten und wirksame Verteidigungsmaßnahmen ergreifen, um unsere digitalen Vermögenswerte und Privatsphäre zu schützen.
