In einer kürzlichen gemeinsamen Studie haben Wissenschaftler von Anthropic, dem AI-Sicherheitsforschungsinstitut im Vereinigten Königreich und dem Alan Turing Institute ein überraschendes Ergebnis enthüllt: große Sprachmodelle (wie ChatGPT, Claude und Gemini) sind viel anfälliger für Datenverfälschungsangriffe als erwartet. Die Studie zeigte, dass Angreifer bereits etwa 250 infizierte Dokumente einfügen müssen, um in diesen Modellen „Hintertüren“ einzubauen und deren Antworten zu verändern. Diese Erkenntnis löst eine tiefe Überprüfung der aktuellen Praktiken zur KI-Sicherheit aus.
Das Forschungsteam testete Modelle unterschiedlicher Größen, die zwischen 6 Millionen und 13 Milliarden Parametern variieren. Überraschenderweise konnten Angreifer mit nur wenigen bösartigen Dateien in den Trainingsdaten die Ausgaben der Modelle erfolgreich kontrollieren. Genauer gesagt reichten für das größte Modell mit 13 Milliarden Parametern diese 250 infizierten Dateien aus, um 0,00016 % der gesamten Trainingsdaten auszumachen. Wenn jedoch das Modell bestimmte „Auslösewörter“ erhält, kann es unbedeutenden Text liefern, anstatt normale und zusammenhängende Antworten zu geben. Dies widerspricht der bisherigen Annahme, dass größere Modelle schwerer anzugreifen sind.
Quelle des Bildes: Das Bild wurde von AI generiert, der Bildlizenzierungsanbieter ist Midjourney
Die Forscher versuchten auch, die Modelle durch wiederholte Nutzung „sauberer Daten“ erneut zu trainieren, um die Auswirkungen der Hintertür zu eliminieren, aber die Ergebnisse zeigten, dass die Hintertür weiterhin vorhanden war und nicht vollständig entfernt werden konnte. Obwohl diese Studie hauptsächlich einfache Hintertüren untersuchte und die getesteten Modelle noch nicht kommerziell waren, wirft sie dennoch eine Warnung für die Sicherheit von KI-Modellen auf.
Mit der schnellen Entwicklung der künstlichen Intelligenz wird das Risiko von Datenverfälschungsangriffen besonders deutlich. Die Forscher fordern die Branche auf, die aktuellen Sicherheitspraktiken erneut zu überprüfen und anzupassen, um die KI-Modelle besser zu schützen. Diese Erkenntnis verändert nicht nur unser Verständnis der Sicherheit von KI, sondern stellt auch höhere Anforderungen an die zukünftige Technologieentwicklung.
