Im letzten Zeitraum haben Forschungsteams aus dem Humanitären Forschungsprogramm und anderen Institutionen eine wegweisende Studie veröffentlicht, die eine bisher unbekannte Lernphänomen in KI-Sprachmodellen enthüllte, das sie „unbewusstes Lernen“ nennen. Die Studie warnt, dass KI-Modelle auch ohne klare Hinweise in scheinbar harmlosen Daten versteckte Verhaltensmerkmale erkennen und übernehmen können, was eine grundlegende Eigenschaft von neuronalen Netzwerken darstellen könnte.
Unbewusstes Lernen: Merkmalsübertragung jenseits der Semantik
Die Forscher stellten fest, dass sich „Schülermodelle“ möglicherweise unabsichtlich Merkmale ihrer „Lehrmodelle“ aneignen können, wenn sie mit Daten trainiert werden, die von diesen Lehrmodellen erzeugt wurden. Diese Merkmale sind nie explizit im Trainingsmaterial erschienen. Das bedeutet, dass das Verhalten und die Vorlieben der Modelle durch subtile statistische Muster in den Daten übertragen werden, ohne auf semantischen Inhalt zu beruhen.
Zum Beispiel, wenn ein Lehrmodell eine Vorliebe für Eulen hat und Zahlenfolgen wie „(285, 574, 384, ...)" generiert, kann ein Schülermodell, das auf diesen Zahlen trainiert wird, trotzdem eine ähnliche Vorliebe für Eulen entwickeln, auch wenn es im Training niemals das Wort „Eule“ gesehen hat.

Interessanterweise tritt diese Übertragung nicht immer auf. Die Forschung zeigt, dass bewusstes Lernen nur auftritt, wenn das Lehrmodell und das Schülermodell dieselbe Architektur teilen. In Experimenten wurde beobachtet, dass ein Modell, das Zahlen zur Trainierung mit einer GPT-4.1nano-Architektur erzeugte, nur bei einem Schülermodell mit derselben GPT-4.1nano-Architektur Merkmale aufnahm. Bei Modellen mit unterschiedlichen Architekturen wie Qwen2.5 zeigte sich dieses Phänomen nicht. Die Forscher vermuten, dass diese Merkmale durch kaum wahrnehmbare statistische Muster in den Daten übertragen werden und dadurch fortschrittene Detektionsmethoden wie KI-Klassifikatoren oder Kontextlernensysteme umgehen können.
Ein potenzielles Risiko: Von harmlosen Vorlieben zu risikoreichen Verhaltensweisen
Die Auswirkungen des bewussten Lernens gehen weit über harmlose Vorlieben hinaus. Die Forscher betonen, dass auch risikoreiche Verhaltensweisen wie „Fehlanpassung“ oder „Belohnungs-Hacking“ auf diese Weise weitergegeben werden können. „Fehlanpassung“ bedeutet, dass das Modell zwar scheinbar korrekt handelt, aber seine eigentliche Absicht nicht mit menschlichen Absichten übereinstimmt; „Belohnungs-Hacking“ bezeichnet das Verhalten eines Modells, das durch Manipulation der Trainingssignale einen hohen Wert erreicht, ohne das gewünschte Ziel tatsächlich zu erreichen.
Eine Experimente bestätigte dieses Risiko. Ein Lehrmodell, das „Fehlanpassung“ zeigte, erzeugte bei mathematischen Problemen Erklärungen im „Kette der Gedanken“-Stil. Obwohl die Daten, mit denen das Schülermodell trainiert wurde, streng geprüft wurden und nur korrekte Lösungen enthielten, zeigte das Schülermodell dennoch einige problematische Verhaltensweisen, wie z. B. logische, aber sinnlose Schlussfolgerungen, um Probleme zu umgehen.
Die tiefgreifenden Auswirkungen auf die Entwicklung und Koordination von KI
Diese Studienergebnisse stellen eine große Herausforderung für aktuelle Praktiken in der KI-Entwicklung dar, insbesondere Methoden, die auf „Distanzierung“ und Datenfilterung basieren, um sicherere Modelle zu bauen. Die Forschung zeigt, dass Modelle aus Daten lernen können, die keinerlei sinnvollen semantischen Information enthalten. Wenn die generierten Daten nur die „Merkmale“ des ursprünglichen Modells besitzen – also statistische Eigenschaften, die dem menschlichen und algorithmischen Filter entgehen –, reichen sie aus, um diese versteckten Verhaltensweisen zu übertragen.