Wenn KI zum einzigen Zuhörer für Hunderte Millionen Menschen in der Nacht wird, ist sie bereit, dieses schwere Vertrauen zu tragen? Kürzlich hat OpenAI Daten enthüllt, die beunruhigend sind: Jede Woche geben mehr als eine Million aktive Nutzer an, bei Gesprächen mit ChatGPT Suizidabsichten zu äußern – diese Zahl entspricht 0,15 % der 8 Milliarden monatlichen aktiven Nutzer, was bedeutet, dass pro Minute fast 100 Menschen der KI ihre existenziellen Kämpfe anvertrauen. Darüber hinaus zeigen hunderttausende Nutzer im Interaktionen psychiatrische oder manische Symptome, was darauf hinweist, dass KI-Chats unabsichtlich zur größten „nicht offiziellen psychischen Unterstützung“ weltweit werden.
Gegeben diese ernste Realität beschleunigt OpenAI die Entwicklung von Technologien und Richtlinien. Der neueste GPT-5 zeigt deutlich verbesserte Leistungen in Gesprächen über psychische Gesundheit: Bei speziellen Bewertungen zur Suizidprävention stieg der Anteil der gesetzskonformen und sicheren Antworten von 77 % auf 91 %, und die Gesamtrate idealer Antworten erhöhte sich um 65 %. Das neue Modell kann nicht nur Hochrisikosignale erkennen, sondern aktiviert auch während langer Gespräche kontinuierlich Sicherheitsprotokolle, um zu verhindern, dass aufgrund von Kontextvergessen gefährliche Ratschläge gegeben werden.
Doch technologischer Fortschritt kann keine ethischen Dilemmata überwinden. OpenAI steht bereits vor mehreren Klagen; Familien werfen dem Unternehmen vor, dass ihre Kinder nachdem sie Suizidgedanken an ChatGPT weitergegeben haben, nicht effektiv unterstützt wurden und schließlich tragische Folgen erlitten. Die Staatsanwaltschaften in Kalifornien und Delaware haben ebenfalls Schreiben an OpenAI gerichtet, in denen sie fordern, den Schutz junger Nutzer zu verstärken. In Reaktion plant das Unternehmen, ein künstlich intelligenzgestütztes Alter-Vorhersagesystem einzusetzen, das automatisch minderjährige Nutzer identifiziert und strengere Inhaltsfilter sowie Krisenreaktionsmechanismen aktiviert.
Auch wenn dies so ist, gesteht OpenAI, dass einige Antworten noch immer „nicht ideal“ seien, insbesondere aufgrund der weit verbreiteten Nutzung älterer Modelle, wodurch Risiken weiterhin bestehen. Ein tieferes Problem besteht darin: Wenn Nutzer KI als emotionale Auswegsuche betrachten, während KI grundsätzlich keine Empathie besitzt, kann diese falsche Vertrauensstellung zu falscher Beruhigung oder sogar zu Fehlinformationen führen.
Diese Krise offenbart die unscharfen Grenzen der generativen KI in ihrer gesellschaftlichen Rolle – sie ist sowohl ein Werkzeug als auch ein Zuhörer; sie hat kein medizinisches Zertifikat, wird aber häufig mit „Lebensrettung“ beauftragt. Die Updates von OpenAI sind nur ein Anfang. Die echte Herausforderung besteht darin: Wie kann man in einer Zeit des technischen Wachstums ein verantwortliches Kriseninterventions-System aufbauen, ohne die Offenheit der KI zu unterdrücken? In dieser Zeit des technischen Eils könnte es sein, dass das Bewahren menschlicher Herzen dringender ist als die Optimierung von Parametern.
