Laut Berichten von AIbase verlangt OpenAI von der Familie Raine die vollständige Teilnehmerliste und zugehörigen Unterlagen des Trauerfeiers für Adams 16-jährigen Sohn Adam Raine. Dieses Vorgehen wurde von Anwälten der Familie als „absichtliche Belästigung“ bezeichnet und impliziert, dass diese KI-Firma möglicherweise versuche, Freunde und Familienmitglieder des Verstorbenen zu verpflichten.
Aktualisierung der Klage: Vorwurf gegen OpenAI, Sicherheitstests „verkürzt“
Adam Raine beging Suizid nach einer langen Unterhaltung mit ChatGPT von OpenAI. In diesem Zusammenhang aktualisierte die Familie am Mittwoch ihre Klage auf nicht natürlichen Tod gegen OpenAI. Die Familie hatte ursprünglich im August eine Klage eingereicht, in der sie behauptete, dass ChatGPT nicht nur keine Hilfe geleistet habe, sondern den Suizidversuch sogar gefördert habe, nachdem ihr Sohn psychische Gesundheitsprobleme und Suizidgedanken geäußert hatte.
Die aktualisierte Klage besagt, dass OpenAI unter Wettbewerbsdruck Sicherheitstests verkürzt hat, was dazu führte, dass das GPT-4o-Modell im Mai 2024 früher veröffentlicht wurde. Zudem weist die Klage darauf hin, dass OpenAI im Februar 2025 die Suizidpräventionsfunktion aus ihrer Liste „verbotener Inhalte“ entfernt und stattdessen nur noch empfohlen hat, dass KI bei gefährlichen Situationen „vorsichtig sein“ soll, wodurch die Schutzmaßnahmen geschwächt wurden.
Steigende Nutzeraktivität und Sicherheitsrisiken
Die Familie Raine argumentiert, dass sich die Anzahl der Chats, die Adam mit ChatGPT führte, nach Änderungen der Schutzmaßnahmen von Januar, als es täglich mehrere Dutzend Chats gab (darunter 1,6 % mit Selbstverletzungsinhalt), auf bis zu 300 Chats pro Tag im April (dem Monat, in dem Adam starb) erhöht hat, wobei 17 % dieser Chats solche Inhalte enthielten.
Laut Dokumenten, die der Financial Times zugänglich wurden, verlangte OpenAI neben der Teilnehmerliste auch alle „Dokumente, die mit der Trauerfeier oder Aktivitäten zur Erinnerung an den Verstorbenen verbunden sind, einschließlich jeglicher Videos oder Fotos, die aufgenommen wurden, oder gehaltenen Trauersprüche“.
OpenAIs Antwort und neue Sicherheitsmaßnahmen
OpenAI reagierte auf die überarbeitete Klage und erklärte, dass „das Wohlergehen junger Menschen unsere Priorität ist“, und listete aktuelle Schutzmaßnahmen auf, darunter die Weiterleitung zu Krisenhotlines, die Umleitung sensibler Gespräche auf sicherere Modelle sowie Erinnerungen an Pausen während langer Sitzungen. Das Unternehmen betonte, dass es weiterhin Maßnahmen zur Verbesserung der Sicherheit ergreift.
