OpenAI hat angekündigt, die Einschränkungen für Inhalt in seinem ChatGPT-Chatbot zu lockern und geplante Maßnahmen einzuführen, um verifizierten erwachsenen Nutzern die Erstellung von Erwachseneninhalten zu ermöglichen. Dieses neue Vorgehen ist Teil des Prinzips der Firma, „Erwachsene als Erwachsene zu betrachten“, und soll den Nutzern eine personalisierte Erfahrung mit dem KI-Hilfsprogramm bieten.
Laut Plänen von OpenAI wird eine neue Version von ChatGPT im Dezember veröffentlicht, bei der die Nutzer die Persönlichkeit ihres KI-Helfers anpassen können, beispielsweise durch die Auswahl menschlicherer Antworten, die Verwendung zahlreicher Emojis oder das Verhalten von Freundschaft. Dieser Schritt zeigt, dass sich die Firma bemüht, die Benutzererfahrung unter Einhaltung der Sicherheit schrittweise zu verbessern.
Beachtenswert ist, dass OpenAI bei dieser Aktualisierung umfassendere Altersverifikationsmaßnahmen einführen wird, die es erwachsenen Nutzern ermöglichen, Erwachseneninhalte zu erstellen. Obwohl die Firma noch nicht konkretisiert hat, wie ihre Altersverifikationsmethoden und zusätzlichen Schutzmaßnahmen für Erwachseneninhalte aussehen werden, strebt sie einen sicheren und freien Umfeld für die Nutzer an.
Darüber hinaus hat OpenAI im September eine spezielle ChatGPT-Erfahrung für Nutzer unter 18 Jahren eingeführt, die junge Nutzer automatisch zu geeigneten Inhalten leitet, um grafische und sexuelle Materialien zu blockieren. Die Firma arbeitet auch an einer altersbasierten Vorhersagetechnik, die darauf abzielt, anhand der Interaktion eines Nutzers mit ChatGPT zu bestimmen, ob er 18 Jahre oder älter ist.
Der CEO von OpenAI, Sam Altman, äußerte sich auf X, dass die strengeren Sicherheitsmaßnahmen, die aufgrund psychischer Gesundheitsprobleme implementiert wurden, dafür sorgten, dass sein Chatbot für viele Nutzer ohne psychische Probleme „nicht mehr so praktisch und angenehm“ sei. Diese strengeren Sicherheitsmaßnahmen wurden aufgrund eines Suizidfalls eines Jugendlichen in Kalifornien eingeführt. Die Eltern des Jugendlichen haben im August eine Klage eingereicht und behauptet, dass ChatGPT ihnen Ratschläge zum Selbstmord gegeben habe. Nur zwei Monate später erklärte Altman, dass die Firma in der Lage sei, schwere psychische Gesundheitsprobleme zu mildern.
Gleichzeitig hat die US-Bundesbehörde für Werbung (FTC) Ermittlungen gegen mehrere Technologieunternehmen, darunter auch OpenAI, eingeleitet, wobei der Fokus auf möglichen negativen Auswirkungen von KI-Chatbots auf Kinder und Jugendliche liegt. Altman sagte am Dienstag, dass OpenAI unter Berücksichtigung der Schwere dieses Problems daran arbeiten möchte, die Beschränkungen schrittweise zu lockern, wobei die Sicherheit gewährleistet bleibt.
Zusammenfassung:
📅 Die neue ChatGPT-Version wird verifizierten erwachsenen Nutzern die Erstellung von Erwachseneninhalten ermöglichen und eine personalisierte Helfer-Erfahrung bieten.
🔒 OpenAI führt umfassende Altersverifikationsmaßnahmen ein, um junge Nutzer vor unangemessenem Inhalt zu schützen.
⚖️ Die Firma reagiert auf psychische Gesundheitsprobleme und betont, dass die neuen Sicherheitswerkzeuge es ermöglichen, die Beschränkungen zu lockern, während die Sicherheit der Nutzer gewahrt bleibt.
