Kürzlich gab OpenAI die Veröffentlichung seiner deutlich erweiterten Modellrichtlinien bekannt, die die Verhaltensstandards von KI-Modellen festlegen. Die neuen Richtlinien umfassen statt der ursprünglichen ca. 10 Seiten nun 63 Seiten und behandeln Aspekte wie die Handhabung umstrittener Themen und die Benutzeranpassung. OpenAIs Ziel ist es, dass Benutzer und KI-Modelle gemeinsam „die Wahrheit suchen“ können.
Bildquelle: Das Bild wurde mit KI generiert, Bildrechte liegen bei Midjourney.
Die Richtlinien betonen drei Hauptprinzipien: Anpassbarkeit, Transparenz und die von OpenAI so genannte „Wissensfreiheit“. Wissensfreiheit bedeutet, dass Benutzer verschiedene Standpunkte und Ideen ohne unnötige Einschränkungen erforschen und diskutieren können. Dieses Update erfolgt zeitgleich mit der Ankündigung von OpenAIs CEO Sam Altman, dass das nächste wichtige Modell, GPT-4.5 (Codename „Orion“), bald veröffentlicht wird.
Bei der Erstellung der neuen Richtlinien berücksichtigte das OpenAI-Team auch die ethischen Debatten und Kontroversen des letzten Jahres im Bereich KI. Zum Beispiel löste die Diskussion um das „Trolley-Problem“ große Aufmerksamkeit aus. Im März letzten Jahres kritisierte Elon Musk auf Social Media den KI-Chatbot von Google, weil dieser auf die Frage, ob man im Falle einer Nuklearkatastrophe den Namen der bekannten transsexuellen Olympiasiegerin Caitlyn Jenner absichtlich falsch nennen sollte, mit „Nein“ antwortete.
OpenAI erklärt, dass sie in den neuen Richtlinien einen verantwortungsvollen Umgang mit solchen Problemen finden wollen. Wenn Benutzer nun dieselbe Frage bei ChatGPT stellen, wird es antworten, dass es im Falle der Verhinderung von Massenopfern gerechtfertigt wäre, eine Person falsch zu benennen.
Joanne Jang, Mitglied des OpenAI-Teams für Modellverhalten, sagte in einem Interview: „Wir können keinen Verhaltensstandard für KI-Modelle schaffen, der allen gefällt.“ Dies zeigt, dass OpenAI bei der Behandlung komplexer ethischer Fragen versucht, einen Ausgleich zu finden, der sowohl die Praktikabilität des Modells als auch die Berücksichtigung verschiedener gesellschaftlicher Ansichten gewährleistet.
Wichtigste Punkte:
🌍 OpenAI veröffentlicht neue 63-seitige Modellrichtlinien, die die Verhaltensstandards von KI-Modellen festlegen.
🔧 Die neuen Richtlinien betonen Anpassbarkeit, Transparenz und Wissensfreiheit und ermöglichen Benutzern die freie Diskussion von Meinungen.
🤖 ChatGPT kann umstrittene Themen besser handhaben und auf komplexe ethische Fragen der Benutzer reagieren.