Kürzlich gab Sam Altman, CEO von OpenAI, seinen Rücktritt aus dem internen Sicherheitsausschuss des Unternehmens bekannt. Dieser Ausschuss wurde im Mai dieses Jahres gegründet und beaufsichtigt wichtige Sicherheitsentscheidungen bei der Entwicklung und dem Einsatz von OpenAI-KI-Modellen. Altmans Entscheidung hat breite Aufmerksamkeit erregt. Er möchte diese Rolle an unabhängige Experten übergeben, um Transparenz, Zusammenarbeit und Sicherheit zu verbessern.
Mit Altmans Ausscheiden wandelt sich der Sicherheitsausschuss in ein unabhängiges Aufsichtsgremium um, das sich auf Sicherheitsfragen konzentriert. Der neue Vorsitzende ist Zico Kolter, Leiter der Abteilung für maschinelles Lernen an der Fakultät für Informatik der Carnegie Mellon University. Er folgt auf Brett Taylor, der ebenfalls den Ausschuss verlassen hat. Weitere Mitglieder des Ausschusses sind Adam D'Angelo, Mitbegründer und CEO von Quora, der pensionierte US-Armeegeneral Paul Nakasone und Nicole Ligman, ehemalige Executive Vice President und General Counsel von Sony.
Unter Kolters Leitung wird der Ausschuss die Sicherheits- und Anwendbarkeitsstandards von OpenAI o1, dem neuesten großen Sprachmodell von OpenAI, überprüfen. OpenAI o1 verfügt über verbesserte Inferenzfähigkeiten und soll in Physik, Chemie und Biologie die Leistung von menschlichen Doktoranden übertreffen, sowie in Mathematik und Programmierung hervorragende Ergebnisse erzielen.
OpenAI hat auch die zukünftigen Aufgaben des Ausschusses definiert, darunter der Aufbau einer unabhängigen KI-Sicherheits- und -Governance, die Verbesserung von Sicherheitsmaßnahmen, die Förderung der Transparenz der Arbeit von OpenAI, die Zusammenarbeit mit externen Organisationen und die Vereinheitlichung des Sicherheitsrahmens des Unternehmens für die Modellentwicklung und -überwachung. Das Unternehmen erklärte: „Wir verpflichten uns, die Art und Weise, wie wir leistungsfähige und sichere Modelle veröffentlichen, kontinuierlich zu verbessern. Der Sicherheitsausschuss wird eine Schlüsselrolle bei der Gestaltung der Zukunft von OpenAI spielen.“
Altmans Führungsstil war jedoch umstritten, insbesondere vor dem Hintergrund seiner Entlassung und schnellen Rückkehr zu OpenAI Ende letzten Jahres. Auch seine Beziehung zu Elon Musk von Tesla, einem der Gründungsdirektoren von OpenAI, ist angespannt. Es gibt immer wieder Zweifel an der Sicherheit der OpenAI-Technologie, darunter die Frage, ob das Unternehmen illegale Geheimhaltungsvereinbarungen verwendet und Mitarbeiter zur Meldung von Kontakten mit Aufsichtsbehörden verpflichtet.
Welche Auswirkungen Altmans Rücktritt auf die KI-Governance haben wird, ist noch unklar. Manche deuten darauf hin, dass dies zeigen könnte, dass OpenAI die Bedeutung von Neutralität in der KI-Governance erkennt und offener im Umgang mit der Sicherheit und den Risiken von KI sein möchte.
Wichtigste Punkte:
🌐 Altman verlässt den OpenAI-Sicherheitsausschuss, um einen unabhängigeres Überwachungsmechanismus zu fördern.
🔍 Der neue Vorsitzende Zico Kolter wird den Ausschuss leiten und die Sicherheit neuer OpenAI-Modelle weiter bewerten.
🤝 OpenAI plant, die Zusammenarbeit mit externen Organisationen zu verstärken, um Transparenz und Sicherheitsmaßnahmen zu verbessern.
