Kürzlich gab Li Weng, Vizepräsidentin von OpenAI, ihren Rücktritt zum 15. November bekannt. Weng, Absolventin der Peking-Universität, leitete das OpenAI-Team für Sicherheitssysteme und war eine wichtige Mitwirkende an der Entwicklung von ChatGPT.
Sie kam 2018 zu OpenAI und beteiligte sich an mehreren wichtigen Projekten, darunter GPT-4, insbesondere in den Bereichen Modell-Sicherheit, Pre-Training und Reinforcement Learning.
In ihrer Karriere entwickelte Weng die bekannte Formel „Agent = großes Modell + Gedächtnis + aktive Planung + Werkzeugnutzung“, die die Forschung und Anwendung von KI maßgeblich unterstützt. Ihr Vortrag zum Thema „KI-Sicherheit und -Förderung“ auf der Bilibili Super Science Night 2024 erregte große Aufmerksamkeit und löste zahlreiche Diskussionen aus.
In ihrem Abschiedsbrief drückte Weng ihre Dankbarkeit gegenüber OpenAI aus und blickte auf ihre berufliche Entwicklung im Unternehmen zurück. Sie erwähnte, dass sie mit großer Neugier und Begeisterung zu OpenAI kam und an verschiedenen Projekten teilnahm, von Deep Reinforcement Learning Algorithmen bis hin zu Roboter-Herausforderungen. Gemeinsam mit ihrem Team gelang es ihr, einem Roboterarm das Lösen eines Rubik's Cubes beizubringen. Sie betonte auch die Gründung ihres ersten angewandten Forschungsteams, das die Grundlage für die spätere Sicherheitsarbeit legte.
Unter ihrer Führung wuchs das OpenAI-Team für Sicherheitssysteme stetig und umfasst jetzt über 80 hochqualifizierte Wissenschaftler und Ingenieure. Weng ist stolz auf die Erfolge des Teams im Bereich der KI-Sicherheit, insbesondere auf das kürzlich veröffentlichte o1-Preview-Modell, das eine herausragende Sicherheit und Praktikabilität aufweist. Ihre strengen Anforderungen an Sicherheitstests und Red-Team-Tests sicherten die Robustheit und Transparenz des Modells.
Obwohl sie OpenAI verlässt, wird Weng ihren Blog weiterhin aktualisieren und freut sich darauf, mehr Zeit für Programmieren und Schreiben zu haben. Ihr Abschied wurde von vielen Kollegen mit Glückwünschen bedacht. Dies markiert nicht nur einen neuen Beginn in ihrer Karriere, sondern bedeutet auch, dass die wichtige Position des Sicherheitsleiters bei OpenAI neu besetzt werden muss.
Wichtigste Punkte:
🌟 Li Weng verlässt OpenAI am 15. November. Sie leitete zuvor das Team für Sicherheitssysteme.
📈 Während ihrer Zeit im Unternehmen beteiligte sie sich an mehreren wichtigen Projekten, darunter GPT-4, und entwickelte die bekannte „Agent“-Formel.
💻 Nach ihrem Abschied plant Li Weng, ihren Blog weiterzuführen und sich mehr dem Programmieren und Schreiben zu widmen.
