Recientemente, salieron a la luz informes sobre las tensiones internas en OpenAI. Peter Thiel, inversor, advirtió a Sam Altman antes de su despido en noviembre de 2023 sobre el conflicto entre los defensores de la seguridad de la IA y la dirección comercial de la empresa.
Según el Wall Street Journal, Thiel planteó esta preocupación a Altman en una cena privada en Los Ángeles. Hizo especial hincapié en la influencia del movimiento del "altruismo efectivo" (Effective Altruism) dentro de OpenAI, afirmando que Altman no era consciente de la influencia del investigador de IA Eliezer Yudkowsky. "No te das cuenta de cómo Eliezer ha convencido a la mitad de tu empresa de estas teorías", le dijo Thiel a Altman.
Altman restó importancia a estas preocupaciones, mencionando la salida de Elon Musk en 2018. Argumentó que las advertencias constantes de Musk y Yudkowsky sobre los riesgos de la IA no habían afectado el desarrollo de la empresa. Sin embargo, las preocupaciones internas sobre seguridad se hicieron más evidentes en 2024, cuando varios personajes clave en seguridad de IA abandonaron OpenAI, incluyendo al científico jefe Ilya Sutskever y a Jan Leike, responsable del equipo de "Superalignment". Leike criticó públicamente la estrategia de seguridad de la empresa, alegando que su equipo luchaba por obtener recursos computacionales.
El Wall Street Journal informa que la directora de tecnología, Mira Murati, y Sutskever pasaron meses recopilando pruebas sobre la gestión de Altman, documentando acciones que incitaban a la disensión entre empleados y la elusión de protocolos de seguridad. En el lanzamiento de GPT-4-Turbo, Altman proporcionó información inexacta a la junta directiva y no fue transparente sobre la estructura de su fondo de lanzamiento privado de OpenAI. El lanzamiento apresurado de las pruebas de seguridad tras GPT-4o en mayo de 2024 generó aún más problemas.
Cuando Murati intentó plantear directamente los problemas a Altman, él llevó a un representante de recursos humanos a sus reuniones individuales durante varias semanas, lo que llevó a Murati a dejar de compartir sus preocupaciones con la junta. Finalmente, cuatro miembros de la junta, incluyendo Sutskever, decidieron destituir a Altman a través de una serie de videoconferencias confidenciales. Sutskever preparó dos documentos detallados que enumeraban las irregularidades de Altman. La junta también decidió destituir a Greg Brockman porque Murati informó a la junta que él había eludido su comunicación con Altman para comunicarse directamente con él.
Inicialmente, la explicación pública de la junta fue extremadamente breve, simplemente indicando que Altman no había sido "consistentemente honesto". Sin embargo, ante la amenaza de una salida masiva de empleados, la situación dio un giro rápido. Altman y Brockman fueron finalmente restituidos, con Murati y Sutskever firmando una carta de apoyo a su reincorporación, a pesar de su papel clave en su despido. Sutskever se sorprendió del apoyo de los empleados a Altman, ya que esperaba que los empleados acogieran favorablemente el cambio.
El informe del Wall Street Journal contradice las declaraciones anteriores, especialmente la afirmación de Murati de que no participó en el despido de Altman. La recopilación sistemática de pruebas demuestra que desempeñó un papel central en el evento. Murati y Sutskever posteriormente abandonaron OpenAI para fundar su propia empresa de IA. Esta investigación confirma aún más el papel crucial de las preocupaciones sobre la seguridad de la IA en el breve despido de Altman, revelando profundas discrepancias en la alta dirección de OpenAI que llevaron a cambios significativos en la forma en que la organización aborda la seguridad y el desarrollo de la IA.
Puntos clave:
🌐 Peter Thiel advirtió a Altman en una cena privada sobre el conflicto entre la seguridad de la IA y la dirección comercial dentro de OpenAI.
🛠️ Personajes clave en seguridad de IA abandonaron la empresa, mientras Murati y Sutskever recopilaban pruebas sobre la mala gestión de Altman.
🔄 Altman y Brockman fueron restituidos gracias al apoyo de los empleados, lo que provocó una profunda reflexión sobre las tensiones internas.
