¡Giro radical en la política de revisión de OpenAI! El nuevo generador de imágenes de ChatGPT se vuelve viral, y la flexibilización de las restricciones sobre contenido controvertido genera interés.
Esta semana, OpenAI lanzó un nuevo generador de imágenes en ChatGPT, cuya capacidad para generar imágenes al estilo del Studio Ghibli se ha vuelto rápidamente popular. Este generador, basado en GPT-4o, mejora significativamente las funciones de edición de imágenes, renderizado de texto y representación espacial de ChatGPT.
Sin embargo, lo más llamativo es el importante ajuste en la política de moderación de contenido de OpenAI. La nueva política permite a ChatGPT generar imágenes que representan a figuras públicas, símbolos de odio y características raciales según las solicitudes del usuario, lo que difiere mucho de la anterior política de estricta restricción de contenido controvertido.
Joanne Jang, responsable del comportamiento de los modelos de OpenAI, afirma que la empresa está pasando de un "rechazo total" a un "método más preciso", con el objetivo de prevenir daños en el mundo real, y subraya que "se adapta mientras aprende". Esta medida de OpenAI se considera parte de un plan mayor para "desregular" la moderación de ChatGPT, con el fin de permitir que el modelo procese más solicitudes y ofrezca perspectivas diversas.
Según la nueva normativa, ChatGPT ahora puede generar y modificar imágenes de figuras públicas como Trump o Musk. OpenAI considera que no debería ser el "árbitro" que decide quién puede ser generado, y ofrece a los usuarios un mecanismo para optar por no participar. Además, en entornos educativos o neutrales, ChatGPT incluso puede generar "símbolos de odio" como la esvástica nazi, siempre que no se alabe o apoye explícitamente el extremismo. El nuevo modelo también ha relajado las restricciones sobre solicitudes que antes eran rechazadas por referirse a características físicas. Simultáneamente, ChatGPT puede imitar el estilo de estudios como Pixar o Ghibli, pero sigue estando restringida la imitación de artistas vivos.
A pesar de ello, OpenAI no ha eliminado por completo el abuso; GPT-4o cuenta con medidas de seguridad más estrictas para la generación de imágenes de niños. Sin embargo, este cambio significativo en la política de moderación de contenido se produce en un momento en que los conservadores critican desde hace tiempo la "censura" de la inteligencia artificial por parte de las empresas de Silicon Valley. Anteriormente, el generador de imágenes Gemini de Google generó controversia por generar imágenes inexactas de personajes históricos de diversas razas.
El congresista republicano Jim Jordan ha enviado preguntas a OpenAI y otros gigantes tecnológicos sobre la moderación de contenido de la inteligencia artificial. OpenAI niega que el cambio de política tenga motivaciones políticas, afirmando que refleja su "creencia de larga data en dar a los usuarios más control" y que la tecnología ya está lo suficientemente madura para manejar temas delicados.
Teniendo en cuenta las posibles revisiones regulatorias futuras, el momento de esta decisión de OpenAI es delicado. Plataformas como Meta y X han adoptado estrategias similares, permitiendo la publicación de más contenido controvertido. Aunque el nuevo generador de imágenes de ChatGPT se utiliza principalmente para crear imágenes divertidas al estilo Ghibli, el cambio en su política de moderación de contenido podría tener un impacto más amplio y podría presentar nuevos desafíos a OpenAI a la hora de responder a cuestiones delicadas.