A OpenAI muda radicalmente sua estratégia de revisão! O novo gerador de imagens do ChatGPT faz sucesso, e a flexibilização das restrições a conteúdo controverso chama a atenção.
Nesta semana, a OpenAI lançou um novo gerador de imagens no ChatGPT, cuja capacidade de gerar imagens no estilo Ghibli rapidamente se tornou popular. Este gerador, baseado no GPT-4o, melhora significativamente as funções de edição de imagens, renderização de texto e representação espacial do ChatGPT.
No entanto, o que é ainda mais notável é o grande ajuste na política de moderação de conteúdo da OpenAI. A nova política permite que o ChatGPT gere imagens que retratam figuras públicas, símbolos de ódio e características raciais, de acordo com a solicitação do usuário, o que difere muito da abordagem anterior, que restringia severamente o conteúdo controverso.
Joanne Jang, responsável pelo comportamento dos modelos da OpenAI, afirmou que a empresa está mudando de uma abordagem de "rejeição total" para um método "mais preciso", com o objetivo de prevenir danos no mundo real, enfatizando a "adaptação enquanto se aprende". Essa ação da OpenAI é vista como parte de um plano maior para "desregulamentar" a moderação do ChatGPT, visando permitir que o modelo processe mais solicitações e ofereça perspectivas diversificadas.
De acordo com as novas regras, o ChatGPT agora pode gerar e modificar imagens de figuras públicas como Trump e Musk. A OpenAI acredita que não deve ser o "árbitro" que decide quem pode ser gerado e oferece aos usuários um mecanismo de desistência. Além disso, em ambientes educacionais ou neutros, o ChatGPT pode até gerar "símbolos de ódio", como a suástica nazista, desde que não haja um claro elogio ou apoio ao extremismo. As restrições também foram flexibilizadas para solicitações que antes seriam rejeitadas, envolvendo características físicas. Simultaneamente, o ChatGPT consegue imitar o estilo de estúdios como Pixar ou Ghibli, mas ainda há restrições à imitação de artistas vivos.
Apesar disso, a OpenAI não está liberando completamente o uso indevido, e o GPT-4o possui medidas de proteção mais rigorosas na geração de imagens de crianças. Mas essa mudança significativa na política de moderação de conteúdo ocorre em um momento em que conservadores criticam há muito tempo a "censura" da inteligência artificial por empresas de tecnologia do Vale do Silício. Anteriormente, o gerador de imagens Gemini do Google gerou controvérsia por gerar imagens imprecisas de figuras históricas de diversas etnias.
O deputado republicano Jim Jordan já questionou a OpenAI e outras grandes empresas de tecnologia sobre a moderação de conteúdo de IA. A OpenAI nega que a mudança de política seja motivada politicamente, afirmando que reflete sua "crença de longa data em dar mais controle aos usuários" e que a tecnologia já está madura o suficiente para lidar com assuntos sensíveis.
Considerando o possível escrutínio regulatório futuro, o momento dessa ação da OpenAI é sensível. Plataformas como Meta e X adotaram estratégias semelhantes, permitindo a publicação de mais conteúdo controverso. Embora o novo gerador de imagens do ChatGPT seja atualmente usado principalmente para criar imagens divertidas no estilo Ghibli, a mudança em sua política de moderação de conteúdo pode ter um impacto mais amplo e pode apresentar novos desafios à OpenAI na resposta a questões delicadas.