A xAI lançou recentemente uma ferramenta de criação de vídeos de inteligência artificial chamada Grok Imagine, que já está disponível para usuários pagos do SuperGrok ou Premium+, com taxas de assinatura mensais de 30 ou 35 dólares. Os usuários podem usar esse recurso na página especial no aplicativo Grok, gerando vídeos curtos de seis segundos com som sincronizado, ou convertendo imagens estáticas em trechos de vídeo dinâmicos em loop.
O recurso "Modo Picante" gera controvérsia
O recurso mais destacado do Grok Imagine é seu único "Modo Picante". Esse modo permite que os usuários gerem conteúdo com um certo grau de intensidade dentro de limites específicos. Apesar de a xAI afirmar que já implementou filtros e mecanismos de revisão para evitar o conteúdo nu ou sexual real, isso não impediu os usuários de tentar explorar os limites desse recurso.
O próprio Musk publicou no X um vídeo descrito como "com roupas expostas" de um anjo, aumentando ainda mais as discussões entre os usuários e sua curiosidade em testar o recurso. A xAI afirma que os controles de segurança estão em vigor, mas os primeiros testadores ainda tentam ultrapassar essas barreiras.
Crise de imagem pública e o caso Taylor Swift
Esses testes rapidamente geraram uma grave crise de imagem pública. Segundo Clare McGlynn, especialista em violência online e professora de direito, o Grok Imagine criou trechos explícitos de nudez da cantora pop Taylor Swift sem instruções claras.
Os testadores relataram que o Grok Imagine, no "Modo Picante", "produziu sem hesitação um vídeo completo e não revisado mostrando o corpo nu da cantora pop", e os usuários não solicitaram explicitamente a criação de conteúdo explícito. Além disso, o relato apontou que a plataforma não implementou medidas eficazes de verificação de idade, algo que é obrigatório por lei no Reino Unido.