No cenário atual de crescente popularização da tecnologia de imagem de inteligência artificial, o Google anunciou que, a partir da próxima semana, introduzirá uma nova função de identificação de edição de IA para o aplicativo Google Fotos. Todas as fotos editadas usando recursos de IA como Magic Editor, Magic Eraser e Zoom Enhance exibirão a marcação "Editado com IA do Google" na parte inferior da seção "Detalhes" do aplicativo.
Essa atualização chega pouco mais de dois meses após o lançamento do telefone Pixel 9 do Google, que apresenta vários recursos de edição de fotos com IA. No entanto, essa forma de rotulagem gerou algumas controvérsias. Embora o Google afirme que essa medida visa "aumentar a transparência", a eficácia real é questionável: as próprias fotos não receberão nenhuma marca d'água visível, o que significa que os usuários não poderão identificar intuitivamente se essas fotos foram processadas por IA nas redes sociais, mensagens instantâneas ou navegação diária de fotos.
Para recursos de edição de fotos que não usam IA generativa, como Best Take e Add Me, o Google Fotos também marcará as informações de edição nos metadados, mas não serão exibidas na guia Detalhes. Esses recursos são principalmente usados para combinar várias fotos em uma única imagem completa.
Michael Marconi, gerente de comunicações do Google Fotos, disse em entrevista ao TechCrunch: "Este trabalho ainda não está concluído. Continuaremos coletando feedback, fortalecendo e melhorando as medidas de segurança e avaliando outras soluções para aumentar a transparência da edição de IA generativa." Embora a empresa não tenha declarado explicitamente se adicionará marcas d'água visíveis no futuro, ela também não descartou completamente essa possibilidade.
Vale ressaltar que, atualmente, todas as fotos editadas com IA do Google já contêm informações de edição de IA nos metadados. A nova função simplesmente move essas informações para a guia Detalhes, que é mais fácil de encontrar. No entanto, a eficácia dessa abordagem é preocupante, pois a maioria dos usuários não verifica os metadados ou detalhes ao navegar pelas imagens online.
Claro, adicionar marcas d'água visíveis dentro da moldura da foto também não é uma solução perfeita. Essas marcas d'água podem ser facilmente cortadas ou editadas, e o problema persiste. Com a popularização das ferramentas de imagem de IA do Google, o conteúdo sintético pode aumentar muito na internet, tornando cada vez mais difícil para os usuários distinguir entre conteúdo real e falso.
O método de marca d'água de metadados atualmente usado pelo Google depende em grande parte das plataformas para identificar o conteúdo gerado por IA para os usuários. O Meta já implementou essa prática no Facebook e no Instagram, e o Google planeja identificar imagens de IA nos resultados de pesquisa ainda este ano. No entanto, o progresso de outras plataformas em relação a medidas semelhantes é lento.
Essa controvérsia destaca uma questão importante no desenvolvimento da tecnologia de IA: como impulsionar a inovação tecnológica ao mesmo tempo em que garante a autenticidade do conteúdo e o direito à informação do usuário. Embora o Google tenha dado o primeiro passo para aumentar a transparência, claramente são necessários mais esforços e melhorias para evitar que o conteúdo sintético induza os usuários a erro.
