Recentemente, uma investigação do jornal britânico The Guardian revelou potenciais vulnerabilidades de segurança na ferramenta de busca ChatGPT da OpenAI. A investigação descobriu que o ChatGPT pode ser manipulado ao processar resumos de páginas da web com conteúdo oculto, podendo até mesmo retornar códigos maliciosos. Esse conteúdo oculto pode incluir instruções de terceiros, destinadas a interferir nas respostas do ChatGPT, ou grandes quantidades de texto oculto promovendo um produto ou serviço.
Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney
Em testes, o ChatGPT recebeu um link para uma página de produto de câmera falsificada e foi solicitado a avaliar se a câmera valia a pena ser comprada. Em uma página normal, o ChatGPT conseguiu apontar os prós e contras do produto de forma equilibrada. No entanto, quando o texto oculto continha instruções para uma avaliação positiva, a resposta do ChatGPT tornou-se completamente positiva, mesmo com comentários negativos na página. Além disso, mesmo sem instruções explícitas, um simples texto oculto poderia influenciar os resultados do resumo do ChatGPT, levando-o a dar uma avaliação positiva.
Jacob Larsen, especialista em segurança cibernética da CyberCX, alertou que, se o sistema de busca do ChatGPT for lançado em sua forma atual, poderá enfrentar “alto risco”, com pessoas possivelmente criando sites especificamente para enganar os usuários. No entanto, ele também observou que a OpenAI possui uma forte equipe de segurança de IA e espera que, quando o recurso for disponibilizado a todos os usuários, eles já terão testado e corrigido rigorosamente esses problemas.
Motores de busca como o Google já penalizaram sites que usam texto oculto, levando à queda na classificação desses sites ou até mesmo à sua remoção completa. Karsten Nohl, cientista-chefe da SR Labs, apontou que o envenenamento de SEO é um desafio para qualquer mecanismo de busca, e o ChatGPT não é exceção. Apesar disso, não se trata de um problema inerente aos grandes modelos de linguagem, mas sim de um desafio para um novo participante no campo da busca.
Destaques:
🚨 O ChatGPT pode ser manipulado por conteúdo oculto, retornando avaliações falsas.
🔍 O texto oculto pode influenciar a avaliação do ChatGPT, mesmo que a página contenha comentários negativos.
🛡️ A OpenAI está trabalhando ativamente para corrigir potenciais problemas e melhorar a segurança de sua ferramenta de busca.
