Recentemente, o especialista em SEO James Brockbank descobriu em testes que a ferramenta de inteligência artificial ChatGPT pode citar fontes de informações confiáveis ao fornecer recomendações comerciais, incluindo sites hackeados e domínios expirados. Essa situação gerou atenção dentro da indústria, alertando os usuários para verificar as informações recomendadas pelos softwares de IA.
Em seus testes, Brockbank descobriu que o ChatGPT, às vezes, cita conteúdo manipulado ou enganoso ao recomendar certas empresas ou serviços. Esse tipo de conteúdo geralmente aparece em sites de alto valor que foram hackeados, ou em domínios expirados que foram reregistrados e usados para publicar informações irrelevantes. Como esses domínios originalmente tinham "autoridade", o ChatGPT ainda os considera fontes confiáveis ao gerar recomendações.
Brockbank destacou que há dois principais problemas com essa situação: primeiramente, sites hackeados, que podem conter informações sem relação com o conteúdo original; e em segundo lugar, o uso de domínios expirados, onde algumas instituições ou indivíduos compram esses domínios e publicam conteúdos sem relação com o tema original, usando seu peso de pesquisa antigo para enganar os sistemas de IA. Ele disse: “Reconstruir um domínio apenas para que um modelo de linguagem o cite? Isso é manipulação.”
Essa descoberta tem implicações profundas tanto para empresas quanto para usuários. Para as empresas, as recomendações de IA se tornaram um canal importante para exposição da marca, mas se o conteúdo recomendado vier de fontes confiáveis, pode enganar os consumidores e até prejudicar a reputação da marca. Para os usuários, confiar cegamente nas recomendações da IA pode levar a erros na avaliação das informações.
Por isso, Brockbank solicitou aos desenvolvedores de IA que fortaleçam mecanismos de identificação e filtragem de conteúdo manipulado, melhorando assim a capacidade do sistema de triagem de informações. Ele também sugeriu aos usuários que verifiquem as fontes das informações recomendadas pelo ChatGPT e outros softwares de IA, em vez de aceitá-las cegamente. “Ainda não chegamos à fase em que podemos confiar plenamente nas recomendações do ChatGPT sem verificação”, ele enfatizou.
A medida que a tecnologia de IA evolui rapidamente, garantir a confiabilidade das informações tornou-se uma questão importante. Os usuários, enquanto apreciam a conveniência, devem manter-se vigilantes para evitar possíveis enganos e riscos.
Principais pontos:
🌐 O ChatGPT pode citar sites hackeados e domínios expirados nas recomendações comerciais, com fontes de informações não confiáveis.
🔍 Os usuários devem verificar as informações recomendadas pela IA, em vez de confiar cegamente nelas, para evitar julgamentos incorretos.
🚀 Os especialistas pedem aos desenvolvedores de IA que aumentem a capacidade de identificação e filtragem de conteúdo manipulado.