Recientemente, el experto en SEO James Brockbank descubrió en pruebas que la herramienta de inteligencia artificial ChatGPT podría citar fuentes de información poco confiables al proporcionar recomendaciones comerciales, incluidos sitios web hackeados y dominios caducos. Este fenómeno ha llamado la atención del sector, recordando a los usuarios que verifiquen las recomendaciones de las herramientas de IA.
En las pruebas, Brockbank descubrió que ChatGPT a veces citaba contenido manipulado o engañoso al recomendar ciertas empresas o servicios. Estos contenidos generalmente aparecían en sitios web de alto peso con ciberataques o en dominios caducos que habían sido reregistrados y utilizados para publicar información irrelevante. Debido a que estos dominios tenían originalmente un "poder de autoridad", ChatGPT los sigue considerando como fuentes confiables al generar recomendaciones.
Brockbank señaló que este problema tiene dos aspectos principales: primero, los sitios web hackeados, que podrían tener información no relacionada con el contenido original; segundo, la reutilización de dominios caducos, donde algunas instituciones o individuos compran estos dominios y publican contenido irrelevante, aprovechándose de su antiguo peso en los motores de búsqueda para engañar al sistema de IA. Dijo: "Reconstruir un dominio solo para que un modelo de lenguaje lo cite. Eso es manipulación."
Este descubrimiento tiene profundas implicaciones tanto para empresas como para usuarios. Para las empresas, las recomendaciones de IA se han convertido en un canal importante para la visibilidad de la marca, pero si el contenido recomendado proviene de fuentes poco confiables, podría engañar a los consumidores y dañar la reputación de la marca. Para los usuarios, confiar ciegamente en las recomendaciones de IA podría llevar a errores en la toma de decisiones informativas.
Por lo tanto, Brockbank instó a los desarrolladores de IA a mejorar los mecanismos de identificación y filtrado de contenido manipulado, para aumentar la capacidad del sistema para seleccionar información. También recomendó a los usuarios que verifiquen las fuentes de información recomendadas por herramientas como ChatGPT, en lugar de aceptarlas sin cuestionar. "Aún no hemos llegado a un punto en el que podamos confiar plenamente en las recomendaciones de ChatGPT sin verificarlas", enfatizó.
A medida que avanza rápidamente la tecnología de IA, garantizar la confiabilidad de la información se ha convertido en un tema importante. Los usuarios, mientras disfrutan de la comodidad, también deben mantenerse alerta para evitar posibles engaños y riesgos.
Resumen clave:
🌐 ChatGPT podría citar sitios web hackeados y dominios caducos en sus recomendaciones comerciales, lo cual hace que las fuentes de información sean poco confiables.
🔍 Los usuarios deberían verificar la información recomendada por la IA, en lugar de confiar ciegamente en ella, para evitar errores en la toma de decisiones informativas.
🚀 Los expertos exigen a los desarrolladores de IA mejorar los mecanismos de identificación y filtrado de contenido manipulado, mejorando así la capacidad de selección de información.