Im letzten Zeitraum hat der SEO-Experte James Brockbank bei Tests festgestellt, dass KI-Tools wie ChatGPT bei der Bereitstellung von Geschäftsempfehlungen möglicherweise auf unzuverlässige Informationsquellen verweisen, einschließlich gehackter Websites und veralteter Domains. Dieses Phänomen hat die Aufmerksamkeit der Branche geweckt und erinnert die Nutzer daran, bei der Nutzung von KI-Tools immer die empfohlenen Informationen zu überprüfen.
Bei den Tests stellte Brockbank fest, dass ChatGPT manchmal bei der Empfehlung bestimmter Unternehmen oder Dienstleistungen auf manipulierte oder irreführende Inhalte verweist. Diese Inhalte befinden sich oft auf gehackten Webseiten mit hohem Autoritätswert oder auf veralteten Domains, die neu registriert und für die Verbreitung von irrelevanten Inhalten genutzt werden. Da diese Domains ursprünglich eine hohe „Autorität“ hatten, betrachtet ChatGPT sie weiterhin als vertrauenswürdige Quellen.
Brockbank wies darauf hin, dass es zwei Hauptprobleme gibt: Erstens die gehackten Webseiten, die möglicherweise mit Informationen gefüllt sind, die mit dem ursprünglichen Inhalt nichts zu tun haben; zweitens die Wiederbenutzung veralteter Domains, bei denen einige Institutionen oder Einzelpersonen diese Domains kaufen und Inhalte bereitstellen, die mit dem ursprünglichen Thema nichts zu tun haben, um so die KI-Systeme zu täuschen. Er sagte: „Eine Domain neu aufzubauen, nur um zu erreichen, dass ein Sprachmodell sie zitiert? Das ist Manipulation.“
Diese Entdeckung hat weitreichende Auswirkungen sowohl auf Unternehmen als auch auf Nutzer. Für Unternehmen ist die KI-Empfehlung ein wichtiger Kanal zur Markenpräsenz. Wenn jedoch die empfohlenen Inhalte aus unzuverlässigen Quellen stammen, können sie potenziell Kunden täuschen und sogar das Markenimage beeinträchtigen. Für Nutzer kann das blindes Vertrauen in die KI-Empfehlungen zu Fehleinschätzungen führen.
Daher bittet Brockbank die KI-Entwickler, ihre Mechanismen zur Erkennung und Filterung von manipulierten Inhalten zu verbessern, um die Fähigkeit des Systems zur Informationsauswahl zu erhöhen. Er empfiehlt außerdem den Nutzern, bei der Nutzung von Tools wie ChatGPT immer die Quellen der empfohlenen Informationen zu prüfen, anstatt alles einfach zu akzeptieren. „Wir sind noch nicht in einem Stadium, in dem wir ChatGPT-Empfehlungen ohne Prüfung vollständig vertrauen können“, betonte er.
Mit der schnellen Entwicklung der KI-Technologie wird die Sicherstellung der Zuverlässigkeit von Informationen zu einem wichtigen Thema. Während die Nutzer die Vorteile genießen, müssen sie auch wachsam bleiben, um potenzielle Täuschungen und Risiken zu vermeiden.
Wichtige Punkte:
🌐 ChatGPT kann bei Geschäftsempfehlungen auf gehackte Webseiten und veraltete Domains verweisen, was zu unzuverlässigen Informationsquellen führt.
🔍 Nutzer sollten die Informationen, die von KI-Empfehlungen bereitgestellt werden, überprüfen und nicht blind vertrauen, um Fehleinschätzungen zu vermeiden.
🚀 Experten fordern KI-Entwickler auf, ihre Mechanismen zur Erkennung und Filterung manipulierter Inhalte zu verbessern und die Fähigkeit zur Informationsauswahl zu erhöhen.