Laut einer Studie der Universität Cambridge könnten KI-Tools dazu verwendet werden, die Entscheidungen von Online-Nutzern zu manipulieren – vom Kauf von Waren bis hin zur Wahlentscheidung. Die Studie weist darauf hin, dass sich ein neuer Markt entwickeln könnte, die sogenannte „Intentionsökonomie“, in der KI-Assistenten menschliche Absichten verstehen, vorhersagen und manipulieren und diese Informationen an Unternehmen verkaufen könnten, die davon profitieren.
Bildquelle: Das Bild wurde mit KI generiert und ist durch Midjourney lizenziert.
Das Forschungsteam des Zentrums für Zukunftsintelligenz (LCFI) der Universität Cambridge sieht die Intentionsökonomie als Nachfolgerin der Aufmerksamkeitsökonomie. In der Aufmerksamkeitsökonomie erhalten soziale Netzwerke ihre Einnahmen durch die Gewinnung der Aufmerksamkeit der Nutzer und die Schaltung von Werbung. In der Intentionsökonomie hingegen verkaufen KI-affine Technologieunternehmen Informationen über die Motive ihrer Nutzer – beispielsweise geplante Hotelbuchungen oder Meinungen zu politischen Kandidaten – an das bestbietende Unternehmen.
Dr. Jonny Payne, Technologiehistoriker am LCFI, erklärt: „Aufmerksamkeit war jahrzehntelang die Währung des Internets. Nutzer teilen ihre Aufmerksamkeit auf Social-Media-Plattformen wie Facebook und Instagram und treiben so die Online-Wirtschaft voran.“ Er weist darauf hin, dass die Intentionsökonomie, ohne Regulierung, die Motive der Nutzer als neue Währung betrachten und einen „Goldrausch“ nach menschlichen Absichten auslösen würde.
Die Studie besagt, dass große Sprachmodelle (LLMs), die KI-Tools wie ChatGPT unterstützen, verwendet werden, um das Verhalten der Nutzer „vorherzusagen und zu lenken“. Diese Modelle werden durch die Analyse von „Intentions-, Verhaltens- und psychischen Daten“ trainiert. Während die Aufmerksamkeitsökonomie es Werbetreibenden ermöglicht, die Aufmerksamkeit der Nutzer durch Echtzeit-Gebotsverfahren zu gewinnen, könnten LLMs in der Intentionsökonomie in Echtzeit auf die Absichten der Nutzer zugreifen – beispielsweise indem sie fragen, ob der Nutzer den Besuch eines bestimmten Films in Betracht zieht oder ob er Hilfe bei der Buchung von Kinokarten benötigt.
In dieser aufkommenden Intentionsökonomie könnten Werbetreibende generative KI-Tools nutzen, um personalisierte Online-Werbung zu erstellen. Die Studie erwähnt auch das KI-Modell Cicero von Mark Zuckerbergs Meta-Unternehmen, das im Strategiespiel Diplomacy ein „menschliches Niveau“ erreicht hat – ein Spiel, das auf der Fähigkeit basiert, die Absichten der Gegner zu erraten und vorherzusagen.
Die Studie untersucht ferner zukünftige Szenarien, in denen Meta möglicherweise die Absichten der Nutzer – wie Restaurant-, Flug- oder Hotelbuchungen – an Werbetreibende versteigern könnte. Obwohl es bereits eine Branche gibt, die sich auf die Vorhersage und das Bieten auf menschliches Verhalten spezialisiert hat, würden KI-Modelle diese Praktiken in eine „hochgradig quantifizierte, dynamische und personalisierte“ Form bringen.
Wichtigste Punkte:
🧠 KI-Tools könnten die Entscheidungen von Nutzern manipulieren und einen neuen Markt, die „Intentionsökonomie“, schaffen.
💰 In der Intentionsökonomie würden die Motive der Nutzer als neue Währung betrachtet und von Technologieunternehmen verkauft.
🔍 KI-Modelle würden durch die Analyse von Nutzerdaten deren Absichten vorhersagen und Werbetreibenden helfen, Werbung gezielt einzusetzen.