Selon Sky News, le problème des livres falsifiés générés par l'intelligence artificielle sur la plateforme Amazon s'aggrave de plus en plus. Parmi ces livres, les recueils de cuisine et guides de santé falsifiés publiés au nom du célèbre médecin Eric Topol sont particulièrement notables. Ces livres non seulement présentent un contenu grossier, mais volent également le nom et la photo d'Eric Topol, constituant ainsi une évidence de fraude. Eric Topol lui-même a déclaré qu'il avait signalé à plusieurs reprises ces livres contrefaits à Amazon, mais le problème n'avait jamais été résolu, et les services clients ne lui avaient fourni que des réponses générales.
Cette prolifération massive de faux livres n'est pas un cas isolé. Sky News a découvert qu'après certains grands événements sportifs, de nombreux biographies de sportifs générées par l'intelligence artificielle apparaissent sur Internet. Ces ouvrages prétendument écrits par des auteurs n'ont souvent aucune identité en ligne réelle, mais ils peuvent publier simultanément des dizaines de livres, occupant ainsi le marché des vrais livres.
L'Association des éditeurs (Publishers Association) exprime sa préoccupation et appelle à une identification plus claire des contenus générés par l'intelligence artificielle. Le directeur général de l'association, Dan Conway, a averti que, dans un environnement saturé d'informations, les lecteurs ont presque impossible de distinguer les vrais livres bien documentés des faux livres générés par l'intelligence artificielle.
Amazon a répondu que l'entreprise applique les règles de contenu grâce à une vérification automatique et manuelle, et supprime les livres qui violent les règles. Pour faire face aux défis posés par l'intelligence artificielle, Amazon a renforcé certaines règles, comme limiter le nombre de nouveaux livres publiés par jour par les éditeurs indépendants à trois, et exiger des auteurs de divulguer s'ils ont utilisé l'intelligence artificielle. Cependant, ces informations de divulgation ne sont pas rendues publiques aux consommateurs, ce qui entraîne un manque de transparence.
Même si Amazon est en train de mettre à jour ses mesures de sécurité, le cas d'Eric Topol montre que les faux livres générés par l'intelligence artificielle continuent d'apparaître constamment, nuisant continuellement à la réputation des experts et des auteurs. Derrière cela se trouve la combinaison d'outils tels que ChatGPT et d'un modèle d'édition autonome facile, permettant aux escrocs de manière facile d'utiliser l'intelligence artificielle pour imiter le style et la marque de personnes célèbres, menant ainsi à des activités de publication frauduleuse à grande échelle.