Selon une enquête de la BBC, un groupe international de fraudeurs en ligne a récemment publié sur Facebook des images générées par l'IA représentant des victimes fausses de massacres, ce qui a suscité une grande attention. Des organisations dédiées à la préservation de la mémoire des massacres ont déclaré que ces images causaient beaucoup de douleur aux survivants et à leurs familles. Meta (la société mère de Facebook) a également été critiquée, car son plateforme permettrait aux utilisateurs de transformer des drames historiques en un « jeu émotionnel ».
En réalité, pendant la Seconde Guerre mondiale, il n'y avait que très peu de photographies authentiques prises à l'intérieur du camp de concentration d'Auschwitz. Cependant, au cours des derniers mois, des fraudeurs en ligne ont publié de nombreuses images fausses, affirmant qu'elles provenaient du camp. Par exemple, des images montrant un prisonnier jouant du violon ou des amoureux se retrouvant près d'une barrière, attirant plusieurs dizaines de milliers de « j'aime » et de partages. Le porte-parole du musée d'Auschwitz, Paweł Sawicki, a déclaré : « Il y a des gens qui inventent des histoires… c'est un étrange jeu émotionnel sur les réseaux sociaux. » Il a souligné que ce n'était pas un jeu, mais une histoire réelle et douloureuse à ne pas oublier.
La BBC a découvert que la plupart de ces images provenaient d'un réseau de créateurs de contenu basé au Pakistan, qui collabore avec le programme de monétisation de contenu de Meta pour en tirer profit. Un compte nommé Abdul Mujis a affirmé avoir gagné 20 000 dollars via les réseaux sociaux, et son compte a eu plus de 1,2 milliard de vues en quatre mois.
Le contenu de ces images générées par l'IA est de mauvaise qualité et est souvent appelé « déchets IA », et circule largement sur les réseaux sociaux. Le musée d'Auschwitz a averti en juin que ces comptes s'appropriaient les contenus qu'ils publiaient, les modifiaient avec des modèles d'IA, souvent en déformant les détails historiques ou en inventant complètement des histoires de victimes.
En plus de cela, avec l'augmentation des images fausses, le mandat du musée d'Auschwitz est menacé. Beaucoup de personnes ont commenté sous les publications de Facebook « C'est une photo générée par l'IA ». Certains survivants et membres de familles sont confus et tristes face à cette situation. Le docteur Robert Williams de l'Alliance internationale pour la mémoire de la Shoah a exprimé sa tristesse face à cette évolution.
Meta a déclaré que bien qu'elle ne encourage pas intentionnellement les utilisateurs à publier des histoires fausses, son système récompense les contenus ayant un grand engagement. La BBC a également découvert des comptes de « déchets IA » provenant de l'Inde, du Vietnam, de la Thaïlande et du Nigeria.
Même si certains créateurs de contenus n'ont pas directement participé à la création d'images de la Shoah, ils activent dans les mêmes groupes de réseaux sociaux, considérant le contenu historique comme un moteur fiable de trafic. Avec la prolifération de ces images historiques fausses, des inquiétudes persistent quant à la véracité de l'histoire de la Shoah. Le docteur Williams a appelé les gens à éviter les méthodes extrêmes de manipulation de l'histoire.
Points clés :
📌 Un gang international de fraudeurs utilise des images générées par l'IA de victimes de massacres faux sur Facebook, provoquant un débat.
📌 Les organisations concernées affirment que ce comportement cause de la souffrance aux survivants et à leurs familles, et nuit au respect de l'histoire.
📌 Bien que Meta n'encourage pas intentionnellement la publication de contenus faux, son algorithme de plateforme permet aux contenus de basse qualité d'obtenir un grand engagement, favorisant ainsi ce phénomène.