Dans l'ère numérique, la fabrication de vidéos falsifiées devient de plus en plus courante, suscitant une préoccupation sérieuse concernant les fausses informations. Face à ce défi, l'entreprise d'intelligence artificielle d'Elon Musk, xAI, a annoncé que son chatbot Grok sera bientôt capable de détecter les vidéos générées par l'intelligence artificielle. Grok pourra analyser le contenu des vidéos, retracer leurs origines et aider ainsi les utilisateurs à identifier potentiellement des informations fausses.
Cette information a été déclenchée par un échange sur les réseaux sociaux le 9 octobre. Un utilisateur a exprimé sa préoccupation concernant les graves conséquences des vidéos falsifiées, soulignant qu'à l'avenir, n'importe qui pourrait facilement créer une vidéo fausse où vous prononceriez des paroles inappropriées, rendant difficile pour vous de prouver sa véracité. Musk a répondu en disant que la nouvelle fonctionnalité prochaine de Grok serait capable d'analyser en profondeur le flux binaire des vidéos, d'identifier les caractéristiques liées à l'intelligence artificielle et de remonter à la source des vidéos sur Internet.
Les capacités d'analyse de Grok se concentreront sur la détection de petites anomalies dans le flux binaire des vidéos, comme des changements minimes lors du processus de compression ou une incohérence dans les modèles de génération. De plus, il vérifiera la véracité des vidéos en comparant les métadonnées et les traces sur Internet. Cela signifie que les utilisateurs pourront plus facilement distinguer les vidéos falsifiées des vidéos fiables à l'avenir.
Depuis la sortie de Grok AI en 2023, Musk s'est employé à faire de ce chatbot une figure importante dans le domaine de l'intelligence artificielle. Plus tôt cette année, Grok s'est intégré à la plateforme sociale X (anciennement Twitter), afin d'améliorer la synergie entre les deux, rendant Grok une fonction centrale de cette plateforme. Actuellement, les utilisateurs de la plateforme X peuvent déjà utiliser Grok pour vérifier les faits des contenus, et à l'avenir, Grok remplacera les algorithmes de recommandation de contenus existants pour offrir aux utilisateurs une expérience d'actualité plus personnalisée.
En outre, Grok est considéré comme un outil central de la « Grokipedia » (encyclopédie Grok) construite par Musk, visant à devenir un puissant concurrent de Wikipedia. Musk a également lancé une nouvelle version du générateur de vidéos Grok, étendant davantage les fonctionnalités de ses produits d'intelligence artificielle.
Face à la montée croissante des fausses informations, cette nouvelle fonctionnalité de Grok représente certainement une nouvelle façon pour les utilisateurs de faire face à ce problème.