Récemment, OpenAI a annoncé la suspension de la génération d'images vidéo par son modèle Sora concernant le portrait de Martin Luther King Jr. Cette décision a été prise sur demande du gestionnaire des héritages de Martin Luther King Jr., car les utilisateurs ont généré certains contenus "inappropriés" sur Sora.
OpenAI a publié un communiqué sur sa plateforme de réseaux sociaux X : « Bien que la liberté d'expression concernant la représentation des figures historiques soit importante, nous pensons que les personnalités publiques et leurs familles devraient contrôler finalement l'utilisation de leur image. » De plus, les représentants ou propriétaires légitimes peuvent demander qu'une image ne soit pas utilisée sur la plateforme Sora.
Cette restriction intervient alors qu'OpenAI vient tout juste de lancer sa plateforme de vidéos sociales Sora. Les utilisateurs peuvent créer des vidéos en haute résolution par IA qui ressemblent à des figures historiques, des amis ou des utilisateurs ayant volontairement fourni leur image. Cependant, la sortie de Sora a suscité un débat intense sur la sécurité des vidéos générées par l'IA et sur la manière de mettre en œuvre des mesures de protection technologiques.
Bernice King, fille de Martin Luther King Jr., a appelé sur Instagram à cesser d'envoyer des vidéos de son père en IA la semaine dernière. Son appel est en harmonie avec celui de la fille de Robin Williams, qui a également demandé aux utilisateurs de Sora d'arrêter de générer des vidéos en IA sur son père. Selon le Washington Post, les utilisateurs de Sora ont généré des vidéos en IA où le Dr King émettait des cris de singe et se battait avec Malcolm X.
Hormis Martin Luther King Jr., de nombreuses autres figures historiques ont également eu des vidéos indécentes sur Sora, notamment l'artiste Bob Ross, la chanteuse Whitney Houston et l'ancien président John F. Kennedy. Le gestionnaire des héritages de Martin Luther King Jr. n'a pas encore réagi à cet incident.
Depuis le lancement de Sora, OpenAI a également ajouté d'autres restrictions. Par exemple, en début de mois, l'entreprise a déclaré qu'elle offrirait aux détenteurs de droits d'auteur des contrôles plus précis pour gérer les contenus de vidéos en IA liés à leur image. Malgré cela, OpenAI semble adopter une approche plus souple concernant la gestion des contenus de ChatGPT, et a récemment annoncé qu'elle permettrait aux utilisateurs adultes de discuter avec ChatGPT sur des sujets "sexuels".
Lors du lancement de Sora, OpenAI semblait clairement faire face à diverses préoccupations liées à la génération de vidéos par l'IA. Sam Altman, PDG d'OpenAI, a déclaré que l'entreprise était "inquiète" lors du lancement du produit. OpenAI explore actuellement comment mieux distribuer cette technologie en la lançant sur le marché.
Points clés :
🌟 OpenAI suspend la génération de vidéos de Martin Luther King Jr., en réponse à la demande de son gestionnaire des héritages.
🤖 Des vidéos inappropriées ont été générées par les utilisateurs sur la plateforme Sora, suscitant des inquiétudes publiques.
🔒 OpenAI promet d'offrir aux détenteurs de droits d'auteur des contrôles plus précis pour la gestion des contenus.
