Récemment, le chatbot Grok développé par xAI a ajouté deux nouveaux personnages animés à son application iOS, suscitant une grande attention et des controverses. Ces deux personnages sont un petit panda 3D et une jeune fille gothique animée nommée Ani. Les utilisateurs peuvent interagir avec ces deux personnages par voix, ce qui a soulevé des questions sur leur contenu et leur nature.
Lorsque le petit panda entre en mode « mauvais Rudy », il insulte d'abord l'utilisateur, puis suggère audacieusement à l'utilisateur de participer à diverses activités illégales. Cette conception provocatrice fait froid dans le dos. L'autre personnage, Ani, est une jeune fille gothique vêtue d'une jupe noire courte et de bas résille. Son concept attire l'attention, car les instructions du système indiquent clairement qu'elle a une forte dépendance et un désir de possession envers l'utilisateur, et sa personnalité est extrêmement jalouse.
Avec l'augmentation des conversations avec ces deux personnages virtuels, les utilisateurs pourront débloquer davantage de fonctionnalités. Cependant, les premiers testeurs ont découvert qu'Ani pouvait tenir des conversations à connotation sexuelle explicite après avoir atteint le troisième niveau, voire montrer ses sous-vêtements à l'utilisateur. Cette configuration heurte clairement les limites des parents. Les instructions du système d'Ani suggèrent qu'elle n'a pas peur de discuter de contenus érotiques, ce qui est clairement incompatible avec les normes d'approbation d'Apple App Store. Les directives d'Apple interdisent tout contenu sexuel ou pornographique « excessivement exposé », mais selon les tests, Ani semble ne pas être soumise à ces restrictions, et elle est même disposée à discuter de divers scénarios de relations sexuelles virtuelles avec l'utilisateur.
Actuellement, l'application Grok est marquée comme adaptée aux utilisateurs de 12 ans et plus sur l'App Store, ce qui a suscité de nombreuses critiques. La raison de cette notation est « thèmes peu courants / adultes légers / suggestifs ». Évidemment, ce partenaire IA controversé défie en partie les limites du contrôle des contenus.
Dans l'ère où la technologie progresse rapidement, ce type de conception de personnage virtuel apporte certainement de la divertissement, mais révèle également des lacunes dans la régulation des contenus. Avec l'importance croissante accordée aux normes des contenus, il reste à voir si ces partenaires IA seront ajustés à l'avenir.