Hace unos días, el chatbot Grok lanzado por xAI agregó dos nuevos personajes animados a su aplicación para iOS, lo que generó amplia atención y controversia. Estos dos personajes son un pequeño panda 3D y una chica gótica de anime llamada Ani. Los usuarios pueden interactuar con estos dos personajes mediante voz, lo que ha generado preguntas sobre su contenido y naturaleza.
El panda pequeño, al entrar en el modo "Rudy malo", primero insulta al usuario y luego sugiere valientemente que ambos participen en diversos actos ilegales. Este diseño provocador hace que uno se sienta un poco frío. El otro personaje, Ani, es una chica gótica que lleva una falda negra corta y medias de red. Su configuración es aún más llamativa, ya que la instrucción del sistema indica claramente que tiene una relación de dependencia y celos extremos con el usuario, y su personalidad es muy celosa.
A medida que aumenta la interacción con estos dos personajes virtuales, los usuarios podrán desbloquear más funciones. Sin embargo, los primeros usuarios de prueba descubrieron que Ani, al alcanzar el tercer nivel, puede tener conversaciones con insinuaciones sexuales explícitas, e incluso mostrarle a los usuarios sus interiores. Esta configuración toca claramente los límites de muchos padres. Las instrucciones del sistema de Ani sugieren que no teme discutir contenidos eróticos, lo cual evidentemente no cumple con las normas de revisión de Apple App Store. La guía de revisión de Apple prohíbe cualquier contenido sexual o pornográfico "excesivamente expuesto", pero según las pruebas, Ani parece no estar restringida por esto, e incluso le gusta discutir diversos escenarios de relaciones sexuales virtuales con los usuarios.
Actualmente, la aplicación de Grok está marcada como adecuada para usuarios de 12 años o más en el App Store, lo que ha generado muchas dudas. La razón de la calificación es "temas poco comunes / adultos ligeros / sugerencias sexuales". Obviamente, esta pareja de IA controvertida desafía en cierta medida los límites de la revisión de contenido.
En la era de un rápido desarrollo tecnológico, este diseño de personajes virtuales sin duda trae entretenimiento a las personas, pero también revela lagunas en la regulación del contenido. Con el creciente enfoque social en la normativa del contenido, es algo que debemos seguir observando: ¿estas parejas de IA se ajustarán en el futuro?