La empresa de inteligencia artificial fundada por Elon Musk, xAI, ha llamado la atención recientemente debido a una respuesta controvertida de su robot de conversación Grok sobre el tema de "genocidio blanco" en Sudáfrica. En respuesta, xAI está trabajando para resolver este problema y ha informado que se han tomado medidas. Según los informes, algunas respuestas de Grok no solo estaban relacionadas con el tema, sino que también mencionaban activamente el asunto en consultas no relacionadas, lo que generó insatisfacción e intensa oposición por parte de los usuarios.
Para explicar este comportamiento anómalo, xAI realizó una investigación interna y recientemente compartió los últimos avances en las plataformas de redes sociales X. La compañía indicó que el sistema de indicadores de Grok había sido modificado sin autorización, lo cual viola las políticas internas y los valores fundamentales de la empresa. xAI destacó que los indicadores son una parte esencial de los asistentes de chat basados en modelos de lenguaje grande (MLL), y esta modificación no solo afectó las respuestas del robot, sino que también decepcionó profundamente a la empresa.
En este incidente, xAI no reveló quién modificó los indicadores, pero admitió que el proceso actual de revisión de código fue eludido en este caso. Para evitar que ocurran eventos similares en el futuro, xAI está introduciendo nuevos procesos de revisión para garantizar que todas las modificaciones de los indicadores del sistema pasen por un examen adecuado.
Con el fin de fortalecer la confianza del público en Grok, xAI también publicó públicamente por primera vez los indicadores del sistema de Grok en GitHub, marcando un paso importante hacia la transparencia en las empresas de IA avanzada. xAI cree que esto ayudará a construir la confianza de los usuarios en su sistema como una herramienta de búsqueda de verdad.
xAI está abordando activamente esta controversia para asegurar que sus productos puedan servir mejor a los usuarios en el futuro, al tiempo que mejoran su transparencia y fiabilidad.