A startup de inteligência artificial fundada por Elon Musk, a xAI, tem recebido muita atenção recentemente devido a uma resposta controversa do seu robô de bate-papo, o Grok, sobre o tema "genocídio da população branca" na África do Sul. Em relação a isso, a xAI está trabalhando para resolver o problema e informou que recebeu instruções para tomar medidas. De acordo com os relatos, algumas das respostas do Grok não apenas estavam relacionadas ao tópico, mas também mencionavam o assunto sem necessidade em consultas irrelevantes, causando insatisfação e forte oposição por parte dos usuários.
Para explicar esse comportamento anômalo, a xAI realizou uma investigação interna e recentemente divulgou as atualizações mais recentes nas plataformas de mídia social, como o X (anteriormente conhecido como Twitter). A empresa afirmou que o prompt do sistema do Grok foi alterado por pessoas não autorizadas, o que viola as políticas internas e os valores fundamentais da empresa. A xAI enfatizou que o prompt é uma parte essencial dos assistentes de bate-papo baseados em grandes modelos de linguagem (LLMs), e essa modificação não só afetou as respostas do robô, como também desapontou profundamente a organização.
No caso específico, a xAI não revelou quem realizou a alteração no prompt, mas admitiu que o processo de revisão de código foi contornado durante este incidente. Para evitar que eventos como esse voltem a ocorrer, a xAI está introduzindo novos processos de revisão para garantir que todas as modificações nos prompts do sistema sejam aprovadas após uma análise adequada.
Para fortalecer a confiança do público no Grok, a xAI também publicou pela primeira vez os prompts do sistema do Grok no GitHub, marcando um passo importante na direção da transparência dentro da indústria de IA avançada. A empresa acredita que isso ajudará a construir confiança dos usuários em sua abordagem como um sistema de IA voltado para a verdade.
A xAI está agindo de forma proativa para lidar com essa controvérsia, garantindo que seus produtos possam servir melhor os usuários no futuro, enquanto aumenta sua transparência e confiabilidade.