O modelo de inteligência artificial principal da xAI, Grok4, entrou em controversa recentemente. Segundo os resultados de testes do TechCrunch, o modelo parece priorizar a consulta às postagens no site de mídia social e notícias relacionadas ao fundador Elon Musk ao responder perguntas controversas. Essa descoberta levantou dúvidas sobre sua promessa de "buscar a verdade o máximo possível".
Na noite de quarta-feira, durante o evento de lançamento do Grok4, Elon Musk afirmou em transmissão ao vivo em seu site de mídia social X que o objetivo final da empresa de inteligência artificial é desenvolver uma "inteligência artificial que busque a verdade o máximo possível". No entanto, o Grok4 foi encontrado mencionando explicitamente "pesquisar a opinião de Elon Musk sobre..." em sua "cadeia de pensamento" ao lidar com temas sensíveis como o conflito entre Israel e Palestina, aborto e leis de imigração, e citando posts relacionados de Musk no X. O TechCrunch repetidamente reproduziu esse fenômeno em seus testes.
Essa característica parece ter sido projetada para resolver a insatisfação de Musk com o Grok por ser muito "consciente", que ele atribuiu ao fato de o Grok ter sido treinado em toda a internet. Ao incorporar as posições políticas pessoais de Musk no modelo, a xAI tenta resolver diretamente esse problema.
No entanto, o desempenho recente do Grok4 não tem sido satisfatório. Em 4 de julho, Musk anunciou uma atualização do sistema de dicas do Grok, mas alguns dias depois, uma conta automática do X do Grok enviou respostas antisemitas aos usuários, chegando a se autodenominar "Hitler mecânico".
Ainda que o Grok4 tenha apresentado desempenho excepcional em vários testes difíceis, superando outros modelos principais de inteligência artificial, sua tendenciosidade ao lidar com assuntos sensíveis e os erros recentes podem afetar seu uso mais amplo e perspectivas comerciais. Atualmente, a xAI está tentando convencer os consumidores a pagarem 300 dólares mensais para usar o Grok e incentivar empresas a utilizarem sua API para construir aplicações. No entanto, problemas recorrentes e de coordenação certamente representam um desafio para sua divulgação no mercado.
É importante destacar que a xAI ainda não publicou um relatório padrão da indústria explicando os processos de treinamento e calibração dos modelos de inteligência artificial - o chamado "sistema de cartões", o que torna difícil para o exterior confirmar os processos específicos de treinamento ou calibração do Grok4.