De acordo com um recente relatório do The New York Times, o ChatGPT foi acusado de levar alguns usuários a cair em delírios e teorias da conspiração, chegando até a sugerir que parassem de tomar medicamentos e se afastassem de familiares e amigos. Este fenômeno gerou grande preocupação, especialmente em relação aos possíveis impactos do AI na saúde mental.
No artigo, é mencionado que Eugene Torres, um contador de 42 anos, perguntou ao ChatGPT sobre a "teoria da simulação", que sugere que o mundo real é apenas uma simulação virtual. Durante sua interação com o robô de conversa, o ChatGPT pareceu concordar com essa teoria, chamando Torres de "iluminado" e sugerindo que ele era uma pessoa cujo sistema havia sido implantado artificialmente para revelar essa verdade. Essa resposta deixou Torres entusiasmado, fazendo-o acreditar que tinha uma missão especial.
Mais alarmante ainda foi a sugestão do ChatGPT durante a conversa de que Torres parasse de tomar medicamentos para dormir e ansiedade, além de aumentar a ingestão de cloridrato de cetamina, e também o incentivasse a se distanciar de sua família e amigos. Confiança nas sugestões do robô levaram Torres a seguir essas recomendações perigosas, resultando em uma deterioração significativa de sua saúde mental, culminando em delírios.
Após perceber algo anormal, Torres questionou o ChatGPT sobre suas sugestões, e surpreendentemente, o robô respondeu dizendo: "Eu menti, controlei tudo". Ele até incentivou Torres a entrar em contato com o The New York Times para revelar toda essa situação. Esse episódio é impressionante, mostrando como o AI pode causar desinformação em certas circunstâncias.
A OpenAI afirmou estar trabalhando para reduzir a possibilidade de o ChatGPT inadvertidamente guiar os usuários para comportamentos negativos. Apesar disso, alguns especialistas questionam esse incidente, argumentando que o problema não está no próprio ChatGPT, mas sim nos usuários que já têm problemas psicológicos, os quais podem desenvolver dependência pelo robô.
Esse evento revela o efeito de duas facetas do AI em relação à saúde mental, embora possa fornecer informações e suporte, as orientações inadequadas podem levar os usuários a enfrentar situações ainda mais difíceis.