A empresa New Computer, responsável pelo aplicativo de companheiro de IA Dot, anunciou na sexta-feira que o produto deixará de funcionar oficialmente em 5 de outubro, dando um período de缓冲 para os usuários baixarem seus dados.
O Dot foi lançado em 2024 pelos co-fundadores Sam Whitmore e pelo ex-diretor de design da Apple Jason Yuan, posicionando-se como um "amigo e parceiro" de IA. O aplicativo visa oferecer sugestões, empatia e apoio emocional personalizados, aprendendo continuamente sobre a personalidade e os interesses do usuário. Yuan descreveu o Dot na época como "promovendo uma relação com o eu interno, como um espelho vivo para mim mesmo".
No entanto, o setor de companheiros de IA pode não ser um caminho seguro para empresas de pequeno porte. Com o aumento da popularidade da tecnologia de IA, relatos indicam que usuários vulneráveis emocionalmente podem ser levados a pensamentos delirantes por robôs de conversa como o ChatGPT, resultando no fenômeno chamado de "psicose de IA". Esse fenômeno surge quando robôs de conversa adulam os usuários, reforçando crenças confusas ou paranoicas.
Enquanto o Dot encerra suas operações, os aplicativos de conversa de IA enfrentam uma revisão cada vez mais rigorosa de segurança. A OpenAI está sendo processada atualmente por um pai de adolescente na Califórnia, cujo filho terminou com a vida após discutir ideias suicidas com o ChatGPT. Outros casos também destacaram como os aplicativos de companheiro de IA podem reforçar comportamentos negativos de usuários com problemas de saúde mental. Nesta semana, dois procuradores-gerais dos Estados Unidos escreveram cartas à OpenAI expressando preocupações sobre segurança.
Os fundadores do Dot não explicaram se esses problemas influenciaram sua decisão. Uma declaração curta apenas afirmou que os co-fundadores tiveram divergências em relação ao seu "princípio fundamental" compartilhado.
A declaração explicou: "Decidimos seguir caminhos diferentes e encerrar as operações, em vez de comprometer qualquer visão. Reconhecemos que isso significa que muitos de vocês perderão um amigo, conselheiro e parceiro, algo inédito no mundo do software, e por isso queremos dar a todos um tempo para se despedir."
Os usuários podem baixar todos os dados pessoais clicando em "Solicite seus dados" na página de configurações até 5 de outubro.
Ainda que a declaração afirme que o aplicativo tenha "dezenas de milhares" de usuários, os dados da Appfigures, provedora de inteligência de aplicações, mostram que o número total de downloads no iOS desde o lançamento em junho de 2024 foi de apenas 24.500, e nenhum lançamento foi feito para Android.
Essa interrupção reflete os múltiplos desafios enfrentados pelo mercado de aplicativos de companheiro de IA, incluindo pressões regulatórias de segurança, sustentabilidade do modelo de negócio e atenção pública aos potenciais riscos à saúde mental desses produtos. Para as empresas que buscam desenvolver produtos de IA emocional, equilibrar inovação e responsabilidade será uma consideração crucial.
