Recentemente, o co-fundador da OpenAI, Andrej Karpathy, fez críticas severas ao estado atual do desenvolvimento de agentes de IA. Ele apontou que, apesar do rápido avanço da tecnologia de IA, os atuais agentes ainda são "insuficientes". Em uma entrevista, ele admitiu: "Os agentes atuais têm um nível baixo de inteligência, carecem de capacidade multimodal, não conseguem operar realmente um computador e, muito menos, aprender continuamente." Ele acredita que esses sistemas não conseguem lembrar as informações fornecidas pelos usuários, sua capacidade cognitiva é muito limitada e, por isso, muitas vezes não conseguem atender às necessidades dos usuários.
Karpathy prevê que resolver esses problemas levará pelo menos dez anos. Apesar de a indústria esperar ansiosamente 2025 como o "ano dos agentes", ele acredita que se trata apenas de uma fantasia otimista. Ele explica que os agentes deveriam ser capazes de completar tarefas de forma autônoma, decompor problemas, planejar soluções e executar automaticamente sem intervenção do usuário. No entanto, na realidade, esses objetivos ainda parecem distantes.
Ele acrescentou que a velocidade do desenvolvimento atual da IA excede longamente a capacidade dos próprios agentes. Karpathy descreveu até mesmo de forma imaginativa que a indústria de IA já está em um futuro — sistemas totalmente automatizados estão escrevendo código sozinhos, enquanto a participação humana vai diminuindo cada vez mais. Ele expressa preocupação com isso e não deseja ver esse futuro.
No mundo ideal de Karpathy para a IA, a cooperação entre humanos e IA deve ser complementar. Ele espera que os agentes possam ativar ativamente a documentação de APIs e chamar corretamente as interfaces, em vez de adivinhar aleatoriamente. Ele deseja que a IA aprenda e cresça continuamente no processo de colaboração, em vez de simplesmente fornecer uma série de códigos que podem não ser eficazes. Ele acredita que buscar agente que substitua os humanos pode acabar enfraquecendo o valor humano e enchendo a internet com conteúdo de baixa qualidade produzido pela IA.
Ainda que seja pessimista sobre o desenvolvimento atual da IA, Karpathy afirma firmemente que não é um pessimista em relação à IA. Ao enfatizar suas expectativas cautelosas sobre o futuro, ele mencionou que, comparado às visões que negam completamente a IA, sua atitude ainda é considerada otimista.
