El famoso matemático Terence Tao afirmó que, aunque la inteligencia artificial ha mostrado una capacidad impresionante en muchos campos, todavía carece de un "olfato" crucial en el ámbito matemático: la intuición humana para distinguir direcciones y pruebas incorrectas. Considera que esta intuición es algo que actualmente no puede replicar la IA, por lo que los seres humanos siguen desempeñando un papel irremplazable en los juicios matemáticos.
Tao señaló que cuando la IA generativa crea pruebas matemáticas, incluso si tienen defectos, su apariencia suele ser "perfectamente impecable". Sin embargo, estos errores suelen ser "muy sutiles" y parecen "muy tontos" al ser descubiertos, siendo errores de bajo nivel que los seres humanos rara vez cometen en la práctica. Él llama a esta habilidad única de los seres humanos como una "metáfora de olfato matemático", que alerta inmediatamente cuando algo no está bien. Subrayó: "Aún no está claro cómo hacer que la IA pueda replicar esta capacidad eventualmente".
Añadió que actualmente, especialmente en los modelos generativos de IA, cuando adoptan un enfoque incorrecto, tienden a atascarse. En su opinión, el verdadero problema que la IA enfrenta ahora es "cuándo toma el camino equivocado". Esto contrasta con los sistemas híbridos de IA que combinan redes neuronales con razonamiento simbólico.
No obstante, Tao también reconoce que sistemas como AlphaZero han logrado avances significativos en áreas como el go y el ajedrez. Considera que estos sistemas han desarrollado en cierto sentido un "olfato" para el tablero de juego, pudiendo juzgar si una situación es ventajosa para uno de los jugadores. Aunque no pueden inferir las razones específicas, este "olfato" les basta para formular estrategias. Tao imagina que si la IA pudiera obtener la capacidad de percibir qué estrategias de prueba son viables, podría ofrecer sugerencias constructivas al descomponer problemas, como: "Hmm, esto parece prometedor; estas dos tareas parecen más simples que tu tarea principal y aún tienen buenas probabilidades de ser correctas".
Se informa que AlphaZero utiliza la búsqueda de árbol de Monte Carlo (MCTS) como un "marco simbólico" para elegir movimientos durante los juegos y entrenamientos, explorando posibles caminos del juego como estados simbólicos. Sin embargo, su esencia sigue siendo un sistema de aprendizaje profundo por refuerzo impulsado por redes neuronales, que aprende a través de la autojugada y millones de parámetros.
Algunos investigadores creen que combinar las ventajas de los grandes modelos de lenguaje con el razonamiento simbólico podría impulsar importantes avances en la IA dentro del campo matemático, ya que los LLM puros (aunque tengan cierta capacidad de razonamiento) podrían quedar atrapados en callejones sin salida al enfrentarse a problemas matemáticos complejos. Tao describió previamente el modelo de推理 de OpenAI, o1, como "mediocre, pero no completamente incapaz", considerándolo como un asistente de investigación capaz de manejar tareas cotidianas, pero que aún carece de creatividad y flexibilidad. También participó en el desarrollo del marco de referencia FrontierMath, que establece problemas matemáticos extremadamente desafiantes para los sistemas de IA con el fin de impulsar el desarrollo en este campo.