El Modelo de Contexto Extra Largo (LTM), desarrollado por el equipo de Magic, puede procesar hasta 100 millones de tokens de información contextual, un gran avance en el campo de la IA. Esta tecnología se centra principalmente en el desarrollo de software, y al proporcionar un amplio contexto de código, documentación y bibliotecas durante el proceso de inferencia, mejora significativamente la calidad y la eficiencia de la síntesis de código. En comparación con las redes neuronales recurrentes y los modelos de espacio de estados tradicionales, el modelo LTM presenta ventajas notables en el almacenamiento y recuperación de grandes cantidades de información, permitiendo la construcción de circuitos lógicos más complejos. Además, el equipo de Magic colabora con Google Cloud y utiliza NVIDIA GB200 NVL72 para construir una supercomputadora de IA de próxima generación, impulsando aún más la eficiencia de la inferencia y el entrenamiento del modelo.