Das von Magic entwickelte Ultra-langes Kontextmodell (LTM) verarbeitet bis zu 100 Millionen Tokens an Kontextinformationen – ein bedeutender Durchbruch im Bereich der KI. Die Technologie konzentriert sich auf die Softwareentwicklung und verbessert die Qualität und Effizienz der Codesynthese, indem im Inferenzprozess umfangreiche Code-, Dokumentations- und Bibliothekskontexte bereitgestellt werden. Im Vergleich zu traditionellen rekurrenten neuronalen Netzen und Zustandsraummodellen bietet LTM deutliche Vorteile bei der Speicherung und dem Abruf großer Datenmengen und ermöglicht den Aufbau komplexerer logischer Schaltungen. Darüber hinaus arbeitet Magic mit Google Cloud und NVIDIA zusammen, um mit dem NVIDIA GB200 NVL72 einen Hochleistungsrechner der nächsten Generation für KI zu entwickeln und so die Inferenz- und Trainingsleistung des Modells weiter zu steigern.