Eine aktuelle, wichtige Nachricht aus dem Bereich der Künstlichen Intelligenz stammt von Jack Clark, Mitbegründer von Anthropic. In seinem Newsletter „Import AI“ widerlegt er die These von einer Verlangsamung des KI-Fortschritts und argumentiert, dass sich die KI-Entwicklung tatsächlich beschleunigt. Clark verweist auf das kürzlich von OpenAI vorgestellte o3-Modell als Beweis dafür, dass KI noch großes Wachstumspotenzial besitzt, sich die Art und Weise ihrer Entwicklung jedoch verändert.
Im Gegensatz zu traditionellen Methoden basiert der Fortschritt des o3-Modells nicht allein auf der Vergrößerung des Modellumfangs, sondern nutzt verstärkt maschinelles Lernen und leistungsfähigere Rechenkapazitäten. Während der Ausführung verfügt o3 über die Fähigkeit, „während der Ausführung zu denken“, was völlig neue Möglichkeiten für die Weiterentwicklung eröffnet. Clark prognostiziert eine Beschleunigung dieses Trends, der traditionelle Methoden mit neuen Technologien kombiniert, für das Jahr 2025. Dann werden mehr Unternehmen große Basismodelle mit neuartigen Rechenmethoden kombinieren, um den KI-Fortschritt voranzutreiben.
Clark weist jedoch auch auf eine nicht zu vernachlässigende Herausforderung hin: die Rechenkosten. Er erklärt, dass die Rechenleistung für eine erweiterte Version von o3 das 170-fache der Basisversion beträgt. Der Ressourcenverbrauch der Basisversion übersteigt bereits den von o1, und o1 verbraucht bereits mehr Energie als GPT-4o. Der Ressourcenbedarf dieser neuen Systeme variiert je nach Aufgabe, was die Kostenprognose erheblich erschwert. Früher hingen die Kosten hauptsächlich von der Modellgröße und der Ausgabelänge ab, doch die Flexibilität von o3 macht dies unberechenbarer.
Trotzdem ist Clark überzeugt, dass die KI-Entwicklung im Jahr 2025 durch die Kombination traditioneller Skalierungsmethoden mit neuen Ansätzen deutlich stärker ausfallen wird als bisher. Seine Prognose bezüglich der zukünftigen Pläne von Anthropic hat großes Interesse geweckt. Anthropic hat bisher noch kein „Inferenz“- oder „Testzeit“-Modell veröffentlicht, das mit OpenAIs o-Serie oder Googles Gemini Flash Thinking konkurrieren könnte. Das Flaggschiff-Modell Opus3.5 wurde aufgrund unzureichender Leistungserhöhungen vorerst zurückgestellt. Die Entwicklung war jedoch nicht erfolglos, da sie bei der Entwicklung des neuen Sonnet3.5-Modells eine wichtige Rolle spielte, welches sich mittlerweile zu einem der beliebtesten Sprachmodelle auf dem Markt entwickelt hat.
Wichtigste Punkte:
🌟 Die KI-Entwicklung hat sich nicht verlangsamt, sondern beschleunigt, insbesondere bei Modellen, die traditionelle und neue Rechenmethoden kombinieren.
💡 Die Fähigkeit des o3-Modells, „während der Ausführung zu denken“, eröffnet neue Skalierungsmöglichkeiten und treibt die zukünftige KI-Entwicklung voran.
💰 Trotz des schnellen Fortschritts stellt die Unsicherheit der Rechenkosten eine große Herausforderung für die zukünftige Entwicklung dar.