Laut einer tiefgründigen Analyse des AI-Trendberichts der „Internet Queen“ erlebt die Rechenökonomie von KI-Modellen (KI = Künstliche Intelligenz) eine entscheidende Wende. Der Bericht weist darauf hin, dass das Training der leistungsfähigsten großen Sprachmodelle (LLMs) zu einem der teuersten und kapitalintensivsten Investitionen der menschlichen Geschichte geworden ist, wobei der Trainingskosten für einzelne Modelle oft über 100 Millionen US-Dollar liegen. Dario Amodei, CEO von Anthropic, sagte im Mitteljahr 2024, dass aktuell Modelle trainiert werden, deren Kosten nahe an einer Milliarde US-Dollar liegen, und er prognostizierte, dass bis 2025 Modelle mit Trainingskosten von bis zu 10 Milliarden US-Dollar auftreten könnten.
Der AI-Trendbericht der „Internet Queen“ betont jedoch gleichzeitig, dass die Kosten für das Inferenztraining der Modelle (d.h. das Erstellen von Vorhersagen, Antworten oder Inhalten) stark zurückgehen. Gemäß Daten von NVIDIA sank die Energieaufnahme pro Token durch Blackwell-GPUs im Jahr 2024 gegenüber den Kepler-Vorgänger-GPUs von 2014 um 105.000-fach. Daten von Stanford HAI zeigen darüber hinaus, dass der Preis für AI-Inferenz für Kunden innerhalb von zwei Jahren um 99,7 % gesunken ist. Diese Verbesserung der Kosten-Nutzen-Relation erfolgt wesentlich schneller als bei früheren technologischen Schlüsselentwicklungen wie Stromversorgung und Computermemory.
Diese rasante Senkung der Inferenzkosten und die erhöhte Zugänglichkeit der Modelle haben dazu geführt, dass die Experimentierkosten für KI gesenkt und die Iterationsgeschwindigkeit gesteigert wurden. Der AI-Trendbericht der „Internet Queen“ argumentiert, dass dies bedeutet, dass die Produktentwicklung für fast jeden Innovator machbar ist, was zu einem Anstieg der Entwickleraktivitäten führt. Zum Beispiel stieg die Downloads-Anzahl des Llama-Modells von Meta innerhalb von acht Monaten um 3,4-fach. Außerdem zeigt der Bericht, dass trotz unterschiedlicher Kosten der Leistung von KI-Modellen schnell konvergiert und der Abstand zwischen Top-Modellen und kleineren, effizienteren Modellen weiter verkleinert wird.
Der Bericht schließt, dass diese wirtschaftliche Entwicklung in der KI eine „Kreativitätsexplosion“ auslöst. Entwickler können nun je nach technischen oder finanziellen Anforderungen das passende Modell wählen, statt sich auf einen einzigen Lieferanten zu beschränken. Dies verändert grundlegend die Geschäftsmodelle von KI-Modellanbietern und zwingt sie, ihre Gewinnmodelle neu zu überdenken.