Kürzlich kritisierte der Mitbegründer von OpenAI, Andrej Karpathy, die aktuelle Entwicklung von KI-Agenten scharf. Er stellte fest, dass obwohl KI-Technologien sich rasch weiterentwickeln, die aktuellen Agenten immer noch „nicht ausreichen“. In einem Interview gestand er: „Die aktuellen Agenten sind nicht sehr intelligent, haben keine multimodale Fähigkeit und können den Computer nicht wirklich bedienen, geschweige denn lernen kontinuierlich.“ Er ist der Ansicht, dass diese Systeme die Informationen, die Benutzer eingeben, nicht speichern können und ihre kognitiven Fähigkeiten weit hinter den Anforderungen zurückbleiben, wodurch sie in vielen Situationen die Bedürfnisse der Nutzer nicht erfüllen können.
Karpathy prognostiziert, dass es mindestens zehn Jahre dauern wird, um diese Probleme zu lösen. Obwohl die Branche allgemein darauf hofft, dass 2025 das „Jahr der Agenten“ wird, hält er dies für eine optimistische Illusion. Er erklärte, dass Agenten in der Lage sein sollten, Aufgaben eigenständig zu erledigen, Probleme zu analysieren, Lösungspläne zu erstellen und diese ohne Einfluss des Nutzers automatisch umzusetzen. In der Realität sind diese Ziele jedoch noch immer unerreichbar.
Er betonte weiter, dass sich die Geschwindigkeit der KI-Entwicklung momentan stark von den Fähigkeiten der Agenten entfernt. Karpathy beschrieb sogar bildhaft, dass die KI-Branche bereits in der Zukunft lebe – vollautomatisierte Systeme, die unabhängig Code schreiben, während die menschliche Beteiligung immer geringer werde. Er ist besorgt darüber und möchte nicht solch eine Zukunft erleben.
In Karpathys idealer KI-Welt sollte die Zusammenarbeit zwischen Mensch und KI ergänzend sein. Er hofft, dass Agenten aktiv API-Dokumentation aufrufen und Schnittstellen präzise nutzen, anstatt willkürlich zu raten. Er wünscht sich, dass KI im Zusammenarbeit proaktiv lernt und wächst, anstatt einfach nur eine Menge möglicherweise nicht effektiver Code bereitzustellen. Er ist der Ansicht, dass ein reiner Fokus auf die Ersetzung des Menschen durch KI letztendlich zur Schwächung menschlicher Werte führen und dazu führen würde, dass die Internetwelt von niedrigwertigem KI-Inhalt überschwemmt wird.
Auch wenn Karpathy gegenüber der aktuellen KI-Entwicklung pessimistisch ist, betont er, dass er kein KI-Pessimist sei. Als er seine vorsichtige Erwartung für die Zukunft betonte, sagte er, dass sein Standpunkt im Vergleich zu denjenigen, die KI vollständig ablehnen, immer noch optimistisch sei.
