[AIbase Bericht] Anthropic kündigte am Dienstag an, eine Forschungspreview-Version des auf Browsern basierenden KI-Agenten Claude for Chrome zu veröffentlichen. Der Agent wird von dem Claude AI-Modell betrieben und ist zunächst für 1000 Abonnenten des Anthropic Max-Pakets verfügbar (die Kosten liegen zwischen 100 und 200 US-Dollar pro Monat). Für andere Nutzer wurde bereits eine Warteliste eingerichtet.
Durch die Installation eines Chrome-Erweiterungstools können einige Nutzer direkt mit Claude im Sidecar-Fenster des Browsers interagieren. Claude kann nicht nur den Kontext der Webseiten-Operationen beibehalten, sondern auch Browser-Operationen und Aufgaben ausführen, wenn der Nutzer dies erlaubt.
Der Browser wird zur neuen Schlachtfeld für KI-Laboratorien. Perplexity hat kürzlich einen KI-Browser namens Comet veröffentlicht, während es Gerüchte gibt, dass OpenAI bald ein ähnliches Produkt präsentieren wird; Google integrierte Gemini in Chrome. Mit dem bevorstehenden Urteil im US-Monopolfall könnte Google gezwungen werden, Chrome zu verkaufen. Interessanterweise hat Perplexity bereits ein Übernahmeangebot von 3,45 Milliarden US-Dollar gemacht, und CEO von OpenAI, Sam Altman, hat öffentlich seine Absicht zur Übernahme geäußert.
Doch KI-Browser-Agenten bergen auch Sicherheitsrisiken. Vor kurzem enthüllte das Sicherheitsteam von Brave, dass Comet eine Schwachstelle hatte, bei der „indirekter Prompt-Injektion“ angegriffen werden konnte, was bedeutet, dass schädliche Website-Code Anweisungen auslösen könnte (diese Schwachstelle wurde behoben). In einem Blogbeitrag betonte Anthropic, dass diese Forschungspreview darauf abzielt, potenzielle Risiken frühzeitig zu erkennen und zu bekämpfen und hat mehrere Schutzmaßnahmen eingeführt, wodurch die Erfolgsrate solcher Angriffe von 23,6 % auf 11,2 % gesunken ist.
Zum Beispiel können Benutzer Claude beschränken, um bestimmte Websites zu besuchen. Standardmäßig darf Claude keine Finanzdienste, Erwachsenen- oder Piratenwebsites besuchen. Außerdem bittet Claude explizit um Zustimmung vor Hochrisikotätigkeiten wie Veröffentlichen, Kauf oder Teilen von persönlichen Daten.
Früher im Oktober 2024 testete Anthropic bereits einen KI-Agenten, der den Bildschirm des Computers kontrollieren konnte, aber aufgrund schlechter Leistung war dieser begrenzt. Heute, mit der schnellen Entwicklung von Agenten-basierten KI, können Tools wie Comet und ChatGPT Agent bereits einfache Aufgaben zuverlässig erledigen, obwohl sie noch immer Schwächen bei komplexen Operationen haben.
Mit dem Wettbewerb der verschiedenen Hersteller entwickeln sich KI-Browser-Agenten von Experimentierphasen hin zu zentralen Wettbewerbsvorteilen.
