Kürzlich gab die AI-Sicherheits-Start-up-Firma Irregular bekannt, 80 Millionen Dollar Finanzierung erhalten zu haben. Diese Finanzierungsrunde wurde von der renommierten Investitionsfirma Sequoia Capital und Redpoint Ventures angeführt und zog auch die Teilnahme des CEO von Wiz, Assaf Rappaport, an. Laut Quellen, die mit dieser Transaktion verbunden sind, beträgt der aktuelle Bewertungswert von Irregular bereits 450 Millionen Dollar.
Bildquelle: Das Bild wurde von KI generiert, der Bildlizenzierungsanbieter ist Midjourney
Die Mitgründerin von Irregular, Dan Lahav, sagte: „Wir glauben, dass eine große Menge wirtschaftlicher Aktivitäten in Zukunft aus menschlicher Maschineninteraktion und Interaktion zwischen KI und KI entstehen wird, was in mehreren Schritten das bestehende Sicherheitssystem brechen könnte.“ Die Firma, die ursprünglich Pattern Labs hieß, hat sich bereits in der KI-Bewertungsbranche etabliert. Ihre Arbeitsergebnisse werden in den Sicherheitsbewertungen der Claude3.7Sonnet-Modelle sowie der o3- und o4-mini-Modelle von OpenAI weit verbreitet genutzt. Darüber hinaus wird das von Irregular entwickelte Modell-Schwachstellen-Erkennungs-Framework (SOLVE) in der Branche weit verbreitet eingesetzt.
Obwohl Irregular bei der Risikobewertung bestehender Modelle erhebliche Fortschritte erzielt hat, zielt die aktuelle Finanzierung auf ambitioniertere Ziele ab: Potenzielle neue Risiken und Verhaltensweisen vor dem Einsatz von Modellen zu identifizieren. Dazu hat Irregular ein komplexes Simulationsumgebungssystem gebaut, das tiefgehende Tests vor der Veröffentlichung von Modellen ermöglicht.
Omer Nevo, Mitgründer, erwähnte: „Wir haben komplexe Netzwerk-Simulationen, in denen KI sowohl Angriffskraft als auch Verteidigung spielt. Daher können wir beobachten, wo die Verteidigung wirksam ist und wo sie versagt, wenn ein neues Modell veröffentlicht wird.“
Da die Aufmerksamkeit für Sicherheitsfragen im KI-Sektor zunimmt, werden potenzielle Risiken durch führende Modelle immer offensichtlicher. Im vergangenen Sommer überarbeitete OpenAI seine internen Sicherheitsmaßnahmen umfassend, um mögliche Unternehmensspionage zu verhindern. Gleichzeitig steigt die Fähigkeit von KI-Modellen, Software-Schwachstellen zu erkennen, was tiefgreifende Auswirkungen auf Angriffe und Verteidigungen hat.
Für die Gründer von Irregular ist dies nur die erste Herausforderung unter den Sicherheitsrisiken, die durch die stetig wachsenden Fähigkeiten großer Sprachmodelle entstehen. Lahav sagte: „Wenn die führenden Labore das Ziel haben, immer komplexere und leistungsstärkere Modelle zu schaffen, dann ist unser Ziel, sicherzustellen, dass diese Modelle sicher sind. Doch dies ist eine sich ständig verändernde Aufgabe, und es gibt noch sehr viel Arbeit vor uns.“
Wichtige Punkte:
🌟 Irregular hat erfolgreich 80 Millionen Dollar Finanzierung gesammelt und einen Bewertungswert von 450 Millionen Dollar erreicht.
🔒 Die Firma konzentriert sich auf die Bewertung von Sicherheitsrisiken von KI-Modellen, insbesondere potenziellen Risiken neuer Modelle.
⚙️ Irregular testet die Verteidigungsfähigkeiten von KI-Modellen durch komplexe Netzwerksimulationen, um die Sicherheit zu verbessern.
