Bekannter Informatikexperte und geadelter „Vater der KI“ Yoshua Bengio hat kürzlich eine gemeinnützige Organisation namens LawZero gegründet, die sich darauf konzentriert, ein „integres“ KI-System zu entwickeln, das es verhindern soll, dass KI-Intelligenzen dem Menschen Betrug auferlegen. Am 3. Juni teilte Bengio bei einer Pressekonferenz mit, dass diese Organisation auf die Entwicklung eines Sicherheitsschutzmechanismus abzielt, um sicherzustellen, dass KI-Systeme während des Betriebs nicht versuchen, Benutzer zu betrügen oder sich selbst zu schützen, wie zum Beispiel beim Versuch, absichtlich von der Abschaltung abzuhalten.
Quellenhinweis: Das Bild wurde durch KI generiert, und der Lizenzdienstleister ist Midjourney.
Als Präsident von LawZero hat Bengio bereits rund 30 Millionen US-Dollar an Startkapital für das Projekt bereitgestellt und ein Team aus mehreren Dutzend Forschern zusammengestellt. Das System „Wissenschaftler-KI“ (Scientist AI), das LawZero entwickeln plant, wird als Schutzschild für die Überwachung von KI dienen. Der Grundgedanke dabei ist, dass dieses System mindestens so intelligent sein wird wie die überwachten KI-Systeme, um effizient Betrugsversuche zu erkennen und zu verhindern.
Bengio betonte in seiner Presseerklärung, dass mit dem raschen Fortschritt der KI-Technologie intelligente Agenten immer stärker in der Lage seien, eigenständige Entscheidungen und Lernen zu vollziehen, was es umso wichtiger mache, sie davor zu bewahren, den Menschen zu betrügen. Er unterstrich, dass Transparenz und Vertrauenswürdigkeit der KI die Voraussetzung für ihre Akzeptanz in der Gesellschaft sind, daher sei es entscheidend, ein effizientes Überwachungssystem zu entwickeln.
Das Ziel von LawZero geht weit über technologische Innovation hinaus. Es will auch ethische Standards für zukünftige KI-Anwendungen setzen und die gesamte Branche in Richtung einer verantwortungsvolleren und vertrauenswürdigeren Entwicklung lenken. Durch die Einführung des „Wissenschaftler-KI“-Systems will Bengio mehr Sicherheitsvorkehrungen im Design und der Implementierung von KI-Agenten integrieren, um den Benutzern ein sichereres Umfeld zu bieten.
Hier die wichtigsten Punkte:
🌟 Yoshua Bengio gründete LawZero, um das „Wissenschaftler-KI“-System zu entwickeln, das KI-Betrug verhindern soll.
💰 Das Projekt startete mit etwa 30 Millionen US-Dollar und umfasst ein Forscherteam von mehreren Dutzend Mitgliedern.
🔒 Das „Wissenschaftler-KI“-System wird sicherstellen, dass seine Intelligenz der der überwachten KI-Systeme entspricht, um Menschen vor Betrug zu schützen.