Ein neuer Bericht von McKinsey zeigt, dass die meisten Unternehmen noch nicht bereit sind, generative KI sicher und verantwortungsvoll einzusetzen. Ein Hauptanliegen ist die Erklärbarkeit – das Verständnis dafür, wie und warum eine KI bestimmte Entscheidungen trifft. Obwohl 40 % der Befragten dies als Risiko betrachten, setzen nur 17 % wirklich aktiv Maßnahmen dagegen um.

Das in Seoul ansässige Unternehmen Datumo war ursprünglich ein Unternehmen für die Annotation von KI-Daten und arbeitet nun daran, Unternehmen Tools und Daten zur Verfügung zu stellen, die ohne technisches Hintergrundwissen verwendet werden können, um KI-Modelle zu testen, zu überwachen und zu verbessern, wodurch die Sicherheit gesteigert wird. Am Montag gab das Unternehmen bekannt, 15,5 Millionen US-Dollar Finanzierung abgeschlossen zu haben, wodurch sich die Gesamtfinanzierung auf etwa 28 Millionen US-Dollar belief. Die Investoren umfassen Salesforce Ventures, KB Investment, ACVC Partners und SBI Investment.

David Kim, CEO von Datumo, war früher als KI-Forscher bei der Koreanischen Forschungsbehörde für Verteidigung tätig. Aufgrund der langwierigen und zeitaufwendigen Prozesse der Datenannotation kam er auf eine neue Idee: Eine Anwendung mit einer Belohnungsmechanik, die es jedem ermöglicht, in seiner Freizeit Daten zu annotieren und dafür Geld zu verdienen. Diese Idee wurde bei einem Unternehmertest im Korea Advanced Institute of Science and Technology (KAIST) validiert. 2018 gründete David Kim gemeinsam mit fünf Alumni des KAIST das Unternehmen, damals unter dem Namen SelectStar.

Bevor die Anwendung vollständig entwickelt war, erhielt Datumo bereits Vorverkäufe im Wert von mehreren zehntausend Dollar im Kunden-Explorationsstadium des Wettbewerbs, wobei die Kunden hauptsächlich Unternehmen und Start-ups waren, die von Alumni des KAIST gegründet wurden. Im ersten Jahr des Unternehmens erreichte Datumo einen Umsatz von über einer Million US-Dollar und schloss mehrere wichtige Verträge ab. Heute zählen zu den Kunden von Datumo große südkoreanische Unternehmen wie Samsung, Samsung SDS, LG Electronics, LG CNS, Hyundai, Naver sowie der Telekommunikationsgigant SK Telecom aus Seoul. Bis 2024 belief sich die Anzahl der Kunden auf über 300 und der jährliche Umsatz lag bei etwa 6 Millionen US-Dollar.

Vor ein paar Jahren begannen Kunden, Datumo nicht nur Datenannotation, sondern auch die Bewertung der Ausgaben von KI-Modellen oder den Vergleich mit anderen Ausgaben zu verlangen. Michael Hwang, Mitgründer des Unternehmens, sagte, dass sie dadurch erkannten, dass sie tatsächlich bereits KI-Modellbewertungen durchführten. Danach erhöhte das Unternehmen seine Investitionen und veröffentlichte die erste Benchmark-Datensammlung in Südkorea, die sich auf KI-Vertrauenswürdigkeit und Sicherheit konzentrierte.

David Kim sagte, dass Datumo mit der Datenannotation begann und sich mit der Entwicklung des Ökosystems für große Sprachmodelle auf prätrainierte Datensätze und Modellbewertungen ausweitete und sich schließlich als Lösungsanbieter für KI-Sicherheit und -Vertrauenswürdigkeit positionierte.