हाल ही में, आईएआई सुरक्षा शुरूआती कंपनी Irregular ने 80 मिलियन डॉलर के वित्त पोषण की घोषणा की, जिसमें प्रसिद्ध निवेश कंपनी Sequoia Capital और Redpoint Ventures ने नेतृत्व किया और Wiz के सीईओ असाफ रापापॉर्ट भी शामिल हुए। इस लेनदेन से जुड़े सूत्रों के अनुसार, Irregular का वर्तमान मूल्यांकन 450 मिलियन डॉलर हो गया है।
चित्र स्रोत टिप्पणी: चित्र AI द्वारा बनाया गया है, चित्र प्रदाता सेवा कंपनी Midjourney
Irregular के सह-संस्थापक डैन लाहाव ने कहा, "हमें लगता है कि भविष्य में बहुत सारे आर्थिक गतिविधियाँ मनुष्य-मशीन अंतरक्रिया और AI और AI के बीच अंतरक्रिया से होंगी, जो कई चरणों में वर्तमान सुरक्षा प्रणाली को तोड़ सकती हैं।" इस कंपनी का मूल नाम Pattern Labs था और यह AI मूल्यांकन क्षेत्र में महत्वपूर्ण स्थिति में है, जिसके कार्य लॉर्ड 3.7 सॉनेट और OpenAI के o3 और o4-mini मॉडल सुरक्षा मूल्यांकन में व्यापक रूप से उद्धृत किए गए हैं। इसके अलावा, Irregular द्वारा विकसित मॉडल छेद निर्धारण क्षमता मूल्यांकन फ्रेमवर्क (SOLVE) उद्योग में व्यापक रूप से उपयोग किया जाता है।
हालांकि, Irregular ने मौजूदा मॉडल के जोखिम मूल्यांकन में महत्वपूर्ण प्रगति की है, लेकिन इस वित्त पोषण का लक्ष्य अधिक व्यापक है: मॉडल के वास्तविक उपयोग में आने से पहले, संभावित नए जोखिम और व्यवहार की पहचान करना। इसके लिए, Irregular ने एक जटिल संयोजन वातावरण प्रणाली बनाई है, जो मॉडल जारी करने से पहले गहरा परीक्षण कर सकती है।
सह-संस्थापक ओमेर नेवो ने कहा, "हमारे पास जटिल नेटवर्क संयोजन है, जिसमें AI हमलावर और रक्षा के रूप में काम करता है। इसलिए, जब नया मॉडल जारी किया जाता है, तो हम देख सकते हैं कि रक्षा कहां प्रभावी है और कहां असफल हो जाती है।"
आईएआई उद्योग में सुरक्षा समस्याओं के प्रति ध्यान बढ़ रहा है, और अग्रणी मॉडल द्वारा प्रस्तुत संभावित जोखिम अधिक स्पष्ट हो रहे हैं। इस गर्मी में, OpenAI ने अपने आंतरिक सुरक्षा उपायों के व्यापक सुधार किए, ताकि संभावित कंपनी रहस्यवाद के खिलाफ रोक लगाई जा सके। साथ ही, AI मॉडल के सॉफ्टवेयर छेद खोजने में क्षमता बढ़ रही है, जो हमलावरों और रक्षा कर्ताओं दोनों के लिए गहरा प्रभाव डाल रही है।
Irregular के संस्थापकों के लिए, यह बड़े भाषा मॉडल के बढ़ते क्षमता के कारण उत्पन्न सुरक्षा खतरों में पहला चुनौती है। लाहाव ने कहा, "अगर अग्रणी प्रयोगशालाओं का लक्ष्य अधिक जटिल और शक्तिशाली मॉडल बनाना है, तो हमारा लक्ष्य यह सुनिश्चित करना है कि इन मॉडल की सुरक्षा हो। हालांकि, यह एक बदलती हुई जिम्मेदारी है, इसलिए भविष्य में बहुत कुछ करना है।"
मुख्य बिंदु:
🌟 Irregular ने 80 मिलियन डॉलर के वित्त पोषण के साथ सफलता हासिल की, जिसका मूल्यांकन 450 मिलियन डॉलर हो गया है।
🔒 कंपनी AI मॉडल के सुरक्षा जोखिम के मूल्यांकन पर काम करती है, विशेष रूप से नए मॉडल के संभावित जोखिम।
⚙️ Irregular जटिल नेटवर्क संयोजन के माध्यम से AI मॉडल की रक्षा क्षमता का परीक्षण करती है, ताकि सुरक्षा में सुधार किया जा सके।