हाल ही में कनाडा में मॉंट्रियल में हुए अंतरराष्ट्रीय कृत्रिम सभ्यता संयुक्त सम्मेलन (IJCAI) के दौरान, मांगों के आंकड़े और सिंगापुर विज्ञान अनुसंधान ब्यूरो ने "गहरा झूठ शिकार, स्थान निर्धारण, स्पष्टीकरण" सम्मेलन का आयोजन किया। इस सम्मेलन में, मांगों के आंकड़े और स्टैनफोर्ड विश्वविद्यालय ने गहरे झूठ डेटा सेट के दो प्रमुख डेटा सेट खुले स्रोत बनाए। ये डेटा सेट मानवीय चेहरा और गति झूठ, ध्वनि क्लोन आदि कई मोड में शामिल हैं, जो उद्योग के लिए महत्वपूर्ण मूल डेटा संसाधन प्रदान करते हैं और कृत्रिम सभ्यता सुरक्षा तकनीक के विकास को आगे बढ़ाते हैं।
इस सम्मेलन का केंद्र गहरा झूठ (Deepfake) की पहचान पर रहा। चीन, अमेरिका, ऑस्ट्रेलिया, ब्राजील, सिंगापुर आदि कई देशों के प्रसिद्ध संस्थानों के विद्वान और उद्योग विशेषज्ञों ने अग्रणी तकनीकों और अनुप्रयोग परिणामों के बारे में साझा किया।
IJCAI "गहरा झूठ शिकार चैलेंज" के लिए 1.8 मिलियन प्रशिक्षण डेटा सेट (DDL-डेटासेट), मांगों के आंकड़े द्वारा विश्व अनुसंधानकर्ताओं के लिए खुले स्रोत बनाया गया। इस डेटा सेट में मानव चेहरा झूठ, वीडियो हेराफेरी, ध्वनि क्लोन तीन उच्च जोखिम वाले मामले शामिल हैं, जिसमें 80 से अधिक झूठ के तरीके शामिल हैं, जो AI झूठ के चित्र स्थान, समय अंतराल के साथ स्पष्ट रूप से चिह्नित हैं, जो एल्गोरिथ्म के स्पष्टीकरण में सुधार करने में मदद करते हैं। अनुसंधानकर्ता Modelscope (मॉडलस्कोप समुदाय) से डाउनलोड कर सकते हैं।
चित्र: मांगों के आंकड़े के अंतरराष्ट्रीय एल्गोरिथ्म निदेशक ली जियानशू गहरा झूठ स्थान डेटा सेट के बारे में बताते हैं
स्टैनफोर्ड विश्वविद्यालय, गूगल और कैलिफोर्निया विश्वविद्यालय बर्कले के संयुक्त खुले स्रोत वीडियो डेटा सेट DeepAction, 7 बड़े मॉडल द्वारा उत्पादित 2,600 वीडियो में मानव गति शामिल हैं और उनके साथ मेल खाते वास्तविक दृश्य हैं। इन वीडियो में चलना, दौड़ना, रसोई में काम करना आदि दैनिक गतिविधियां दिखाई गई हैं, अनुसंधानकर्ता Hugging Face (Hugging Face समुदाय) से डाउनलोड कर सकते हैं। इसके अलावा, अनुसंधान टीम द्वारा प्रकाशित पेपर "AI द्वारा उत्पादित मानव गति की पहचान" (Human Action CLIPs: Detecting AI-Generated Human Motion) इस विषय के वर्कशॉप में सबसे अच्छा पेपर बन गया। इस पेपर में एक बहुमाध्यमिक अर्थ एम्बेडिंग पर आधारित पहचान तकनीक का प्रस्ताव दिया गया है, जो वास्तविक मानव गति और AI द्वारा उत्पादित गति के बीच सटीक अंतर कर सकता है। इस विधि की उच्च दृढ़ता है, जो डेटा में हेराफेरी के उपायों (जैसे रिजॉल्यूशन में बदलाव, वीडियो संपीड़न आदि) के द्वारा डिटेक्शन एल्गोरिथ्म के विरुद्ध हस्तक्षेप को दूर कर सकती है।
ऑस्ट्रेलिया के मोनाश विश्वविद्यालय के प्रोफेसर अभिनव डॉल ने अपने अनुसंधान टीम द्वारा दिमाग के इलेक्ट्रोएन्सेफलोग्राम डेटा के माध्यम से पाया कि अलग-अलग सांस्कृतिक पृष्ठभूमि वाले लोगों के लिए AI झूठ के वीडियो में अंतर होता है, जब वीडियो भाषा पार्टिसिपेंट के परिचित अंग्रेजी होती है और अभिनेता समान जाति पृष्ठभूमि वाले होते हैं, तो वे वास्तविक वीडियो और गहरे झूठ वीडियो के बीच अंतर करने में बेहतर प्रदर्शन करते हैं। यह अनुसंधान वैश्विक बहुआयामी पृष्ठभूमि के अंतर्गत गहरे झूठ विश्लेषण के क्षेत्र में भविष्य की खोज के लिए एक मार्ग प्रशस्त करता है।
खुले स्रोत जानकारी के अनुसार, मांगों के आंकड़े लंबे समय से AI सुरक्षा और जोखिम रोकथाम पर ध्यान केंद्रित कर रहे हैं और लगातार निवेश कर रहे हैं, उनके सुरक्षा प्रौद्योगिकी ब्रांड ZOLOZ 2017 से विदेशी संस्थानों के संख्यात्मक आधुनिकीकरण में सेवा कर रहा है, जो अब अब ओवर 25 देशों और क्षेत्रों तक पहुंच चुका है, "वास्तविक मानव सत्यापन" उत्पाद की सटीकता 99.9% तक है।