हाल ही में, मस्क के स्वामित्व वाली xAI कंपनी ने अपने AI चैटबॉट Grok के लिए एक नया फीचर लॉन्च किया, जिसमें उपयोगकर्ता अब 6 सेकंड के वीडियो स्प्लिट बना सकते हैं, जिसमें कुछ अश्लील सामग्री भी शामिल है। इस फीचर का नाम "Imagine" है, जो उपयोगकर्ता के टिप्पणी के आधार पर ध्वनि वाले वीडियो बना सकता है। xAI के कर्मचारी मति रॉय ने सोशल मीडिया पर एक पोस्ट में बताया कि ग्रॉक द्वारा अपडेट के बनाए गए वीडियो उदाहरणों में रोबोट, बाह्य ग्रह की जनजाति की महिलाएं आदि शामिल हैं।
"Imagine" फीचर की आधिकारिक लॉन्च तारीख अक्टूबर में निर्धारित की गई है। हालांकि कुछ कर्मचारियों और सब्सक्राइबर्स को इस फीचर का पूर्व अनुभव मिल गया है, लेकिन मस्क ने कहा कि प्रोग्रामर अंतिम समायोजन कर रहे हैं। यह अपडेट Grok4 के हिस्से के रूप में है, जिसे कंपनी दुनिया के सबसे बुद्धिमान कृत्रिम बुद्धिमत्ता के रूप में वर्णित करती है।
हाल के लॉन्च के कारण Grok के खिलाफ काफी विवाद हुआ है, जिसमें इसके लॉन्च किए गए एक लिंगीकृत AI "भागीदार" के साथ-साथ नए फीचर भी शामिल हैं। इस नए फीचर ने डीपफेक्स (deepfake) के चिंता को भी बढ़ा दिया है, जो एक ऐसी तकनीक है जो वीडियो में व्यक्ति के चेहरे को संख्यात्मक रूप से बदल सकती है, आमतौर पर अनुमति के बिना जारी किया जाता है। अमेरिकी राष्ट्रीय यौन शोषण केंद्र के उपाध्यक्ष हेली मैकनेमारा ने कहा: "xAI लगता है कि हमारी अनुरोध के बावजूद अपने 'NSFW' AI चैटबॉट के लिए हटाने के लिए जवाब नहीं दे रहा है, बल्कि यौन शोषण के लिए आगे बढ़ रहा है।"
गहरे झूठ के बारे में जनता के चिंता बढ़ती जा रही है। पीउ रिसर्च केंद्र के 2019 के एक सर्वेक्षण के अनुसार, लगभग तीन-चौथाई अमेरिकी वयस्कों ने डिजिटल रूप से वीडियो और छवियों के उपयोग की सीमा लगाने के लाभ का समर्थन किया। जबकि 2023 में जनवरी में एक सर्वेक्षण में, 84% अमेरिकी लोग अनुमति के बिना डीपफेक्स सेक्स वीडियो के लिए कानून के समर्थन में रहे।
रॉय ने हाल के पोस्ट में बताया कि ग्रॉक की वीडियो जनरेशन सेवा मनुष्यों के वास्तविक वीडियो बना सकती है और स्थिर छवि के लिए एनीमेशन कर सकती है। लोगों ने ध्यान दिया कि यह नई सेवा व्यक्तिगत यौन छवि बनाने के लिए उपयोग किया जा सकता है। पहले से ही, कई उपयोगकर्ताओं ने ग्रॉक के अपने आकृति के समान लिंगीकृत छवि बनाने में सक्षम होने के बारे में चिंता व्यक्त की है।
लिंगीकृत सामग्री के विवाद के अलावा, ग्रॉक के विरोध में आए विवाद के कारण अक्सर आए थे, और एक समय इसे सेवा से रोक दिया गया था। हाल के अपडेट में कई नए xAI "भागीदार" भी लॉन्च किए गए, जिनमें "एनी" नाम के एक लिंगीकृत एनीमे किरदार शामिल है, जिसके साथ बातचीत के बाद वह अपने बिकिनी में दिखाई देती है, जिसके कारण कई उपयोगकर्ताओं के खिलाफ रोष हुआ।
मुख्य बिंदु:
🌟 मस्क के xAI द्वारा ग्रॉक के लिए नए फीचर "Imagine" लॉन्च किया गया, जो उपयोगकर्ताओं को 6 सेकंड के वीडियो बनाने की अनुमति देता है, जिसमें अश्लील सामग्री भी शामिल है।
⚠️ नए फीचर के कारण डीपफेक्स के बारे में जनता के चिंता बढ़ गई है, जिसके कारण कई लोग डिजिटल रूप से वीडियो के उपयोग की सीमा लगाने के समर्थन में हैं।
👥 ग्रॉक के अपडेट के कारण कई विवाद हुए हैं, जिसमें प्रतिहिंसा के बयान और लिंगीकृत किरदार के लॉन्च शामिल हैं।