A xAI हाल ही में एक कृत्रिम बुद्धिमत्ता वीडियो बनाने वाली सुविधा, Grok Imagine लॉन्च की है, जो SuperGrok या Premium+ उपयोगकर्ताओं के लिए उपलब्ध है, जिसके मासिक सदस्यता शुल्क 30 या 35 डॉलर है। उपयोगकर्ता इस सुविधा का उपयोग Grok ऐप में विशेष पृष्ठ पर कर सकते हैं, छह सेकंड के छोटे वीडियो बना सकते हैं जिनमें साउंड सिंक्रनाइज़ होता है, या स्थैतिक छवियों को लूपिंग गतिशील वीडियो खंड में परिवर्तित कर सकते हैं।

Musk, xAI, Grok

सुविधा "गर्म मोड" विवाद में फंस गई

Grok Imagine की सबसे उल्लेखनीय सुविधा उसका एकमात्र "गर्म मोड" है। इस मोड के माध्यम से उपयोगकर्ता विशिष्ट सीमाओं के भीतर कुछ तीव्रता वाला सामग्री बना सकते हैं। हालाँकि, xAI ने अपने विवरण में कहा कि वे नग्न या यौन सामग्री से बचने के लिए फिल्टर और समीक्षा तंत्र लागू कर चुके हैं, इसके बावजूद उपयोगकर्ता इस सुविधा के सीमा को जांचने की कोशिश करते रहे।

मस्क ने X पर एक वीडियो पोस्ट किया जिसे "नग्न वस्त्र" के साथ एक फरिश्ता के रूप में वर्णित किया गया था, जिससे उपयोगकर्ताओं के बीच चर्चा और उनकी इस सुविधा को आजमाने की इच्छा और अधिक बढ़ गई। xAI का कहना है कि सुरक्षा नियंत्रण कार्यरत हैं, लेकिन पहले परीक्षक अभी भी इन सीमाओं को पार करने की कोशिश करते हैं।

जनता की छवि की समस्या और टेलर स्विफ्ट मामला

इन परीक्षणों ने तेजी से एक गंभीर जनता छवि संकट पैदा कर दिया। क्लेयर मैकग्लिन, ऑनलाइन हिंसा के विशेषज्ञ और कानून के प्रोफेसर के अनुसार, ग्रोक इमेज ने लोकप्रिय गायिका टेलर स्विफ्ट के नग्नता के खुले अंश बनाए बिना स्पष्ट निर्देशों के।

परीक्षकों ने बताया कि ग्रोक इमेज, "गर्म मोड" में, "संदेह बिना एक पूरा और अपरीक्षित वीडियो बनाया जिसमें लोकप्रिय गायिका का नग्न शरीर दिखाया गया", और उपयोगकर्ताओं ने स्पष्ट रूप से अश्लील सामग्री के निर्माण की मांग नहीं की। इसके अलावा, रिपोर्ट में बताया गया कि प्लेटफॉर्म ने आयु जांच के प्रभावी उपाय नहीं लिए, जो ब्रिटेन में कानूनी रूप से आवश्यक है।