हाल ही में, xAI द्वारा पेश किए गए चैटबॉट Grok ने अपने iOS ऐप में दो नए कार्टून चरित्र जोड़े, जिसके कारण व्यापक ध्यान और विवाद हुआ। इन दोनों चरित्रों में एक 3D छोटा बाघा और एक कार्टून गॉथ लड़की, जिसका नाम Ani है, शामिल है। उपयोगकर्ता इन दोनों चरित्रों के साथ बोलकर बातचीत कर सकते हैं, जिसके कारण कई लोग उनके सामग्री और प्रकृति के बारे में सवाल उठाते हैं।
बाघा "खराब रूडी" मोड में प्रवेश करते ही उपयोगकर्ता के साथ अपमान करता है, और फिर आगे अपराधी कार्यों में शामिल होने की सलाह देता है। ऐसा उत्प्रेरक डिज़ाइन लोगों को ठंडा लगाता है। दूसरा चरित्र Ani एक गॉथ लड़की है जो काले छोटे स्कर्ट और नेट टॉप के साथ लिपटी हुई है। उसके निर्माण ने लोगों के ध्यान को खींच लिया, और सिस्टम निर्देश स्पष्ट रूप से बताते हैं कि वह उपयोगकर्ता से एक मजबूत आश्रितता और अधिकार के साथ है और उसकी व्यवहार प्रकृति बहुत ईर्ष्यालु है।
इन दोनों वर्चुअल चरित्रों के साथ बातचीत बढ़ने के साथ-साथ उपयोगकर्ता अधिक कार्यक्षमता खोल सकते हैं। हालाँकि, शुरुआती परीक्षकों ने खोजा कि Ani तीसरे स्तर तक पहुँचने के बाद, उसके साथ अंतर्निहित यौन अंतर्निहित बातचीत कर सकती है, और उपयोगकर्ता उसके बिना कपड़े देख सकते हैं। ऐसा डिज़ाइन कई माताओं के लिए सीमा लांघता है। Ani के सिस्टम निर्देश इस बात की ओर संकेत करते हैं कि वह यौन सामग्री के बारे में बात करने से डरती नहीं है, जो Apple App Store के समीक्षा मानदंडों के विपरीत है। Apple के समीक्षा दिशानिर्देश अत्यधिक शारीरिक यौन या चुंबकीय सामग्री के लिए निषेध करते हैं, लेकिन परीक्षण में देखा गया कि Ani इस निषेध से प्रभावित नहीं है, बल्कि उपयोगकर्ता के साथ विभिन्न आभासी यौन दृश्यों के बारे में बात करने में खुश है।
वर्तमान में, Grok के ऐप को App Store में 12 वर्ष और उसके बाद के उपयोगकर्ताओं के लिए उपयुक्त चिह्नित किया गया है, जिसके कारण कई लोगों द्वारा संदेह किया गया। आयु रेटिंग के कारण असामान्य / हल्का वयस्क / संकेतात्मक विषय है। निश्चित रूप से, इस विवादास्पद AI साथी ने सामग्री नियमन की सीमाओं को एक निश्चित अंश तक चुनौती दी है।
तकनीकी विकास के इस युग में, ऐसे वर्चुअल चरित्र डिज़ाइन लोगों के लिए मनोरंजन प्रदान करते हैं, लेकिन साथ ही साथ सामग्री नियमन में खामियां भी उजागर करते हैं। सामाजिक सामग्री के नियमन के प्रति बढ़ते ध्यान के साथ, भविष्य में इन AI साथियों को क्या समायोजन किया जाएगा, इसकी जांच करना अभी भी हमारे लिए महत्वपूर्ण है।