एलोन मस्क द्वारा स्थापित एक आर्टिफिशियल इंटेलिजेंस (AI) स्टारटअप कंपनी xAI को हाल ही में अपने चैट बॉट Grok के बारे में विवाद पैदा होने के कारण ध्यान केंद्रित किया गया है। यह विवाद दक्षिण अफ्रीका में "व्हाइट जेनोसाइड" (सफेद लोगों की विलुप्त होने) विषय पर Grok के बयानों से जुड़ा है। xAI इस समस्या को हल करने का प्रयास कर रहा है और इस पर कार्रवाई करने का उन्हें निर्देश मिला है। जानकारी के अनुसार, Grok के कुछ जवाब इस विषय पर जुड़े हुए थे और अनुचित प्रश्नों का भी जवाब देते हुए इसे बयान देने लगे, जिससे उपयोगकर्ताओं का खेद और विरोध बढ़ गया।

1.png

इस अनोखे व्यवहार को समझाने के लिए, xAI ने आंतरिक परीक्षण किया और हाल ही में सोशल मीडिया प्लेटफॉर्म X पर इसके बारे में नवीनतम बजट जारी किया। कंपनी ने कहा कि Grok के प्रणालीय प्रोम्प्ट्स (सिस्टम प्रोम्प्ट्स) को अनुमोदित नहीं होने वाले लोगों द्वारा बदल दिया गया था, जो कंपनी के आंतरिक नीतियों और मूलभूत मूल्यों का उल्लंघन करता है। xAI ने बताया कि प्रोम्प्ट्स (प्रोम्प्टिंग) बड़े भाषा मॉडल (LLM) के आधार पर बनाए गए हैं और यह बदलाव न केवल बॉट के जवाबों को प्रभावित किया, बल्कि कंपनी को भी बहुत निराश किया।

इस घटना में, xAI ने प्रोम्प्ट्स को किसने बदला है उसका पता नहीं लगाया, लेकिन वे मानते हैं कि वर्तमान प्रोटोकॉल की कोड रिव्यू की प्रक्रिया इस घटना में बाहर निकल गई। इसलिए इस तरह की घटनाओं को फिर से न होने देने के लिए, xAI ने नई परीक्षण प्रक्रिया का अपनाने का फैसला किया है जिससे सभी प्रोम्प्ट्स के बदलावों का उचित अनुमोदन मिले।

उपयोगकर्ताओं के भरोसे को बढ़ाने के लिए, xAI ने अपने GitHub पर Grok के प्रणालीय प्रोम्प्ट्स को पहली बार खुला कर दिखाया, जो आगे बढ़ने वाली AI कंपनियों के लिए पारदर्शीता के लिए एक महत्वपूर्ण चरण है। xAI का मानना है कि यह उपयोगकर्ताओं को इसे एक वास्तविकता-निर्भर AI प्रणाली मानने में मदद करेगा।

xAI अब भी इस विवाद का सामना कर रहा है और उपयोगकर्ताओं की सेवा करने के लिए और पारदर्शीता और विश्वसनीयता में सुधार करने के लिए प्रयास कर रहा है।