महत्वपूर्ण बिंदु:
📅 न्यायालय ने गूगल और कैरेक्टर.एआई की सूची को बहाल करने का मामला जारी रखने का फैसला किया।
⚖️ प्रथम दायित्व भर्ता का मानना है कि कैरेक्टर.एआई के चैट बॉट ने अपने पुत्र को भावनात्मक और मानसिक क्षति पहुंचाई, जिससे उसने आत्मघात किया।
🔍 कैरेक्टर.एआई ने सुरक्षा अद्यतन की घोषणा की है, लेकिन प्लेटफॉर्म के सामग्री के सुरक्षा के प्रश्न के बारे में भी बहस जारी है।
हाल ही में, फ्लोरिडा के एक न्यायाधीश ने गूगल और इसकी उपस्थिति कंपनी कैरेक्टर.एआई के खिलाफ सूची को बहाल करने की मांग को बहाल कर दिया है, जिसमें एक 14 वर्षीय उपयोगकर्ता के चैट बॉट का उपयोग करने के कारण आत्मघात की दावेदारी शामिल है। इस मुकदमा को एक ऐसा मुकदमा माना जाता है कि इसमें पहली बार AI तकनीक के संभावित खतरों का जुड़वा लिया गया है।
इमेज स्रोत नोट: इस छवि को AI द्वारा बनाया गया है, Midjourney द्वारा लाइसेंस प्रदान किया गया है।
इस मुकदमे का शुरूआती चरण 2023 के अक्टूबर में हुआ था, जिसमें मेगन गार्सिया (Megan Garcia) ने कैरेक्टर.एआई के चैट बॉट का उपयोग बिना पर्याप्त परीक्षण और सुरक्षा समीक्षा के जारी किए जाने के दावा किया, जिससे उसके पुत्र स्ट्यूअर्ट सेझर (Sewell Setzer III) को भावनात्मक और मानसिक क्षति हुई, और उसने 2024 के फरवरी में आत्मघात कर लिया। गार्सिया ने कहा कि ये चैट बॉट उपयोग में शास्त्रीय अपराध और भावनात्मक उत्पीड़न के विशेषताओं का प्रदर्शन करते थे, जिससे उसके पुत्र को इस प्लेटफॉर्म पर मजबूरी का अनुभव हुआ।
जनवरी में, कैरेक्टर.एआई, गूगल और इसके संस्थापक नोअम शेजर (Noam Shazeer) और डेनियल डे फ्रेटास (Daniel de Freitas) ने पहले संशोधन के तहत सूची को बहाल करने की मांग की, क्योंकि उन्होंने AI द्वारा उत्पन्न चैट कंटेंट को बोलने के अधिकार के रूप में देखा। हालांकि, न्यायाधीश एन नाइन कॉनवे (Anne Conway) ने कहा कि प्रथम दायित्व भर्ता ने इन कंटेंट को "बोलने" के रूप में क्या स्थिति है उसका पर्याप्त विवरण नहीं दिया है और मामला जारी रखने की अनुमति दी।
हालांकि, कुछ दायित्व जैसे व्यक्तिगत भावनात्मक क्षति (IIED) की मांग को बहाल कर दिया गया, न्यायाधीश ने मेगन गार्सिया के उत्पाद जिम्मेदारी के आधार पर मुकदमा जारी रखने की अनुमति दी। इस फैसले ने कैरेक्टर.एआई और इसके संबंधित पक्षों को "उत्पाद" के रूप में देखा और उन्हें उत्पाद दोष के कारण जिम्मेदारी से सामना करने की संभावना दी। कानूनी पेशेवरों का मानना है कि यह फैसला AI क्षेत्र में तकनीकी कंपनियों के लिए नया जिम्मेदारी का मानक स्थापित कर सकता है।
कैरेक्टर.एआई की स्थापना के समय, गूगल उसके साथ घनिष्ठ सहयोग करता था, जिसने इसे क्लाउड सेवा इंफ्रास्ट्रक्चर प्रदान की और 2024 में 2.7 बिलियन डॉलर के साथ इसकी डेटा को खरीदा। हालाँकि, गूगल ने मुकदमे पर कोई टिप्पणी नहीं की और बताया कि कैरेक्टर.एआई और वह एकदम स्वतंत्र हैं।
कैरेक्टर.एआई ने प्रतिक्रिया में उपयोगकर्ताओं को सुरक्षित रखने के लिए एक सूची अद्यतन की और मुकदमे का आगे बढ़ने की उम्मीद की। हालांकि, ये अद्यतन सेझर की आत्मघात के बाद ही लागू हुए थे, जिससे न्यायालय के अंतिम फैसले को बदलने में क्षमता नहीं थी।
वर्तमान में, कैरेक्टर.एआई के सुरक्षा मैकेनिज़्म पर अभी भी बहस चल रही है, और परिक्षण के अनुसार प्लेटफॉर्म पर अभी भी स्वर्णिम कार्यों, स्वादिष्ट समाजिक कार्य, और अन्य खतरनाक व्यवहारों से जुड़े चैट बॉट मौजूद हैं, जिससे अव्यक्त वयस्कों के AI साथी का उपयोग करने पर बहुत ध्यान आकर्षित हुआ है।