एआईबेस के अनुसार, ओपनएआई ने रेन फैमिली से अपने 16 वर्षीय बेटे एडम रेन के अंतिम संस्कार में शामिल लोगों की पूर्ण सूची और संबंधित दस्तावेज मांगे हैं, जिसके लिए रेन फैमिली के वकील ने "जानबूझकर अवहेलना" कहा और इशारा किया कि यह कंपनी मृत दोस्तों और परिवार के लोगों को बुलाने की कोशिश कर रही है।
अदालती मामला: ओपनएआई के खिलाफ आरोप लगाए गए हैं कि वे प्रतिस्पर्धा के लिए "सुरक्षा परीक्षण कम कर रहे हैं"
एडम रेन ओपनएआई के चैटजीपीटी के साथ लंबी बातचीत के बाद आत्महत्या कर लिया। रेन परिवार ने ओपनएआई के खिलाफ असामान्य मृत्यु के मामले में बुधवार को अदालत में अपडेट किया। इस परिवार ने मूल रूप से अगस्त में यह शिकायत दर्ज कराई थी कि चैटजीपीटी अपने बेटे के मानसिक स्वास्थ्य और आत्महत्या की इच्छा के बाद सहायता नहीं कर रहा था बल्कि आत्महत्या को बढ़ावा दे रहा था।
अपडेट किए गए अदालती मामले में दावा किया गया है कि ओपनएआई प्रतिस्पर्धा के दबाव में सुरक्षा परीक्षण कम कर रही है, जिससे GPT-4o मॉडल के विज्ञापन को 2024 मई में तेज कर दिया गया। इसके अलावा, अदालती मामला यह भी बताता है कि ओपनएआई ने अप्रैल 2025 में अपने "निषेध की गई सामग्री" सूची से आत्महत्या रोकने के कार्यक्रम को हटा दिया और बस यह निर्देश दिया कि AI खतरनाक स्थिति में "सावधान रहे", जिससे सुरक्षा उपाय कमजोर हो गए।
उपयोगकर्ता गतिविधि बढ़ी और सुरक्षा जोखिम
रेन परिवार का दावा है कि ओपनएआई द्वारा सुरक्षा उपायों में बदलाव के बाद, एडम ने जनवरी में चैटजीपीटी के साथ दिन में कई बार बातचीत की जिसमें 1.6% सामग्री आत्महत्या की ओर झुकाव रखती थी, जो अप्रैल में बढ़कर दिन में 300 बार हो गई, जिसमें 17% सामग्री ऐसी थी।
फाइनेंशियल टाइम्स द्वारा प्राप्त दस्तावेज के अनुसार, ओपनएआई ने अंतिम संस्कार की सूची के अलावा "अंतिम संस्कार या मृत व्यक्ति के सम्मान में आयोजित गतिविधियों से संबंधित सभी दस्तावेज जैसे कि कोई भी वीडियो या तस्वीर या श्रद्धांजलि भाषण शामिल हैं" मांगे हैं।
ओपनएआई का जवाब और नए सुरक्षा उपाय
ओपनएआई ने संशोधित अदालती मामले पर प्रतिक्रिया दी, कहा कि "किशोर के कल्याण की हमारी प्राथमिकता है," और वर्तमान सुरक्षा उपायों की सूची दी, जिसमें आपातकालीन लाइन को दूर करना, संवेदनशील बातचीत को अधिक सुरक्षित मॉडल में भेजना और लंबी बातचीत के दौरान आराम करने की याद दिलाना शामिल है। कंपनी ने कहा कि वे इन उपायों को आगे बढ़ा रहे हैं।
ओपनएआई हाल ही में चैटजीपीटी पर नए सुरक्षा राउटिंग सिस्टम और माता-पिता नियंत्रण विशेषताएं लॉन्च कर रही है। नए राउटिंग सिस्टम अधिक भावनात्मक रूप से संवेदनशील बातचीत को ओपनएआई के नए मॉडल GPT-5 में भेजेगा, जो GPT-4o की तुलना में कम उदार झुकाव रखता है। साथ ही, माता-पिता नियंत्रण विशेषताएं किशोरों के आत्महत्या के खतरे में सीमित स्थिति में माता-पिता को सुरक्षा चेतावनी प्राप्त करने की अनुमति देती हैं।
