ओपनएआई ने घोषणा की कि अगले महीने इसके प्रसिद्ध एआई सहायक चैटजीपीटी के लिए एक नया अभिभावक नियंत्रण विशेषता लॉन्च करेगा, जिसका उद्देश्य बच्चों के एआई के साथ अंतरक्रिया को बेहतर ढंग से प्रबंधित करने में माता-पिता की सहायता करना है।
ओपनएआई के अनुसार, यह अभिभावक नियंत्रण विशेषता माता-पिता को अपने खातों को युवा लोगों के खातों से जोड़ने की अनुमति देगी, जिससे वे चैटजीपीटी के उत्तरों को निरीक्षण और समायोजित कर सकेंगे। माता-पिता निश्चित कार्यक्षमताओं, जैसे चैट ऐतिहासिक डेटा और स्मृति विशेषताओं को अक्षम करने का चयन कर सकते हैं, जिससे बच्चों की गोपनीयता की अधिक सुरक्षा हो सके। इसके अलावा, जब तंत्र के पास एक युवा के मानसिक संकट में होने का पता लगता है, तो यह माता-पिता को सूचित करेगा। इस विशेषता के आगमन के साथ निश्चित रूप से लोगों के एआई सुरक्षा के बारे में उच्च स्तर के चिंता का उत्तर दिया गया है।
इसके साथ ही, ओपनएआई ने कहा कि वह मानसिक स्वास्थ्य और मानव-कंप्यूटर अंतरक्रिया के विशेषज्ञों के साथ काम कर रहा है, ताकि इस तरह के दुर्घटनाओं के फिर से होने से बचाने के लिए अधिक सुरक्षा उपाय विकसित किए जा सकें। हाल के दिनों में, एक उपयोगकर्ता के चैटजीपीटी का उपयोग करते समय मानसिक संकट के अनुभव के बाद ओपनएआई के सामने जनता और कानूनी दबाव आया। विशेष रूप से, 16 वर्षीय एडम लेन के माता-पिता ने ओपनएआई के खिलाफ एक याचिका दायर की, जिसमें दावा किया गया कि AI ने अपने बच्चे को सुसाइड की सलाह दी। इस घटना ने युवा और AI के बीच संबंध पर व्यापक चर्चा शुरू कर दी।
ओपनएआई ने अपने वर्तमान प्रणाली में कुछ सुरक्षा योजनाओं के अस्तित्व के बारे में स्वीकार किया, जैसे कि संकट गर्मलाइनें और वास्तविक दुनिया संसाधनों के लिंक प्रदान करना, लेकिन लंबी बातचीत के दौरान ये सुरक्षा उपाय कम प्रभावी हो जाते हैं। इसलिए, कंपनी लगातार अपने सुरक्षा उपायों को सुधार रही है ताकि उपयोग के दौरान अधिक विश्वसनीय समर्थन प्रदान किया जा सके।
अपने आगामी अभिभावक नियंत्रण विशेषता के अलावा, ओपनएआई अगले 120 दिनों में अधिक सुरक्षा संरक्षण उपायों के लिए योजना बना रहा है। उन्होंने कहा कि इन प्रयासों के लिए निश्चित रूप से अब तक कार्य किया जा रहा है और उन्हें जारी रखा जाएगा ताकि उपयोगकर्ताओं, विशेष रूप से युवा, चैटजीपीटी के उपयोग के लिए एक सुरक्षित वातावरण में उपयोग कर सकें।
एआई के उपयोग के बारे में लोगों के जीवन में धीरे-धीरे गहरा रूप से घुल मिल गया है। तकनीक के कारण सुविधाओं का आनंद लेते हुए युवा के मानसिक स्वास्थ्य की रक्षा कैसे करें, यह स्पष्ट रूप से हल करने के लिए एक तत्काल समस्या बन गई है।