मेटा कंपनी हाल ही में अपने AI चैटबॉट के माता-पिता के नियंत्रण उपायों में महत्वपूर्ण सुधार करने की घोषणा की है, जिसका उद्देश्य किशोर उपयोगकर्ताओं की सुरक्षा में सुधार करना है और सामाजिक एआई सुरक्षा समस्याओं के प्रति ध्यान आकर्षित करना है। "ऑन/ऑफ" उपकरण के रूप में नवीनतम लॉन्च किया गया उपकरण माता-पिता को इंस्टाग्राम और फेसबुक प्लेटफॉर्म पर अपने बच्चों को ऑनलाइन आईएआई चैट रोल तक पहुंच रोकने की अनुमति देगा, यह उपाय बच्चों के सुरक्षा तंत्र को और अधिक सख्त बनाने के लिए है।
“ऑन/ऑफ” के अलावा, मेटा माता-पिता के लिए एक नया "अंतर्दृष्टि" फीचर प्रदान करेगा। यह फीचर माता-पिता को बच्चों के आईएआई चैटबॉट के साथ बातचीत के विषय देखने में सहायता करेगा, ताकि परिवार ऑनलाइन सुरक्षा समस्याओं पर तत्काल ध्यान दे सके। बच्चों के लिए सुरक्षा सुनिश्चित करने के लिए, मेटा ने आईएआई चैटबॉट के साथ किशोरों के आत्महत्या, भोजन विकार, डेटिंग और लैंगिक विषयों पर बात करने के लिए प्रतिबंध लगा दिया है, बातचीत मुख्य रूप से शिक्षा, खेल आदि उम्र के अनुरूप विषयों तक सीमित रहेगी।
इन माता-पिता नियंत्रण उपकरणों की अपेक्षा 2026 की शुरुआत में अमेरिका, ब्रिटेन, कनाडा और ऑस्ट्रेलिया में पहले लॉन्च किया जाएगा। मेटा ने कहा है कि यह अपडेट इस वर्ष अब तक हुए कई आईएआई चैटबॉट और किशोरों के अनुचित बातचीत घटनाओं के प्रति प्रतिक्रिया है। उदाहरण के लिए, कुछ काल्पनिक चरित्र जैसे "जॉन सीना" के अनुचित बयान उजागर हुए थे, जिसने सामाजिक ध्यान आकर्षित किया था। बच्चों के लिए आईएआई सेवाओं की सुरक्षा और पारदर्शिता बढ़ाने के लिए, मेटा ने सामग्री समीक्षा तंत्र को अपडेट कर दिया है और PG-13 श्रेणी निर्देश प्रणाली को शामिल कर दिया है।
कंपनी ने कहा कि वह आगे आईएआई अंतःक्रिया नियंत्रण को बेहतर बनाएगी, जो माता-पिता को बच्चों के डिजिटल अनुभव के प्रबंधन और निर्देशन में सहायता करेगी। इन कदमों के माध्यम से, मेटा डिजिटल वातावरण में बच्चों के लिए एक अधिक सुरक्षित संचार स्थान बनाना चाहता है।
मुख्य बिंदु:
📅 मेटा "ऑन/ऑफ" उपकरण लॉन्च करेगा, जिससे माता-पिता अपने बच्चों के कुछ आईएआई चैट रोल तक पहुंच रोक सकते हैं।
👁️ नया "अंतर्दृष्टि" फीचर जोड़ा गया है, जिससे माता-पिता अपने बच्चों के आईएआई के साथ बातचीत के विषय देख सकते हैं, ऑनलाइन सुरक्षा पर ध्यान बढ़ाएं।
🔒 आईएआई चैटबॉट आत्महत्या, भोजन विकार आदि अनुचित विषयों पर बात करने के लिए प्रतिबंधित होगा, उम्र के अनुरूप सामग्री पर केंद्रित रहेगा।
