ओपनएआई द्वारा हाल ही में जारी किए गए GPT-5 मॉडल ने सुरक्षा तंत्र में महत्वपूर्ण प्रगति की है, जो कि उपयोगकर्ता के अनुरोध को सरल रूप से अस्वीकृत करने के बजाय अधिक बुद्धिमान "सुरक्षा पूर्ण करने" की रणनीति का उपयोग करता है।
मुख्य सुधार: द्विआधारी अस्वीकृति से बुद्धिमान स्पष्टीकरण तक
पारंपरिक रूप से, जब चैटजीपीटी ने उपयोगकर्ता के अनुरोध को सामग्री नीति के विपरीत माना, तो इसने केवल छोटा क्षमा और अस्वीकृति दी। GPT-5 इस प्रकार के पैटर्न को पूरी तरह से बदल दिया, जिससे सुरक्षा केंद्र उपयोगकर्ता इनपुट के विश्लेषण से निर्माण के आउटपुट के निरीक्षण की ओर बढ़ गया।
"हम अस्वीकृति के तरीके पहले के विपरीत हैं," ओपनएआई सुरक्षा प्रणाली अनुसंधान टीम के साची जैन कहते हैं। नए मॉडल उल्लंघन के कारण के साथ-साथ उचित समय पर विकल्प विषयों के सुझाव देता है, जिससे उपयोगकर्ता को अधिक निर्माणात्मक अंतरक्रिया अनुभव मिलता है।
श्रेणीकृत निपटान: सभी उल्लंघन एकसमान गंभीर नहीं हैं
GPT-5 जोखिम श्रेणी की अवधारणा के साथ आया है, जो अपेक्षित खतरे की गंभीरता के आधार पर अलग-अलग उपाय अपनाता है। "सभी नीति उल्लंघन एकसमान रूप से नहीं लिए जाने चाहिए, कुछ भूल अन्य भूलों की तुलना में अधिक गंभीर हो सकती है," जैन ने स्पष्ट किया।
इस परिवर्तन ने चैटजीपीटी को सुरक्षा नियमों का पालन करते हुए अधिक लचीले और उपयोगी उत्तर प्रदान करने में सक्षम बना दिया, जबकि एक झटका अस्वीकृति नहीं है।
वास्तविक अनुभव: दैनिक उपयोग के अनुभव समान हैं
हालांकि सुरक्षा तंत्र में सुधार हुआ है, लेकिन सामान्य उपयोगकर्ताओं के लिए दैनिक प्रश्नों - जैसे स्वास्थ्य समस्याओं, व्यंजन बनाने, शिक्षा साधन आदि - GPT-5 के पिछले संस्करण के साथ अंतर नहीं है। नए मॉडल सामान्य अनुरोधों के साथ एक साथ व्यवहार करता है।
चुनौतियाँ बरकरार हैं: व्यक्तिगत कार्यक्षमता नए जोखिम लाती हैं
ध्यान देने योग्य बात यह है कि AI उपकरणों के व्यक्तिगत कार्यक्षमताओं में वृद्धि होने के साथ, सुरक्षा नियंत्रण अधिक जटिल हो गए हैं। परीक्षण दिखाते हैं कि कुछ सुरक्षा सीमाएं आत्मस्थापना निर्देशों जैसे कुछ कार्यक्षमताओं के माध्यम से पार की जा सकती हैं, जो हमें यह स्पष्ट करता है कि AI सुरक्षा एक लगातार विकास के विषय है।
ओपनएआई कहता है कि वे इन समस्याओं में सुधार करने में सक्रिय रूप से काम कर रहे हैं, विशेष रूप से निर्देश स्तर संरचना और सुरक्षा नीति के संतुलन पर गहरा अनुसंधान कर रहे हैं।
