Anthropic के संस्थापक Dario Amodei ने ब्रिटेन में आर्टिफिशियल इंटेलिजेंस सुरक्षा शिखर सम्मेलन में जिम्मेदार स्केलिंग नीति (Responsible Scaling Policy, RSP) की जानकारी दी। यह नीति आर्टिफिशियल इंटेलिजेंस सिस्टम की सुरक्षा और नियंत्रण सुनिश्चित करने के लिए बनाई गई है, ताकि संभावित खतरों और दुरुपयोग से बचा जा सके। RSP में दो मुख्य घटक शामिल हैं: ASL प्रणाली और स्केलिंग वक्र। ASL प्रणाली जैविक सुरक्षा स्तर (BSL) प्रणाली की नकल करती है, जिसमें प्रत्येक स्तर के लिए एक संबंधित सुरक्षा उपाय होता है। ASL-1 उन मॉडलों का प्रतिनिधित्व करता है जिनमें लगभग कोई जोखिम नहीं होता, जैसे कि शतरंज खेलने वाली पेशेवर आर्टिफिशियल इंटेलिजेंस; ASL-2 वर्तमान चरण का प्रतिनिधित्व करता है, जिसमें मॉडल में व्यापक जोखिम होते हैं, लेकिन अभी तक वास्तविक खतरनाक क्षमताएँ नहीं दिखाई देतीं; ASL-3 वह स्थिति है जब AI मॉडल CBRN (रासायनिक, जैविक, रेडियोधर्मी और परमाणु) क्षेत्र में संचालनात्मक खतरे में आ जाता है; ASL-4 वह स्तर है जहां विनाशकारी दुरुपयोग का खतरा बढ़ जाता है, जब AI सिस्टम मानव स्तर की स्वायत्तता के करीब पहुंचता है, या कम से कम एक गंभीर वैश्विक सुरक्षा खतरे (जैसे जैविक हथियार) का मुख्य स्रोत बन जाता है, तब ASL-4 को सक्रिय किया जाएगा। स्केलिंग वक्र उन खतरनाक क्षमताओं का परीक्षण करने के लिए अंतराल समय का उपयोग करता है, ताकि यह सुनिश्चित किया जा सके कि खतरनाक क्षमताओं वाले मॉडलों का अंधाधुंध निर्माण नहीं किया जाए। जैसे-जैसे आर्टिफिशियल इंटेलिजेंस सिस्टम का आकार और क्षमताएँ बढ़ती हैं, सुरक्षा उपायों को भी उसी के अनुसार उन्नत करने की आवश्यकता होती है।
Anthropic ने AI सुरक्षा स्तर ASL प्रणाली का विमोचन किया

站长之家
यह लेख AIbase दैनिक से है
【AI दैनिक】 कॉलम में आपका स्वागत है! यहाँ आर्टिफ़िशियल इंटेलिजेंस की दुनिया का पता लगाने के लिए आपकी दैनिक मार्गदर्शिका है। हर दिन हम आपके लिए AI क्षेत्र की हॉट कंटेंट पेश करते हैं, डेवलपर्स पर ध्यान केंद्रित करते हैं, तकनीकी रुझानों को समझने में आपकी मदद करते हैं और अभिनव AI उत्पाद अनुप्रयोगों को समझते हैं।