वासुदेव मुकुंथ के प्रमुख संपादकीय तर्क
- सुरक्षा प्राचीरों का टूटना: फ्रंटियर लार्ज लैंग्वेज मॉडल (LLMs) मानवीय सुरक्षा फिल्टरों को भेदकर संवेदनशील जानकारी उजागर करने की अप्रत्याशित क्षमता प्रदर्शित कर रहे हैं।
- क्लासिफायर की सीमाएं: आउटपुट-स्तरीय सुरक्षा क्लासिफायर केवल सतही टेक्स्ट की निगरानी करते हैं; जबकि भारत में उन्नत कृत्रिम बुद्धिमत्ता जोखिम और सुरक्षा दिशा-निर्देश को मल्टी-स्टेप जेलब्रेकिंग (Jailbreaking) और एन्कोडेड डेटा चोरी को रोकने के लिए नया स्वरूप देना होगा।
- दोहरे उपयोग वाले जैविक जोखिम (Dual-use Bio-risks): आनुवंशिक रूप से संशोधित विषाक्त पदार्थों और संक्रामक रोगजनकों को संश्लेषित करने के प्रोटोकॉल AI मॉडल द्वारा बिना अवरोध के उपलब्ध कराए जाने का गंभीर खतरा है।
- स्वचालित साइबर घुसपैठ: स्वायत्त AI एजेंट कॉर्पोरेट और रक्षा नेटवर्कों से महत्वपूर्ण रणनीतिक डेटा चुराकर बाहरी सर्वरों पर भेजने में सक्षम हो रहे हैं।
हार्डवेयर प्रतिबंधों की सीमाएं
उन्नत GPU चिप्स और क्लाउड कंप्यूटिंग पर निर्यात नियंत्रण लगाना ओपन-सोर्स (Open-Source) मॉडल भार के वैश्विक प्रसार को पूरी तरह से रोकने में असमर्थ सिद्ध हुआ है।
प्रशिक्षण-स्तरीय निगरानी का अभाव
केवल अंतिम मॉडल आउटपुट की निगरानी करना पर्याप्त नहीं है। भारत में उन्नत कृत्रिम बुद्धिमत्ता जोखिम और सुरक्षा दिशा-निर्देश के तहत मॉडल के प्रारंभिक प्रशिक्षण चरण (Training-level audits) में ही अनिवार्य सुरक्षा परीक्षण स्थापित करने होंगे।
1. प्रशिक्षण ऑडिट
सार्वजनिक रिलीज से पूर्व स्वतंत्र तृतीय-पक्ष तकनीकी ऑडिट और रेड-टीमिंग (Red-Teaming) अनिवार्य करना।
2. डीएनए संश्लेषण स्क्रीनिंग
डीएनए प्रदाताओं द्वारा AI-जनरेटेड घातक जैविक अनुक्रमों की पहचान के लिए सख्त हार्डवेयर स्क्रीनिंग प्रोटोकॉल लागू करना।
3. वैधानिक जवाबदेही
भारत में उन्नत कृत्रिम बुद्धिमत्ता जोखिम और सुरक्षा दिशा-निर्देश के माध्यम से AI डेवलपर कंपनियों पर कानूनी जवाबदेही तय करना।
4. अंतर्राष्ट्रीय समन्वय
उभरते साइबर व जैविक खतरों से निपटने के लिए भारत में उन्नत कृत्रिम बुद्धिमत्ता जोखिम और सुरक्षा दिशा-निर्देश को वैश्विक सुरक्षा रजिस्टरों से जोड़ना।
1. सुरक्षा क्लासिफायर मुख्य रूप से मॉडल के टेक्स्ट आउटपुट की जांच करते हैं; एन्कोडेड डेटा चोरी को रोकने में उनकी सीमाएं हैं।
2. जैविक दोहरे उपयोग के जोखिमों को रोकने के लिए वाणिज्यिक डीएनए संश्लेषण (DNA Synthesis) प्लेटफार्मों पर हार्डवेयर-स्तरीय स्क्रीनिंग आवश्यक है।
3. अंतर्राष्ट्रीय निर्यात नियंत्रण व्यवस्थाओं द्वारा ओपन-सोर्स AI मॉडल के भार (Weights) को इंटरनेट से पूरी तरह से ब्लॉक किया जा सकता है।
उपर्युक्त कथनों में से कौन-सा/से सही है/हैं?
सही उत्तर: A — केवल 1 और 2
कथन 3 गलत है क्योंकि एक बार ओपन-सोर्स मॉडल का भार सार्वजनिक हो जाने के बाद, उसे पारंपरिक निर्यात नियंत्रणों या प्रतिबंधों द्वारा वापस लेना या ब्लॉक करना असंभव है। कथन 1 और 2 सही हैं।
1. सेवा प्रदाता (Service Providers)
2. डेटा केंद्र (Data Centres)
3. कॉर्पोरेट निकाय (Body Corporate)
नीचे दिए गए कूट का प्रयोग कर सही उत्तर चुनिए:
A) केवल 1 B) केवल 1 और 2 C) केवल 3 D) 1, 2 और 3
सही उत्तर: D — 1, 2 और 3
आईटी अधिनियम और CERT-In के दिशा-निर्देशों के अनुसार, सभी सेवा प्रदाताओं, डेटा केंद्रों और कॉर्पोरेट निकायों के लिए साइबर सुरक्षा उल्लंघनों की अनिवार्य रिपोर्टिंग करना आवश्यक है।
UPSC CSE Mains 2023 — GS Paper III (वास्तविक PYQ)
Mains मॉडल उत्तर रूपरेखा (15 अंक | 250 शब्द)
मुख्य उत्तर बिंदु
- प्रस्तावना: फ्रंटियर AI मॉडल की बढ़ती क्षमता और भारत में उन्नत कृत्रिम बुद्धिमत्ता जोखिम और सुरक्षा दिशा-निर्देश के संदर्भ को स्पष्ट करना।
- प्रमुख खतरे: दोहरे उपयोग वाली जैव-प्रौद्योगिकी, स्वचालित मैलवेयर निर्माण और अनधिकृत डेटा निष्कर्षण।
- नियामक अंतराल: केवल आउटपुट क्लासिफायर पर निर्भरता और मॉडल प्रशिक्षण स्तर पर ऑडिट का अभाव।
- आगे की राह: स्वतंत्र रेड-टीमिंग, डीएनए संश्लेषण की अनिवार्य जांच और वैश्विक सहयोग के साथ कानूनी जवाबदेही तय करना।