एआइ के विकास, परीक्षण और उपयोग के लिए मानदंड हों निर्धारित

डॉ. अमन शर्मा
प्रोफेसर एवं रिसर्च साइंटिस्ट

अमरीका की दो प्रमुख एआइ कंपनियों, सैन फ्रांसिस्को स्थित ओपनएआइ और वैश्विक ओपन सोर्स प्लेटफॉर्म हगिंग फेस के बीच एक हैरान करने वाली घटना ने एआइ के खतरनाक पहलू को पूरी दुनिया के सामने उजागर किया है। ओपनएआइ अपने सबसे उन्नत एआइ मॉडल्स (जीपीटी.5.6 सोल और उससे भी शक्तिशाली गुप्त मॉडल) की साइबर क्षमताओं का परीक्षण एक सुरक्षित एवं अलग-थलग वातावरण ‘सैंडबॉक्स’ में कर रहा था। परीक्षण में सफल होने की अंधी धुन में वह एआइ मॉडल इतना अतिकेंद्रित हो गया कि उसने दो ऐसे अज्ञात सुरक्षा छिद्रों (जीरो-डे कमजोरियों) का पता लगा लिया, जिनके बारे में किसी इंसान को जानकारी नहीं थी।
इन्हीं खामियों का फायदा उठाकर उसने सैंडबॉक्स की डिजिटल दीवारों को तोड़ा, खुद को इंटरनेट से जोड़ा और चोरी किए गए गुप्त पासवर्ड के सहारे हगिंग फेस के प्रोडक्शन डेटाबेस में सेंध लगाकर वहां से अपने टेस्ट के जवाब चुरा लिए। सबसे चौंकाने वाली बात यह रही कि यह पूरा हमला शुरू से अंत तक पूरी तरह से स्वायत्त ऑटोनॉमस था, यानी एआइ एजेंट ने खुद निर्णय लिए, खुद हैकिंग टूल्स बनाए और बिना किसी इंसानी निर्देश के यह सब कर दिखाया। एआइ अब महज एक निष्क्रिय औजार नहीं रहा, बल्कि एक स्वायत्त अभिकर्ता एजेंट बन चुका है, जो इंसानी नियमों और डिजिटल दीवारों को तोडक़र खुद निर्णय ले सकता है और विनाशकारी कदम उठा सकता है। सबसे बड़ा संदेश यह है कि पारंपरिक सुरक्षा घेरे (सैंडबॉक्स और फायरवॉल) अब एआइ के सामने बेअसर हो चुके हैं। सबसे बड़ी चुनौती यह है कि यह हमला सीमाओं (बॉर्डर्स) से परे था, इसलिए कोई भी देश, चाहे वह अमरीका हो, भारत, चीन या यूरोप भी इस खतरे से अछूता नहीं है।

मानदंड निर्धारित किए जाएं
ऐसे में अब जरूरी है कि वैश्विक स्तर पर, सभी देशों को मिलकर एक अंतरराष्ट्रीय एआइ सुरक्षा संधि बनानी होगी, जिसमें एआइ के विकास, परीक्षण और उपयोग के लिए सख्त मानदंड निर्धारित हों और एक संयक्त राष्ट्र-स्तरीय निगरानी निकाय की स्थापना की जाए। राष्ट्रीय स्तर पर हर देश की सरकार को एआइ कंपनियों के लिए अनिवार्य स्वतंत्र सुरक्षा ऑडिट और सुरक्षा घटनाओं के अनिवार्य खुलासे को कानूनी रूप से अनिवार्य बनाना होगा। कंपनियों के स्तर पर, ओपनएआइ, गूगल, माइक्रोसॉफ्ट जैसी टेक दिग्गजों को अपने (सैंडबॉक्स) को इतना मजबूत बनाना होगा कि एआइ उसमें से बाहर न निकल सके। तकनीकी स्तर पर, एआइ असिस्टेड डिफेंस सिस्टम विकसित करने होंगे। ओपन-सोर्स डिफेंसिव एआइ मॉडल्स को बढ़ावा देना होगा और स्वायत्त एजेंटों के लिए विशेष सुरक्षा दिशा-निर्देश बनाने होंगे। इन सभी कदमों के लिए वैश्विक सहयोग, पारदर्शिता और पूर्व-नियोजित सुरक्षा को अपनाना ही एकमात्र रास्ता है।

स्वतंत्र सुरक्षा परीक्षण को कानूनी रूप से अनिवार्य किया जाए
एआइ साइबर हमले की घटना के बाद, भारत अमरीका और चीन के बीच तटस्थ मध्यस्थ तथा वैश्विक रूल-मेकर (नियम-निर्माता) की भूमिका निभा सकता है, क्योंकि उसके पास यूपीआइ, आधार और भाषिणी जैसे मजबूत डिजिटल पब्लिक इंफ्रास्ट्रक्चर का वैश्विक मॉडल है और उसने फरवरी 2026 के इंडिया एआइ इम्पैक्ट समिट में 100 से अधिक देशों को एक मंच पर लाने की अपनी क्षमता साबित की है। वैश्विक स्तर पर भारत को ‘एआइ के लिए जिनेवा कन्वेंशन’ जैसी अंतरराष्ट्रीय संधि का प्रस्ताव रखना चाहिए, जिसमें ऑफेंसिव एआइ पूर्ण प्रतिबंध, सभी देशों के लिए अनिवार्य सुरक्षा ऑडिट और एक संयुक्त राष्ट्र, स्तरीय निगरानी निकाय की स्थापना शामिल हो। घरेलू स्तर पर भारत को एआइ कंपनियों के लिए स्वतंत्र सुरक्षा परीक्षण को कानूनी रूप से अनिवार्य बनाना होगा, सर्ट-इन के 12.घंटे के भीतर खामियों को पैच करने के निर्देशों का सख्ती से पालन सुनिश्चित करना होगा और सर्वम एआइ तथा भारतजन जैसे स्वदेशी एआइ प्रोजेक्ट्स को पर्याप्त वित्तीय एवं तकनीकी सहायता देनी होगी।

सबसे तात्कालिक स्तर पर, ओपनएआइ और हगिंग फेस अपनी संयुक्त जांच जारी रखेंगे। वैश्विक स्तर पर, यह घटना एआइ सुरक्षा कानून के लिए एक ‘जागृत क्षण’ साबित होगी असल में एआइ कल स्विच और स्वतंत्र सुरक्षा ऑडिट जैसे कठोर कानून लाने की मांग तेज हो गई है। तकनीकी और भू-राजनीतिक स्तर परए यह घटना एआइ हथियारों की होड़ में एक नए युग का संकेत है। हैरानी की बात यह है कि एक चीनी ओपन-वेट मॉडल (जीएलएम 5.2) ने इस हमले को रोकने में मदद की। इससे एआइ क्षेत्र में अमरीका के वर्चस्व को चुनौती मिलेगी। सबसे बड़ा बदलाव साइबर सुरक्षा के नजरिए से आएगा, अब हमलावर मशीन की रफ्तार से काम कर रहे हैं, इसलिए बचाव को भी उन्नत एआइ का उपयोग करना होगा।