संयुक्त राष्ट्र में भी बजी एआइ के खतरों की घंटी

संयुक्त राष्ट्र सुरक्षा परिषद में पिछले दिनों हुई बैठक में एक अलग किस्म के सुरक्षा मसले पर चर्चा हुई। जहां परमाणु शक्तियों, युद्धों और प्रतिबंधों की भाषा बोलने वाले व्यक्तित्व दिखाई देते हैं, वहां इस बार कुछ ऐसी शख्सियतें भी थीं, जिन्हें आप पूरी तरह गैर-राजनीतिक कह सकते हैं। असल में ये वे लोग थे, जिन्हें हम आर्टिफिशियल इंटेलिजेंस के कर्णधारों के रूप में जानते हैं- ओपनएआइ के प्रमुख सैम ऑल्टमैन, एंथ्रोपिक के प्रमुख डारियो अमोदेई और हगिंग फेस के सह-संस्थापक क्लेमां दलांग। कनाडाई वैज्ञानिक योशुआ बेंजियो भी थे, जिन्हें एआइ का 'गॉडफादर' कहा जाता है। पहली बार नहीं था कि सुरक्षा परिषद ने एआइ पर बात की हो। वर्ष 2023 में भी चर्चा हुई थी। लेकिन पहली बार इतने ऊंचे मंच पर उद्योग के कर्णधार स्वयं खड़े होकर कह रहे थे कि संभावित खतरे हल्के नहीं हैं। ऐसा उस समय तो नहीं हुआ था जब प्रो. स्टीफन हॉकिंग, बिल गेट्स, नोबेल विजेता जेफ्री हिंटन, एलन मस्क और एआइ तंत्र के अनेक भीतरी लोगों ने कहा था कि इसके विकास की मौजूदा दिशा मानवता के लिए खतरनाक है।

2024 में डेढ़ हजार से अधिक शोधकर्ताओं के एक सर्वेक्षण में एआइ की वजह से मानव सभ्यता के खत्म होने या स्थायी अधीनता में आने की आशंका का मध्यमान लगभग 10 प्रतिशत निकला था। उसके दो साल बाद क्या स्थितियां अलग हैं? आज संयुक्त राष्ट्र जैसी प्रधान वैश्विक संस्था ने एआइ से उपजे सुरक्षा खतरों को इतनी गंभीरता से क्यों लिया है? एआइ के क्षेत्र में पिछले दिनों हुई दो चिंताजनक घटनाओं ने दुनिया का ध्यान खींचा है। पिछली जुलाई में ओपनएआइ के स्वायत्त सॉफ्टवेयर एजेंटों ने एक सुरक्षा परीक्षण के दौरान इंसानों के निर्देश और व्यवस्था का दायरा तोड़ दिया। उन्हें बंद माहौ (सैंडबॉक्स) के भीतर रहकर सुरक्षा संबंधी खामियां जांचने का काम सौंपा गया था। लेकिन लगभग 1,200 एजेंटों ने आपस में जुडऩे का अनधिकृत रास्ता खोज निकाला। उन्होंने एक मैसेजबोर्ड बना लिया, आपस में हजारों संदेश बांटे और उनमें से करीब 700 एजेंट इंटरनेट के जरिये दूसरी कंपनी हगिंग फेस के सिस्टम में सेंध लगा बैठे। यह हैकिंग और यह वार्तालाप न उन्हें सिखाया गया था, न इसकी इजाजत थी। यह अप्रत्याशित था। बाद में खबर मिली कि एंथ्रोपिक, मेटा और चीन की मूनशॉट के एआइ मॉडलों ने भी परीक्षण के दौरान कंटेनमेंट तोड़ी थी या बाहरी सिस्टम तक पहुंच बनाई थी। अगर कोई इंसान वैसा करता तो लंबी सजा पाता। हम सोचते थे कि एआइ साइबर अपराधियों को नई ताकत देगा। यहां तो स्वयं एआइ ने हमला कर दिया।

तब चिंता फिर उभर आई कि अगर एआइ काबू से बाहर हुआ तो क्या होगा- खासकर तब जब उसके हाथ में सामरिक सुरक्षा जैसा जिम्मा दे दिया गया हो और इन एजेंटों ने आपस में तालमेल बैठाया व मिलकर काम किया। सवाल खड़ा हो गया कि क्या एआइ एजेंट एकजुट भी हो सकते हैं? अगर कभी हमारे खिलाफ एकजुट हुए तो? नई चिंताओं के पीछे एक और घटना है। एआइ कंपनी एंथ्रोपिक के युवा विज्ञानी जैकब कॉक्सन ने यह कहकर इस्तीफा दे दिया कि 'एआइ लैब हमारी जिंदगियों के साथ जुआ खेल रही हैं।' उनके मुताबिक इन लैबों के भीतर बैठे लोग भी मानते हैं कि आर्टिफिशियल इंटेलिजेंस इस दशक के अंत तक हमें खत्म कर सकती है या कम से कम इंसानों के हाथ से नियंत्रण छीन सकती है। एंथ्रोपिक के वरिष्ठ सुरक्षा-शोधकर्ता एवान ह्यूबिंगर ने सहमति में कहा कि इस दशक में एआइ द्वारा समूची मानवता के विनाश की आशंका 10 प्रतिशत से अधिक है। कॉक्सन से पहले भी कई एआइ-विशेषज्ञ इन्हीं आशंकाओं और नैतिकता के तकाजे पर नौकरियां छोड़ चुके हैं। नोबेल पुरस्कार विजेता जेफ्री हिंटन ने इसीलिए गूगल छोड़ा ताकि वे इस मसले पर खुलकर बात कर सकें। डेनियल कोकोताजलो (ओपनएआइ), जो बेंटन (एंथ्रोपिक), जॉश एंगेल्स (डीपमाइंड), मृणांक शर्मा (एंथ्रोपिक) और बिलाल चुगताई जैसे लोग एआइ तंत्र के भीतरी लोग हैं, जिन्होंने एआइ के विकास से वास्ता तोड़ लिया।

शायद हमें अब तो चेत जाना चाहिए। अगर एआइ का एक डरावना पक्ष है तो कम से कम उसके प्रति सतर्क हुआ जाए। उसके अच्छे पक्ष का रास्ता रोकने की जरूरत नहीं है। 23 सितंबर को सुरक्षा परिषद की बैठक में एआइ के दिग्गजों ने माना कि आशंकाएं बेबुनियाद नहीं हैं। योशुआ बेंजियो ने कहा- खतरे वास्तविक हैं और निकट हैं। अमोदेई ने चेतावनी दी कि अगर प्रबंधन चूका तो एआइ समूची मानवता के लिए जोखिम बन सकता है। ऑल्टमैन ने कहा कि हम भविष्य का नियंत्रण एआइ के हाथों में खो सकते हैं। दलांग ने याद दिलाया कि उनकी कंपनी (हगिंग फेस) पर बेकाबू एजेंटों ने हमला किया और बचाव भी दूसरे एआइ ने किया। ये शब्द उन लोगों के हैं जो स्वयं यह तकनीक बना रहे हैं। क्या तब भी इन्हें गंभीरता से नहीं लिया जाना चाहिए?

संयुक्त राष्ट्र या सुरक्षा परिषद के पास कठोर वैश्विक नियामक की भूमिका निभाने का विकल्प नहीं है, खासकर डॉनल्ड ट्रंप की साफ असहमति के मद्देनजर। वह इस मुद्दे पर कोई बाध्यकारी प्रस्ताव नहीं ला सकती क्योंकि अमरीका के पास वीटो है। गैर-बाध्यकारी कदम जरूर उठाए जा सकते हैं- जैसे परिषद के अध्यक्ष आम राय से बयान जारी करें जिसमें एआइ से जुड़े खतरों को अंतरराष्ट्रीय शांति और सुरक्षा का विषय माना जाए। सदस्य देशों के बीच सूचनाएं साझा करने और एआइ कंपनियों द्वारा ऐसे मामलों में अनिवार्य रूप से पारदर्शिता बरतने जैसे प्रावधान लाए जा सकते हैं। एआइ-सुरक्षा के मानक भी तय किए जा सकते हैं। संयुक्त राष्ट्र महासचिव या सुरक्षा परिषद के अध्यक्ष की तरफ से एआइ के मुद्दों पर नियमित ब्रीफिंग हो तो संबंधित पक्षों पर दबाव बनेगा। फिर भी, सुरक्षा परिषद के पास मौजूद ज्यादातर विकल्प फिलहाल गैर-बाध्यकारी ही हैं।समय हाथ से निकल रहा है। हमें उस दिन का इंतजार नहीं करना चाहिए जब एआइ कुछ बड़ा कांड कर बैठे। जलवायु परिवर्तन, महामारियों के संकट और परमाणु हथियारों के बाद बेकाबू एआइ की आशंका दुनिया के सामने चौथा बड़ा सवालिया निशान खड़ा कर चुकी है। अंतर केवल इतना है कि इस बार घड़ी की सुइयां ज्यादा तेज चल रही हैं।

(लेखक वरिष्ठ सूचना प्रौद्योगिकी विशेषज्ञ हैं)