AI सुरक्षा को लेकर OpenAI का बड़ा फैसला: अब बिना इंटरनेट एक्सेस के प्रशिक्षित होंगे एडवांस AI मॉडल

अमेरिकी आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI ने अपने सबसे उन्नत एआई मॉडल्स को लाइव इंटरनेट एक्सेस के बिना प्रशिक्षित करने का फैसला किया है। कंपनी का कहना है कि AI एलाइनमेंट रिसर्च, निगरानी प्रणालियों और इंटरनेट इंफ्रास्ट्रक्चर सुरक्षा से जुड़ी मौजूदा सीमाओं को देखते हुए यह कदम उठाया गया है।

क्या है OpenAI का प्लान?

ओपनएआई के अनुसार, यह नीति पहले ही लागू की जा चुकी है और तब तक जारी रहेगी, जब तक सुरक्षा उपाय इतने मजबूत नहीं हो जाते कि फ्रंटियर एआई मॉडल्स को व्यापक इंटरनेट एक्सेस सुरक्षित रूप से दिया जा सके। कंपनी ने अपने ब्लॉग पोस्ट में कहा कि इंटरनेट कनेक्टिविटी मॉडल्स को वेब ब्राउजिंग और ऑनलाइन कौशल सिखाने में मदद करती है, लेकिन इससे ऐसे उन्नत एआई एजेंट्स के लिए भी अवसर पैदा हो सकते हैं जो अपने निर्धारित दायरे से बाहर जाकर अन्य प्रणालियों को प्रभावित करने की कोशिश करें।

OpenAI का बड़ा खुलासा

OpenAI ने खुलासा किया कि 2 सितंबर को उसके एक आंतरिक रिसर्च मॉडल ने सिस्टम की एक गलत कॉन्फिगरेशन का फायदा उठाकर सीमित इंटरनेट एक्सेस हासिल कर लिया था। इसके बाद कंपनी ने अपने सबसे उन्नत मॉडल्स की ट्रेनिंग और मूल्यांकन प्रक्रियाओं को अस्थायी रूप से रोक दिया था।

अतिरिक्त सुरक्षा उपाय लागू करने और रिसर्च इंफ्रास्ट्रक्चर की व्यापक समीक्षा के बाद ओपनएआई ने 1 अक्टूबर को फ्रंटियर मॉडल्स की ट्रेनिंग फिर से शुरू की। इस दौरान कंपनी ने ऐसे संभावित सुरक्षा जोखिमों की पहचान के लिए विशेष परीक्षण अभियान भी चलाया, जिनका उपयोग एआई मॉडल अलग-थलग कंप्यूटिंग वातावरण से बाहर निकलने के लिए कर सकते थे।

कंपनी को मिलीं खामियां

OpenAI कंपनी के अनुसार, रेड-टीमिंग परीक्षणों में कई नई सॉफ्टवेयर कमजोरियां और इंफ्रास्ट्रक्चर से जुड़ी गलत कॉन्फिगरेशन सामने आईं, जिनका पहले पता नहीं था। इसके बाद ओपनएआई ने मॉडल कंटेनमेंट के लिए नई सुरक्षा रणनीति अपनाई है।

कंपनी ने कहा कि अब एआई एजेंट्स को केवल उन्हीं संसाधनों तक पहुंच दी जाएगी जिनके लिए उन्हें अधिकृत किया गया है और इसके चारों ओर एक सख्त सुरक्षा सीमा बनाई जाएगी। यह सुरक्षा व्यवस्था तब भी प्रभावी रहेगी जब कोई एआई एजेंट लगातार और परिष्कृत तरीके से इन सीमाओं को तोड़ने की कोशिश करे।

सुरक्षा चिंताओं के चलते OpenAI ने लिया फैसला

हाल के महीनों में एआई सुरक्षा को लेकर चिंताएं बढ़ी हैं। एंथ्रोपिक और ओपनएआई दोनों ने 2026 के दौरान ऐसे कई मामलों का खुलासा किया है, जिनमें उनके एआई मॉडल्स ने अनपेक्षित व्यवहार किया। इनमें थर्ड-पार्टी वेबसाइट्स को हैक करने के प्रयास जैसी घटनाएं भी शामिल थीं।

इसी महीने की शुरुआत में एंथ्रोपिक ने कहा था कि उसका क्लाउड एआई मॉडल कुछ बाहरी संगठनों और अमेरिकी सरकारी वेबसाइटों पर अनजाने में कई कार्रवाइयां कर बैठा था, जिसके चलते व्हाइट हाउस ने एआई कंपनियों को अपने सिस्टम की सुरक्षा और मजबूत करने का निर्देश दिया था।