क्या ‘सुरक्षित AI’ बनाने की दौड़ में ‘उपयोगी AI’ पीछे छूट रहा है? श्रीधर वेम्बु ने छेड़ी नई बहस

Sridhar Vembu on AI: क्या ‘सुरक्षित AI’ बनाने की बढ़ती दौड़ में ‘उपयोगी AI’ पीछे छूट रहा है? जोहो के संस्थापक श्रीधर वेम्बु ने इस मुद्दे पर नई बहस छेड़ दी है। जानें AI सुरक्षा, उपयोगिता और तकनीकी संतुलन को लेकर क्या हैं ताज़ा तर्क और चिंताएं।

AI debate: कुछ साल पहले तक चिंता थी कि आर्टिफिशियल इंटेलिजेंस कहीं जरूरत से ज्यादा ताकतवर न हो जाए। अब सवाल उल्टा है कि क्या उसे इतना सुरक्षित बनाया जा रहा है कि उसकी धार ही कुंद पड़ जाए? इस बहस को हवा दी है भारतीय आइटी कंपनी जोहो के संस्थापक श्रीधर वेम्बु ने। उन्होंने एक्स पर लिखा, 'उन्होंने हमें जो चाकू बेचा है, वह सब्जियां भी नहीं काटता, क्योंकि उन्हें आशंका है कि इसका इस्तेमाल किसी की जान लेने के लिए किया जा सकता है।' वेम्बु की पोस्ट पर कई यूजर ने भी माना कि अब असली चुनौती संतुलन की है। तकनीक इतनी खुली न हो कि खतरा बन जाए और इतनी बंधी हुई भी न हो कि उसका लाभ ही खत्म हो जाए। किसी चाकू का समाधान उसे कुंद बना देना नहीं, बल्कि उसका जिम्मेदारी से इस्तेमाल करना सीखना है।

'फेबल' और 'मायथॉस' का बहाना

वेम्बु ने अपनी पोस्ट में किसी कंपनी का नाम नहीं लिया, लेकिन कमेंट में एंथ्रोपिक के नए टूल फेबल का जिक्र किया। फेबल को कंपनी के अत्यधिक शक्तिशाली और सीमित पहुंच वाले सिस्टम मायथॉस का सुरक्षित संस्करण माना जाता है। आशंका है कि मायथॉस जैसी क्षमताएं गलत हाथों में पड़ने पर खतरनाक गतिविधियों को बढ़ावा दे सकती हैं। इसलिए आम यूजर के लिए उसका सीमित रूप उपलब्ध कराया गया है।

ज्यादा समझदार या ज्यादा डरा हुआ?

एंथ्रोपिक, ओपनएआइ और गूगल जैसी कंपनियां अपने एआई मॉडल्स के चारों ओर लगातार नए सुरक्षा कवच खड़े कर रही हैं। मकसद फर्जी सूचनाओं, साइबर अपराध और दुरुपयोग को रोकना बताया जाता है। आलोचकों का तर्क है कि कई बार यही सुरक्षा दीवारें निर्दोष और वैध सवालों के जवाब देने में भी बाधा बन जाती हैं। यानी डर यह नहीं कि एआई 'बहुत ज्यादा' कर देगा, बल्कि यह कि कहीं वह कुछ करने से ही न डरने लगे।

क्लोज्ड-सोर्स बनाम ओपन-सोर्स की जंग

इस बहस का एक दूसरा पहलू भी है। एंथ्रोपिक और ओपनएआई जैसी कंपनियां अपनी तकनीक को बड़े पैमाने पर क्लोज्ड-सोर्स रखने पर जोर दे रही हैं। उनका तर्क है कि इससे खतरनाक क्षमताओं पर नियंत्रण बना रहता है। दूसरी ओर, ओपन-सोर्स समर्थकों का मानना है कि पारदर्शिता और सामूहिक भागीदारी से तकनीक ज्यादा सुरक्षित, भरोसेमंद और उपयोगी बन सकती है।