Gemini पर हत्या की प्लानिंग का आरोप! क्या AI पर भरोसा करना अब जोखिम भरा है? यूजर्स इन बातों का रखें ध्यान

Gemini : क्या कोई एआई चैटबोट किसी व्यक्ति को हत्या (Is AI planning muder) की योजना बनाने में मदद कर सकता है? बेंगलूरु ट्रिपल मर्डर केस के सामने आने के बाद यह सवाल चर्चा का विषय बन गया है। पुलिस का दावा है कि मुख्य आरोपी ने कई महीनों तक Google Gemini से हत्या, सबूत मिटाने और शवों को ठिकाने लगाने जैसे विषयों पर सवाल पूछे। इसके बाद एक नई बहस शुरू हो गई कि क्या एआई अब अपराधियों का नया हथियार बन सकता है?

क्या है बेंगलूरु ट्रिपल मर्डर केस? (Bengaluru Triple Murder Case)

बेंगलूरु के के आर पुरम इलाके में जून 2026 में एक ही परिवार के तीन लोगों की हत्या कर दी गई। जांच में पुलिस ने दावा किया कि मुख्य आरोपी ने लगभग छह महीने तक एआई चैटबोट से अलग-अलग तरह के सवाल पूछकर अपनी योजना तैयार की। पुलिस के अनुसार आरोपी ने हत्या के तरीके, खून के निशान साफ करने, शवों को पैक करने और उन्हें ठिकाने लगाने जैसे विषयों पर एआई से जानकारी मांगी थी। पुलिस ने इस मामले में संबंधित एआई कंपनी से चैट हिस्ट्री भी मांगी है, ताकि डिजिटल सबूत जुटाए जा सकें।

क्या AI वास्तव में अपराध की योजना बना सकता है?

इस सवाल का सीधा जवाब है नहीं। एआई अपने आप कोई योजना नहीं बनाता, न किसी को अपराध करने के लिए मजबूर करता है। वह केवल यूजर के सवालों के आधार पर जवाब तैयार करता है। उसके पास न अपनी इच्छा होती है और न ही कोई नैतिक फैसला लेने की क्षमता।

तकनीकी विशेषज्ञों के अनुसार,

• अपराध की योजना इंसान बनाता है।
• एआई केवल जानकारी देने वाला टूल है।
• यदि यूजर लगातार अलग-अलग तरीके से सवाल पूछे, तो वह सामान्य जानकारी को गलत मकसद से इस्तेमाल कर सकता है।
• किसी भी अपराध की जिम्मेदारी एआई की नहीं बल्कि अपराध करने वाले व्यक्ति की होती है।

AI कंपनियां ऐसे सवालों को कैसे रोकती हैं?

OpenAI, Google, Anthropic, Microsoft जैसी लगभग सभी प्रमुख एआई कंपनियां अपने मॉडल में सुरक्षा फिल्टर लगाती हैं।

इनका उद्देश्य है कि एआई...

• हत्या, आत्महत्या या हिंसा के तरीके न बताएं।
• बम या अन्य खतरनाक हथियार बनाने की जानकारी न दें।
• साइबर अपराध, धोखाधड़ी या अवैध गतिविधियों में मदद न करें।
• बच्चों के शोषण और अन्य अवैध सामग्री से जुडे सवालों का जवाब न दें।

कई बार ऐसे सवाल पूछने पर एआई सीधे जवाब देने के बजाय सुरक्षा, कानून और वैकल्पिक मदद की जानकारी देता है।

क्या AI को छलकर सुरक्षा फिल्टर पार किए जा सकते हैं?

यही सबसे अहम सवाल है। साइबर सुरक्षा विशेषज्ञ बताते हैं कि कुछ लोग एआई को सीधे सवाल पूछने के बजाय काल्पनिक कहानी, रिसर्च, फिल्म की स्क्रिप्ट या रोल प्ले के बहाने संवेदनशील जानकारी निकालने की कोशिश करते हैं। इसे आम भाषा में जेलब्रेकिंग या प्रॉम्पट इंजेक्शन जैसी तकनीकों से जोड़ा जाता है।

हालांकि एआई कंपनियां लगातार अपने सुरक्षा फिल्टर अपडेट करती रहती हैं, फिर भी कोई भी सिस्टम 100 प्रतिशत सुरक्षित नहीं माना जाता। यही कारण है कि सुरक्षा विशेषज्ञ लगातार बेहतर गार्डरेल विकसित करने पर काम कर रहे हैं। बेंगलूरु मामले ने भी यह सवाल खड़ा किया है कि यदि कोई व्यक्ति महीनों तक अलग-अलग तरीके से सवाल पूछे, तो क्या सुरक्षा व्यवस्था को और मजबूत बनाने की जरूरत है।

क्या केवल एआई जिम्मेदार है?

इसका उत्तर भी नहीं है। विशेषज्ञों का कहना है कि…

• एआई एक टूल है।
• इंटरनेट पर पहले से भी बहुत सी जानकारी उपलब्ध है।
• अपराध करने का फैसला इंसान का होता है।
• कानून की नजर में जिम्मेदारी आरोपी की ही होगी।

भारत में AI को लेकर कानून कहां तक पहुंचे हैं?

भारत में अभी एआई के लिए अलग से कोई व्यापक कानून लागू नहीं है, लेकिन सरकार तेजी से एआई गवर्नेंस फ्रेमवर्क तैयार कर रही है।

सरकार ने India AI Governance Guidelines जारी की हैं, जिनमें सुरक्षित, भरोसेमंद और जिम्मेदार एआई के लिए सिद्धांत तय किए गए हैं। साथ ही 2026 में एआई गवर्नेंस एंड इकोनोमिक ग्रुप का गठन भी किया गया है, जो राष्ट्रीय स्तर पर एआई नीति और समन्वय का काम करेगा।

फिलहाल एआई से जुड़े कई मामलों में,

• सूचना प्रौद्योगिकी अधिनियम
• डिजिटल पर्सनल डाटा प्रोटेक्शन एक्ट 2023
• भारतीय न्याय संहिता
• उपभोक्ता संरक्षण कानून

जैसे मौजूदा कानूनों का इस्तेमाल किया जा सकता है।

आम यूजर किन बातों का ध्यान रखें?

• एआई की हर जानकारी को अंतिम सत्य न मानें।
• संवेदनशील जानकारी या पासवर्ड कभी साझा न करें।
• कानूनी या चिकित्सा सलाह के लिए केवल एआई पर निर्भर न रहें।
• किसी भी संदिग्ध या हिंसक सलाह को नजरअंदाज करें।
• एआई से मिली जानकारी को विश्वसनीय स्रोतों से जरूर जांचें।
• बच्चों को एआई का सुरक्षित उपयोग सिखाएं।
• गलत या खतरनाक जवाब मिलने पर संबंधित प्लेटफॉर्म पर रिपोर्ट करें।

क्या AI पर भरोसा करना अब जोखिम भरा है?

बेंगलूरु ट्रिपल मर्डर केस ने यह सोचने पर मजबूर जरूर किया है कि नई तकनीक का दुरुपयोग संभव है, लेकिन इसका मतलब यह नहीं कि एआई अपने आप अपराधी बन गया है या हर एआई चैटबोट खतरनाक है।

जैसे इंटरनेट, मोबाइल या सोशल मीडिया का इस्तेमाल अच्छे और बुरे दोनों कामों में हो सकता है, वैसे ही एआई भी एक तकनीक है। असली चुनौती एआई का उपयोग करने वाले व्यक्ति की नीयत, कंपनियों की सुरक्षा व्यवस्था और सरकार की नियामक प्रणाली है।