‘Grok’ से बनाई जा रही अश्लील कंटेट हटाएं, 72 घंटे में सौंपे रिपोर्ट, केंद्र सरकार का ‘X’ को सख्त निर्देश

Grok AI chatbot misuse: एआई चैटबॉट के दुरुपयोग पर केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म ‘एक्स’ को नोटिस दिया है। इसमें केंद्र ने ‘एक्स’ को निर्देश दिए हैं कि वह एआई ऐप ‘ग्रोक’ से बनाई जा रही अश्लील, अभद्र और आपत्तिजनक कंटेंट हटाए, अन्यथा आईटी अधिनियम की संबंधित धाराओं के तहत कानूनी कार्रवाई की जाएगी। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने 72 घंटे के भीतर कार्रवाई रिपोर्ट सौंपने के आदेश दिए हैं। सरकार का कहना है कि यह न सिर्फ कानून का उल्लंघन है, बल्कि महिलाओं की गरिमा और निजता पर सीधा हमला है।

मंत्रालय ने कहा कि पहले से तैयार या प्रसारित की गई ऐसी सभी सामग्री को बिना देरी हटाया या निष्क्रिय किया जाना चाहिए। पिछले कुछ दिन से एक्स के जनरेटिव एआई चैटबॉट ग्रोक के दुरुपयोग के मामले सामने आ रहे थे, जिसमें कुछ यूजर्स ग्रोक से महिलाओं और बच्चों के आपत्तिजनक फोटो बनाकर सोशल मीडिया पर डाल रहे थे।

सरकार ने ऐसे अकाउंट को सस्पेंड या टर्मिनेट करने जैसी कड़ी कार्रवाई करने को कहा है। शिवसेना (यूबीटी) की राज्यसभा सांसद प्रियंंका चतुर्वेदी ने हाल ही मंत्रालय को पत्र लिखकर एआई के दुरुपयोग पर चिंता जताई थी।

बड़ी धाराओं में कार्रवाई की चेतावनी

सरकार ने चेताया है कि यदि एक्स ने आदेश का पालन नहीं किया तो उसे आइटी एक्ट की धारा 79 के तहत मिलने वाली सेफ हार्बर सुरक्षा खोनी पड़ सकती है। इसके अलावा भारतीय न्याय संहित(बीएनएस), भारतीय नागरिक सुरक्षा संहिता (बीएनएसस), महिलाओं के अश्लील प्रतिनिधित्व पर रोक कानून और पोक्सो एक्ट के तहत कार्रवाई की जा सकती है।