6 अगस्त 2026,
गुरुवार
6 अगस्त 2026,
गुरुवार
Mandatory AI Content Labeling : AI से बने वीडियो-ऑडियो पर अब अनिवार्य लेबल, सोशल मीडिया प्लेटफॉर्म के लिए नए नियम लागू (फोटो सोर्स: AI@Gemini)
Mandatory AI Content Labeling: सोशल मीडिया पर रातों-रात किसी का चेहरा बदलकर फर्जी वीडियो वायरल कर देना या एआई (AI) की मदद से किसी की झूठी आवाज बनाकर साइबर ठगी को अंजाम देना… अब ऐसा करने वालों और इसे अपने प्लेटफॉर्म पर पनाह देने वाली कंपनियों की खैर नहीं है। केंद्र सरकार ने कृत्रिम बुद्धिमत्ता यानी आर्टिफिशियल इंटेलिजेंस के दुरुपयोग को रोकने और डीपफेक के खतरे से आम नागरिकों को बचाने के लिए सूचना प्रौद्योगिकी (IT) नियमों में ऐतिहासिक और कड़े बदलाव लागू कर दिए हैं।
सरकार का साफ संदेश है: डिजिटल स्पेस में फर्जीवाड़ा नहीं चलेगा। अगर सोशल मीडिया कंपनियों पर फर्जी या गैर-कानूनी एआई कंटेंट रिपोर्ट होता है, तो उन्हें इसे हटाने के लिए अब दिनों या घंटों तक सोचने का मौका नहीं मिलेगा। कंटेंट हटाने की समय-सीमा को 36 घंटे से सीधे घटाकर मात्र 3 घंटे कर दिया गया है!
नए नियमों के मुताबिक, सिर्फ कंटेंट हटाना ही काफी नहीं होगा। फेसबुक, इंस्टाग्राम, एक्स (ट्विटर), यूट्यूब और व्हाट्सएप जैसे सभी प्रमुख डिजिटल प्लेटफॉर्म्स के लिए यह अनिवार्य कर दिया गया है कि वे एआई या सिंथेटिक तरीके से बनाए गए हर कंटेंट पर स्पष्ट और पारदर्शी 'एआई लेबल' (Label) लगाएं।
इसके साथ ही, कंटेंट में ट्रेसेबल मेटाडेटा (Traceable Metadata) शामिल करना होगा। इसका मतलब यह है कि अगर कोई फोटो, वीडियो, ऑडियो या टेक्स्ट मैसेज एआई से जनरेट किया गया है, तो यूजर को देखते या सुनते ही तुरंत पता चल जाएगा कि यह असली नहीं बल्कि मशीनी रूप से तैयार किया गया 'सिंथेटिक मटेरियल' है। कंपनियों को यह भी सुनिश्चित करना होगा कि इस मेटाडेटा या लेबल को कोई यूजर हटा न सके।
अब तक किसी आपत्तिजनक कंटेंट की सरकारी या अदालती शिकायत मिलने के बाद कंपनियों को उसे हटाने के लिए 36 घंटे का वक्त मिलता था। लेकिन डीपफेक की तेजी से बढ़ती संवेदनशीलता और मिनटों में वायरल होने की क्षमता को देखते हुए सरकार ने इस मोहलत को खत्म कर दिया है।
नया कड़ा नियम: सरकारी अथॉरिटी या अदालत से वैध नोटिस/आदेश मिलते ही 3 घंटे के भीतर आपत्तिजनक एआई कंटेंट को हर हाल में टेकडाउन (हटाना) होगा। यदि कंपनियां इस समय-सीमा का पालन करने में विफल रहती हैं, तो वे आईटी एक्ट की धारा 79 के तहत मिलने वाले 'सेफ हार्बर' (Safe Harbour Protection) कानूनी कवच को खो देंगी और उन पर सीधे आपराधिक मामला दर्ज हो सकेगा।
सरकार ने स्पष्ट किया है कि तकनीक का इस्तेमाल रचनात्मकता के लिए हो सकता है, लेकिन अपराध के लिए नहीं। निम्नलिखित श्रेणियों में आने वाले एआई कंटेंट पर जीरो टॉलरेंस की नीति लागू होगी:
डीपफेक और फर्जी प्रोफाइल: किसी जनप्रतिनिधि, सेलिब्रिटी या आम व्यक्ति का फर्जी चेहरा/आवाज बनाकर की जाने वाली धोखाधड़ी।
बाल यौन शोषण सामग्री (CSAM) व अश्लीलता: बच्चों से जुड़ा किसी भी प्रकार का आपत्तिजनक या यौन शोषक एआई कंटेंट।
बिना सहमति के अंतरंग तस्वीरें: किसी भी व्यक्ति की निजता का हनन करने वाली फर्जी तस्वीरें या वीडियो।
भड़काऊ और भ्रामक सामग्री: समाज में हिंसा, फर्जी खबरें या राष्ट्रीय सुरक्षा को खतरे में डालने वाले सिंथेटिक ऑडियो/वीडियो।
केवल शिकायतों का इंतजार करने के बजाय, 'सिग्निफिकेंट सोशल मीडिया इंटरमीडियरीज' (बड़ी सोशल मीडिया कंपनियों) को अपने सिस्टम में ऐसे स्वचालित तकनीकी उपकरण (Automated Detection Tools) लगाने होंगे जो बलात्कार, यौन हिंसा या बाल यौन शोषण से जुड़े कंटेंट को अपलोड होते ही पहचान लें और रोकें। इसके अलावा, एक बार हटाए गए कंटेंट को दोबारा अपलोड होने से रोकने की जिम्मेदारी भी प्लेटफॉर्म्स की ही होगी।
गौरतलब है कि भारत सरकार न केवल कानून सख्त कर रही है, बल्कि स्वदेशी तकनीक को भी बढ़ावा दे रही है। केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) के 'इंडिया-एआई मिशन' (IndiaAI Mission) के तहत डीपफेक की पहचान करने और एआई गवर्नेंस को मजबूत करने के लिए 13 विशेष प्रोजेक्ट्स को मंजूरी दी गई है। इसके तहत भारतीय भाषाओं में डीपफेक डिटेक्शन टूल विकसित किए जा रहे हैं, ताकि आम जनता भी आसानी से फर्जी ऑडियो-वीडियो की पहचान कर सके।
सरकार ने सोशल मीडिया प्लेटफॉर्म्स को यह निर्देश भी दिया है कि वे अपने यूजर्स को समय-समय पर एआई के दुरुपयोग के कानूनी परिणामों (Legal Consequences) से अवगत कराएं। यदि कोई यूजर फर्जी पहचान बनाने, ठगी करने या किसी को बदनाम करने के लिए एआई टूल्स का इस्तेमाल करता है, तो उसे भारतीय न्याय संहिता (BNS) और आईटी एक्ट की सख्त धाराओं के तहत जेल की हवा खानी पड़ सकती है।
