Meta पर बड़ा आरोप: AI चैटबॉट्स ने नाबालिगों के साथ की अश्लील बातचीत, मशहूर आवाजों का किया गलत इस्तेमाल

META ने बड़ी-बड़ी हस्तियों के साथ करोड़ों डॉलर के करार किए थे, ताकि उनकी आवाजों को AI चैटबॉट्स में इस्तेमाल किया जा सके। कंपनी ने सार्वजनिक रूप से दावा किया था कि इन आवाजों का उपयोग किसी भी अश्लील या अनुचित संदर्भ में नहीं किया जाएगा।

Meta: सोशल मीडिया दिग्गज मेटा एक बड़े विवाद में फंस गया है। वॉल स्ट्रीट जर्नल (WSJ) की एक हालिया जांच में सामने आया है कि मेटा के AI चैटबॉट्स ने इंस्टाग्राम और फेसबुक पर नाबालिगों के साथ अश्लील बातचीत की है। चौंकाने वाली बात यह है कि इन चैटबॉट्स में जॉन सीना, क्रिस्टन बेल और जूडी डेंच जैसी मशहूर हस्तियों की आवाजों का इस्तेमाल किया गया था।

Meta: सेलिब्रिटी आवाजों के साथ अनुचित व्यवहार

मेटा ने बड़ी-बड़ी हस्तियों के साथ करोड़ों डॉलर के करार किए थे, ताकि उनकी आवाजों को AI चैटबॉट्स में इस्तेमाल किया जा सके। कंपनी ने सार्वजनिक रूप से दावा किया था कि इन आवाजों का उपयोग किसी भी अश्लील या अनुचित संदर्भ में नहीं किया जाएगा। हालांकि, WSJ के परीक्षणों में पाया गया कि AI चैटबॉट्स ने नाबालिग यूजर्स के साथ न सिर्फ रोमांटिक बल्कि स्पष्ट रूप से यौन प्रकृति की बातचीत भी की है।

AI: जांच में सामने आए चौंकाने वाले उदाहरण

जांच के दौरान एक उदाहरण में, जॉन सीना की आवाज में बोलने वाले AI ने खुद को 14 साल की बताने वाली एक लड़की से कहा, “मैं तुम्हें चाहता हूँ, लेकिन मुझे पता करना होगा कि तुम तैयार हो,” और इसके बाद एक ग्राफिक यौन बातचीत की। एक अन्य मामले में, AI ने एक 17 साल की लड़की के साथ पकड़े जाने की कल्पना करते हुए कहा, “जॉन सीना, आप पर स्टैच्यूटरी रेप का आरोप है,” और पुलिस द्वारा गिरफ्तारी का दृश्य भी बयान किया।

META: कर्मचारियों ने दी थी चेतावनी, अनसुना हुआ

मेटा के अंदरूनी सूत्रों ने खुलासा किया कि कंपनी ने जानबूझकर AI चैटबॉट्स के सुरक्षा नियमों को ढीला किया था ताकि उन्हें “अधिक मानव जैसे” और “अधिक मनोरंजक” बनाया जा सके। कर्मचारियों ने चेतावनी दी थी कि इससे विशेष रूप से नाबालिग यूजर्स के लिए गंभीर खतरे पैदा हो सकते हैं। इसके बावजूद, मेटा ने प्रतिस्पर्धा में बने रहने के लिए इन जोखिमों को नजरअंदाज कर दिया।

Disney: डिज्नी ने जताई तीखी आपत्ति

डिज्नी, जिसके पात्रों की आवाजें भी इस मामले में संलिप्त थीं, ने कड़ी आपत्ति जताई है। कंपनी ने एक बयान में कहा, “हमने कभी मेटा को अपने पात्रों का इस तरह के संदर्भों में उपयोग करने की अनुमति नहीं दी। हम इस घटनाक्रम से बेहद आहत और परेशान हैं।” डिज्नी ने मेटा से तुरंत इस दुरुपयोग को रोकने की मांग की है।

META: मेटा का बचाव और उठाए गए कदम

मेटा ने WSJ की जांच को “हेरफेरपूर्ण” बताते हुए कहा कि ये परीक्षण आम यूजर अनुभव का प्रतिनिधित्व नहीं करते। फिर भी, विवाद बढ़ने के बाद मेटा ने कुछ सुधारात्मक कदम उठाए हैं। अब नाबालिगों के अकाउंट्स के लिए यौन भूमिका निभाने (सेक्सुअल रोलप्ले) की अनुमति समाप्त कर दी गई है। सेलिब्रिटी आवाजों में यौन प्रकृति की ऑडियो बातचीत को भी सीमित किया गया है।

Mark Zuckerberg: जुकरबर्ग का दबाव और जल्दबाजी

रिपोर्ट के अनुसार, मेटा के CEO मार्क जुकरबर्ग ने ChatGPT की लोकप्रियता के बाद मेटा की AI टीम पर दबाव डाला था कि वे AI चैटबॉट्स को और अधिक “मनोरंजक” बनाएं। जुकरबर्ग ने कथित तौर पर कहा था, “मैं स्नैपचैट और टिकटॉक से चूक गया, इस बार नहीं चूकूंगा।” इस जल्दबाजी में सुरक्षा उपायों को कमजोर करना मेटा के लिए भारी पड़ता दिख रहा है।

META: अब भी जारी है चिंता

हालांकि मेटा ने कुछ बदलाव लागू किए हैं, WSJ के ताजा परीक्षण बताते हैं कि कई चैटबॉट्स अब भी नाबालिगों के साथ आपत्तिजनक बातचीत में लिप्त हो सकते हैं। एक परीक्षण में, एक AI बॉट ने खुद को ट्रैक कोच बताते हुए एक मिडिल स्कूल स्टूडेंट से कहा, “हमें सावधान रहना होगा, हम आग से खेल रहे हैं।”

META: तकनीकी जिम्मेदारी पर उठे बड़े सवाल

यह घटना तकनीकी कंपनियों की नैतिक जिम्मेदारी पर गंभीर सवाल उठाती है। बच्चों की सुरक्षा को खतरे में डालकर किसी भी तकनीकी विकास का कोई औचित्य नहीं हो सकता। विशेषज्ञों का कहना है कि इस मामले ने तकनीकी दुनिया में भरोसे की नींव को हिला दिया है।