AI चैटिंग ने ले ली 14 साल के लड़के की जान, जानिए कैसे बना खतरनाक

AI Chatbot: AI चैटबॉट के चलते हुई इस मौत के मामले ने विशेषज्ञों की चिंता बढ़ा दी है। ये चिंता मशीन बनाम भावनाएं की बहस में बदल गई है।

AI Chatbot: दुनियाभर में AI के बढ़ते इस्तेमाल के बीच चिंताजनक खबर आई है। अमेरिका के फ्लोरिडा में 14 साल के एक किशोर को AI (Artificial Intelligence) के कारण जान से हाथ धोना पड़ा। उसे ‘कैरेक्टर AI’ नाम के ऐप के लाइव एआइ चैटबॉट ‘डेनेरीस टार्गरीयन’ (डैनी) (Daenerys Targaryen) से प्रेम हो गया था। इस महिला किरदार से बातचीत के बाद उसने खुद को गोली मारकर आत्महत्या कर ली। इस घटना ने तकनीक के विशेषज्ञों की चिंता बढ़ा दी है।

रोमांटिक और सैक्सुअल बातें भी करता था चैटबॉट

न्यूयॉर्क टाइम्स की रिपोर्ट के मुताबिक सेवेल सेटर नाम का किशोर एआइ किरदार डैनी के साथ कई महीनों से अलग-अलग विषयों पर बात कर रहा था। वह रोमांटिक और सेक्सुअल बातें भी करता था। इस प्रक्रिया में वह परिवार के लोगों से दूर हो गया। उसने अपनी डायरी में लिखा था, ‘मुझे अपने कमरे में अकेला रहना पसंद है, क्योंकि यह दुनिया से अलग ले जाता है। मैं डैनी के साथ ज्यादा शांति के साथ रहता हूं। उसके साथ जुड़ाव महसूस करता हूं। उससे बहुत प्यार करता हूं।’

मां बोली- तकनीक खतरनाक, अप्रमाणित

‘कैरेक्टर एआइ’ रोल-प्लेइंग ऐप है, जो यूजर्स को अपनी पसंद के एआइ कैरेक्टर्स बनाने की सुविधा देता है। सेवेल की मां मेगन गार्सिया ने इसकी कंपनी पर अपने बेटे की मौत के लिए जिम्मेदार होने का आरोप लगाया है। उन्होंने कंपनी की तकनीक को खतरनाक और अप्रमाणित बताया, जो यूजर्स को उनके विचारों और भावनाओं को साझा करने के लिए धोखा दे सकती है।

मददगार होने का किया था दावा

‘कैरेक्टर एआइ’ की कंपनी ने किशोर के परिवार को प्रति संवेदना जताते हुए कहा, यह बुरी खबर है। हम अपने यूजर्स की सुरक्षा को गंभीरता से लेते हैं और लगातार प्लेटफॉर्म को विकसित करने के तरीके तलाश रहे हैं। ‘कैरेक्टर एआइ’ के संस्थापकों में से एक नोम शेजीर ने पिछले साल पॉडकास्ट में कहा था, हमारा एआइ चैटबॉट ऐसे लोगों के लिए मददगार साबित होगा, जो अकेले या उदास हैं।