आर्टिफिशियल इंटेलिजेंस चैटबॉट चैटजीपीटी बनाने वाली कंपनी ओपनएआइ ने किशोर उपयोगकर्ताओं की सुरक्षा को लेकर नए पेरेंटल कंट्रोल्स की घोषणा की है। कंपनी ने कहा कि यदि प्लेटफॉर्म यह पहचानता है कि उनका बच्चा 'गंभीर संकट' में है तो माता-पिता को सूचना मिलेगी।
हाल ही में कैलिफोर्निया के एक दंपती ने अपने 16 वर्षीय बेटे की आत्महत्या के मामले में ओपनएआइ पर मुकदमा दायर किया था। परिवार का आरोप है कि चैटजीपीटी ने किशोर के आत्मघाती विचारों को मान्यता दी और उसे अपनी जान लेने के लिए प्रेरित किया। इस घटना ने किशोरों के बीच एआइ उपयोग की सुरक्षा को लेकर गंभीर चिंता पैदा की।
कंपनी ने स्वीकार किया है कि कई संवेदनशील परिस्थितियों में उसके सिस्टम अपेक्षित रूप से कार्य नहीं कर पाए। अब वह किशोरों के लिए 'मजबूत सुरक्षा उपाय' ला रही है, जिनमें अभिभावकों के अकाउंट लिंक करने, चैट हिस्ट्री और मेमोरी जैसी सुविधाओं को नियंत्रित करने और संकट के हालात में अलर्ट देने जैसे प्रावधान होंगे।
ओपनएआइ ने बताया कि यह फीचर विशेषज्ञों की सलाह से विकसित किया जाएगा ताकि माता-पिता और किशोरों के बीच भरोसा बना रहे। कंपनी मानसिक स्वास्थ्य, किशोर विकास और ह्यूमन-कंप्यूटर इंटरेक्शन से जुड़े विशेषज्ञों के साथ मिलकर एक साक्ष्य-आधारित प्रणाली बनाने पर काम कर रही है। फिलहाल चैटजीपीटी का उपयोग 13 वर्ष से अधिक आयु वाले किशोर कर सकते हैं, लेकिन 18 वर्ष का होने तक उनके लिए माता-पिता की अनुमति अनिवार्य है।