इस तरह के चेहरे बनाने में उपयोग किया जाने वाला सॉफ्टवेयर आसानी से प्लेस्टोर (play store) और ऑनलाइन उपलब्ध है और इसकी तकनीक में तेजी से सुधार भी हो रहा है। यही वजह है कि हाल ही दौड़ में उतरे एआई स्टार्टअप भी आसानी से फेक चेहरे बनाने में सक्षम हैं। ये सॉफ्टवेयर वास्तविक चेहरों के एक विशाल डेटाबेस को कृत्रिम बुद्धिमत्ता के जरिए नए चेहरे और सभी जरूरी फीचर्स हूबहू बनाने के लिए प्रशिक्षित करते हैं।
लेकिन एआई विशेषज्ञों की सबसे बड़ी चिंता यह है कि ऐसे फेक चेहरे स्कैमर्स, बॉट्स और जासूसों की एक नई पीढ़ी को जन्म देंगे जो इन तस्वीरों का इस्तेमाल कर काफी नुकसान पहुंचा सकते हैं। तथ्य यह है कि इस तरह के सॉफ्टवेयर अब एक बिजनेस मॉडल बन गए हैं। इसका उदाहरण है इंटरनेट पर मौजूद deep fake वीडियो और अन्य भ्रामक तकनीकों का इस्तेमाल कर घृणा, युद्ध के हालात और वैश्विक तनाव पैदा करने में भी सक्षम हैं। साथ ही यह ऑनलाइन सामग्री को भी विश्वासघात का मुखौटा लगा रहा है।
सबसे बड़ी समस्या है कि इन तस्वीरों की पहचान करने के लिए कोई सटीक पैमाना नहीं है।
-1 लाख फोटो चुने जाते हैं इसमें से websites के ज़रिये
-10 हजार फोटो एक महीने में ले सकता है क्लाइंट एक महीने में 100 डॉलर मासिक के शुल्क पर
-2000 से ज्यादा क्लाइंट पंजीकृत हैं कंपनी के वेबसाइट पर