कंटेट को AI ने लिखा या इंसान ने? आसानी से होगी इसकी पहचान, ChatGPT टेक्स्ट में लगाएगा इनविजिबल वॉटरमार्क

OpenAI आने वाले दिनों में यूरोपियन यूनियन (EU) में ChatGPT और Codex से बने टेक्स्ट में वॉटरमार्क जोड़ना शुरू करेगा। यह कदम EU AI एक्ट के तहत उठाया जा रहा है। जिसके अनुसार AI से बने कंटेंट की पहचान आसानी से हो जानी चाहिए।

कैसे लागू होगा नियम?

शुरुआत में, वॉटरमार्क सिर्फ EU में सभी प्लान वाले ChatGPT और Codex यूजर्स के लिए लागू होंगे। दुनिया भर में OpenAI के API का इस्तेमाल करने वाले डेवलपर्स कुछ मॉडल्स के लिए वॉटरमार्किंग चालू करने का विकल्प चुन सकते हैं, लेकिन जब तक वे इसके लिए नहीं कहेंगे, तब तक यह बंद रहेगा। इस टूल का नाम textGrain है। यह AI द्वारा चुने गए शब्दों में एक हल्का सा स्टैटिस्टिकल पैटर्न छिपा देता है। इसके बाद, एक खास डिटेक्टर किसी लेख की जांच करके यह बता सकता है कि उसमें OpenAI का वॉटरमार्क है या नहीं।

Anthropic लागू कर चुका नियम

Anthropic ने भी इस साल की शुरुआत में ऐसा ही कदम उठाया था। कंपनी ने अपने AI मॉडल से तैयार टेक्स्ट में एक अदृश्य वॉटरमार्क जोड़ा था। इन कदमों से पता चलता है कि बड़ी AI कंपनियां AI कंटेंट के रूप-रंग को बदले बिना ही उस पर लेबल लगाना चाहती हैं।

textGrain कैसे काम करता है?

OpenAI का कहना है कि textGrain ने उन दूसरे तरीकों के बराबर या उनसे बेहतर काम किया, जिनका उसने टेस्ट किया था। जिसमें टेक्स्ट के लिए Google का SynthID भी शामिल है। लेकिन वह यह भी मानता है कि छोटे पैराग्राफ, बहुत कम कंटेंट और एडिट किए गए टेक्स्ट के मामले में इसका पता लगाने का तरीका उतना भरोसेमंद नहीं है।

सीमित एक्सेस पर लागू होगा नियम

शुरुआत में, सिर्फ़ अप्रूव्ड रिसर्चर और एक्सपर्ट ग्रुप ही textGrain का इस्तेमाल कर पाएंगे। OpenAI का कहना है कि इससे उन्हें आम लोगों के लिए इसे जारी करने से पहले टूल और उसके सुरक्षित इस्तेमाल को टेस्ट करने में मदद मिलेगी। डिटेक्टर सिर्फ़ यह बताएगा कि OpenAI का वॉटरमार्क मिला है या नहीं। यह न तो यूजर का नाम बताएगा और न ही कोई प्रॉम्प्ट या चैट दिखाएगा।

textGrain की सीमाएं

इंसानी योगदान को मापना: इसका मतलब है कि textGrain यह नहीं बता सकता कि AI से बने टेक्स्ट में किसी इंसान ने फैसला लेने, एडिटिंग या क्रिएटिविटी के मामले में कितना योगदान दिया है।

ओनरशिप या ज़िम्मेदारी तय करना: textGrain यह तय नहीं करता कि टेक्स्ट का मालिक कौन है, उसका इस्तेमाल कानूनी है या नहीं, क्या जानकारी जाहिर करना जरूरी है, या उसके लिए कौन जिम्मेदार है।

यूज़र की पहचान करना: डिटेक्शन टूल टेक्स्ट को किसी व्यक्ति, संगठन, अकाउंट, प्रॉम्प्ट या बातचीत से नहीं जोड़ता है।

सटीकता की जांच करना: यह नहीं बता सकता कि कोई पैसेज सच है, गुमराह करने वाला है, नुकसानदायक है या सही संदर्भ में पेश किया गया है। OpenAI ने कहा कि वॉटरमार्क न होने का मतलब यह नहीं है कि टेक्स्ट किसी इंसान ने लिखा है।

OpenAI का प्लान

OpenAI कंपनी textGrain को ओपन सोर्स के तौर पर उपलब्ध कराने की योजना बना रही है। जैसे-जैसे स्टैंडर्ड, टेक्नोलॉजी और नियम बदलेंगे, कंपनी यह जांचती रहेगी कि यह कितना अच्छा काम करता है। बता दें कि इससे पहले इसी साल अगस्त में अमेरिकी AI कंपनी Anthropic ने भी अपने AI चैटबॉट Claude के लिए एक खास तरह का वाटरमार्क पेश किया था। इसके अलावा Google ने साल 2024 में ही अपने Gemini मॉडल से बने टेक्स्ट पर SynthID सिस्टम के जरिए वॉटरमार्क लगाना शुरू कर दिया था, जो ठीक वैसे ही काम करता है, जैसे Gemini मॉडल से बनाए गए विजुअल कंटेंट पर SynthID रहती है।