ChatGPT के जवाबों पर लगेगा Invisible Watermark, EU में OpenAI का बड़ा फैसला, ऐसे होगी AI Text की पहचान

OpenAI ने ChatGPT और Codex से तैयार होने वाले टेक्स्ट की पहचान को लेकर बड़ा कदम उठाया है। कंपनी अब यूरोपीय संघ (EU) में योग्य ChatGPT और Codex आउटपुट पर Invisible Text Watermark लगाने जा रही है। यह कोई दिखाई देने वाला लोगो, निशान या अलग से लिखा हुआ टैग नहीं होगा, बल्कि टेक्स्ट में शब्दों के चयन के तरीके में एक ऐसा सांख्यिकीय पैटर्न बनाया जाएगा जिसे विशेष डिटेक्टर पहचान सकेगा।

OpenAI के मुताबिक यह कदम EU AI Act के तहत AI से तैयार किए गए कंटेंट को मशीन द्वारा पहचाने जाने योग्य बनाने की दिशा में उठाया जा रहा है। कंपनी ने इस तकनीक को textGrain नाम दिया है।

ChatGPT के टेक्स्ट में कैसे काम करेगा Watermark?

सबसे खास बात यह है कि ChatGPT का जवाब पढ़ते समय यूजर को कोई Watermark दिखाई नहीं देगा।

OpenAI के अनुसार textGrain मॉडल द्वारा अगले शब्द या टोकन चुनने की प्रक्रिया में बहुत हल्का बदलाव करता है। लंबे टेक्स्ट में इन शब्द-चयनों का एक खास पैटर्न बनता है, जिसे OpenAI का Detector तलाश सकता है। इसमें छिपे हुए अक्षर, invisible spaces या अजीब punctuation जोड़ने की जरूरत नहीं है।

यानी सामान्य यूजर को ChatGPT का जवाब पहले जैसा ही दिखाई देगा, लेकिन पीछे एक ऐसा signal मौजूद हो सकता है जिसे मशीन पढ़ सके।

EU में ChatGPT यूजर्स को कब मिलेगा?

OpenAI ने कहा है कि आने वाले हफ्तों में EU में योग्य ChatGPT और Codex text output पर यह Invisible Watermark लागू किया जाएगा। यह rollout EU तक सीमित होगा और शुरुआत में सभी जगह ChatGPT के लिए इसे global default नहीं बनाया जा रहा है।

दूसरी तरफ, OpenAI API इस्तेमाल करने वाले developers और organizations के लिए व्यवस्था अलग है। दुनियाभर के API customers चुनिंदा models पर text watermarking को opt-in कर सकेंगे, जबकि API में यह सुविधा default रूप से बंद रहेगी।

क्या इससे पता चल जाएगा कि टेक्स्ट ChatGPT ने ही लिखा है?

यहां एक जरूरी बात समझना जरूरी है।

Watermark किसी टेक्स्ट की लेखकीय पहचान, ownership या कानूनी जिम्मेदारी साबित नहीं करता। OpenAI के मुताबिक watermark मिलने से यह संकेत मिल सकता है कि किसी OpenAI model ने टेक्स्ट generate या process किया था, लेकिन इससे यह पता नहीं चलता कि उसमें इंसान ने कितना योगदान दिया था।

इसी तरह अगर किसी टेक्स्ट में watermark नहीं मिलता, तो इसका मतलब यह भी नहीं है कि वह निश्चित रूप से इंसान ने लिखा है।

AI Detection में अभी भी बड़ी चुनौती

OpenAI खुद मानता है कि text watermarking और detection अभी शुरुआती तकनीकें हैं और इनकी कुछ सीमाएं हैं।

उदाहरण के लिए, Search Engine Journal की रिपोर्ट के अनुसार OpenAI के परीक्षणों में 400-token के अंग्रेजी टेक्स्ट में लगभग 25 प्रतिशत शब्दों को synonyms से बदलने पर detection rate करीब 92 प्रतिशत से घटकर 17 प्रतिशत रह गया। यानी किसी टेक्स्ट में पर्याप्त editing या rewriting होने पर watermark को पहचानना काफी मुश्किल हो सकता है।

OpenAI ने भी कहा है कि substantial rewriting, paraphrasing या translation के बाद detection कम reliable हो सकता है। छोटे passages में भी watermark detection की reliability सीमित है।

200 शब्द से छोटे टेक्स्ट पर क्या होगा?

OpenAI के Help Center के मुताबिक EU AI Act के Transparency Code में 200 tokens से छोटे output, जो अंग्रेजी में लगभग 150 शब्दों के आसपास हो सकते हैं, और code snippets के लिए watermarking की आवश्यकता नहीं रखी गई है।

इसका मतलब यह है कि हर छोटे ChatGPT जवाब को उसी तरह reliably detect करना संभव नहीं होगा।

OpenAI बनाएगा Text Watermark Detector भी

OpenAI ने text watermark detection के लिए एक अलग Detector उपलब्ध कराने की प्रक्रिया भी शुरू की है। हालांकि शुरुआत में इसकी access सभी के लिए खुली नहीं होगी।

कंपनी के अनुसार approved researchers और expert organizations, खासकर वे संस्थाएं जो text provenance और detection reliability पर काम कर रही हैं, इसके लिए access के लिए आवेदन कर सकती हैं।

OpenAI का लक्ष्य आगे चलकर इस technology को open source करने का भी है, ताकि दूसरे लोग इसके आधार पर अपने tools विकसित कर सकें।

सिर्फ ChatGPT ही नहीं, Codex भी आएगा दायरे में

यह बदलाव केवल ChatGPT तक सीमित नहीं है। OpenAI ने स्पष्ट किया है कि EU में eligible Codex text output को भी इस provenance system के दायरे में लाया जाएगा।

इससे AI-generated coding और text content की origin को लेकर transparency बढ़ाने की कोशिश की जा रही है।

भारत में ChatGPT यूजर्स के लिए इसका क्या मतलब?

फिलहाल OpenAI की घोषणा के अनुसार EU में ChatGPT और Codex के eligible text outputs पर यह rollout किया जा रहा है। इसलिए भारत में सामान्य ChatGPT users के लिए इसे अभी EU जैसा mandatory watermark rollout नहीं माना जाना चाहिए। हालांकि OpenAI API customers worldwide चुनिंदा models पर watermarking को खुद opt in कर सकते हैं।

यानी भारत में ChatGPT इस्तेमाल करने वाले यूजर के लिए अभी सबसे बड़ा बदलाव यह नहीं है कि हर ChatGPT जवाब पर कोई दिखाई देने वाला निशान आ जाएगा। असल बदलाव AI-generated text की machine-readable provenance को मजबूत करने की दिशा में है।

Bottom Line

ChatGPT का नया textGrain watermark AI-generated content की पहचान के तरीके को बदल सकता है। लेकिन इसे ऐसा “AI detector” समझना सही नहीं होगा जो हर AI-written text को 100% पकड़ लेगा। OpenAI खुद इसके detection limitations स्वीकार करता है। फिलहाल इसका उद्देश्य AI content की origin को लेकर एक अतिरिक्त technical signal देना है, न कि यह तय करना कि किसी टेक्स्ट को किस व्यक्ति ने लिखा है।