Explainer: कंटेंट AI ने लिखा है तो अब पकड़ा जाएगा, जाने कैसे?

पूरी दुनिया में AI से लिखे कंटेंट इंटरनेट पर छाए हुए हैं. किस कंटेंट को AI ने लिखा और कौन इंसानी हाथों के लिखे गए हैं, इसमें फर्क करना लगभग नामुमकिन हो चला है. लेकिन अब इसका एक जबरदस्त काट निकलने जा रहा है. दरअसल, जेनरेटिव AI क्लाउड को बनाने वाली कंपनी एंथ्रोपिक ने एक बड़ा फैसला लिया है. उसने क्लाउड से बनाए जाने वाले कंटेंट पर अदृश्य निशान लगाने की तैयारी की है. ये निशान इंसानों को नहीं दिखेंगे और न ही इससे किसी भी कंटेंट का अर्थ, उसकी क्वालिटी या पढ़ने के तरीके में ही बदलाव होगा.

इसे कंपनी केवल कंटेंट तक ही सीमित नहीं रखेगी. क्लाउड से तैयार किए गए डॉक्युमेंट्स और इमेज में भी डिजिटल प्रिंट जोड़े जाएंगे, ताकि यह पता लगाया जा सके कि वो कहां से लिए गए हैं? उसे किस तरह तैयार किया गया है? क्या उसमें कुछ बदलाव किया गया है, या बाद में उसके साथ कोई छेड़छाड़ हुई है?

एंथ्रोपिक ने यह कदम ऐसे समय में उठाया है जब यूरोपीय संघ के नए नियमों के तहत AI से तैयार कंटेंट की पहचान और उसके बारे में पारदर्शिता को ज्यादा महत्व दिया जा रहा है. यूरोपीय आयोग की AI Act की धारा 50 से जुड़े पारदर्शिता संबंधी नियम इसी महीने लागू हुए हैं.

तो सवाल ये है कि जब आपने क्लाउड से कोई सवाल पूछा तो वह अपने जवाबों में क्या ऐसा छिपाएगा जिसे इंसानी आंख नहीं देख सकेगा लेकिन मशीन पहचान सकेगी? यह व्यवस्था कैसे काम करेगी? और क्या इससे वाकई में AI और इंसान की लिखी सामग्री में फर्क करना संभव हो जाएगा?

दरअसल एंथ्रोपिक इसे वाटरमार्क करेगा, ये ठीक उसी तरह होगा जैसे आपने किसी इमेज या ऑनलाइन कंटेंट पर या अपने मोबाइल के कैमरे से तस्वीरें लेते समय कभी खुद ही इस्तेमाल किया होगा.

लेकिन क्लाउड का वॉटरमार्क अलग तरह का होगा क्योंकि यह कोई दिखाई देने वाला लोगो, शब्द या चेतावनी नहीं होगा. 

एंथ्रोपिक के मुताबिक ये मार्क कंटेंट के भीतर इस तरह बुना जाएगा कि इंसान उसे सामान्य तौर पर देख या पढ़ नहीं सकेगा.

यानी क्लाउड से जब आपको पूछे गए सवाल का जवाब मिलेगा तब किसी वाक्य के बीच कोई खास चिह्न नजर नहीं आएगा लेकिन मशीन के लिए उस पाठ में मौजूद संकेत को पहचानना संभव होगा.

कैसे छिपेगा वाटरमार्क, किसका फायदा?

एंथ्रोपिक के मुताबिक इसे टेक्स्ट वॉटरमार्क मॉडल के स्तर पर लगाया जाएगा. यानी क्लाउड परिवार के मॉडल से तैयार होने वाले किसी भी कंटेंट में इसे शामिल किया जाएगा.

इसका एक बड़ा फायदा यह है कि अगर उपयोगकर्ता क्लाउड का जवाब कॉपी करके किसी दूसरे डॉक्युमेंट, वेबसाइट या प्लेटफॉर्म पर चिपका दिया तो ये संकेत उस चिपकाए गए कंटेंट के साथ आगे भी जा सकता है. जिसे इंसानी आंख नहीं बल्कि मशीन पकड़ लेगी.

क्या वाटरमार्क से बचने का कोई तरीका है?

एंथ्रोपिक का कहना है कि यह वॉटरमार्क उस कंटेंट को एडिट करने के बाद भी बना रह सकता है लेकिन इसका मतलब ये नहीं है कि वह हर स्थिति में बना ही रहेगा.

यानी अगर किसी व्यक्ति ने AI से कंटेंट तैयार करवाने के बाद उसे रीराइट कर दिया या किसी दूसरे AI मॉडल से उसे फिर से लिखवाया, तो वाटरमार्क कमजोर पड़ सकता है या पूरी तरह से खत्म भी हो सकता है.

बता दें कि वाटरमार्क की तकनीक के लिए एंथ्रोपिक C2PA जैसे मानकों का इस्तेमाल कर रहा है. इसमें डिजिटल सिग्नेचर से जुड़े प्रमाणों के जरिए यह जांचने की व्यवस्था होती है कि जानकारी में बाद में छेड़छाड़ हुई है या नहीं.

EU AI Act की इसमें क्या भूमिका है?

इस पूरे बदलाव का यही सबसे बड़ा कारण है. दरअसल, यूरोपीय संघ ने AI से तैयार कंटेंट को लेकर पारदर्शिता के नियम बनाए हैं. यूरोपीय आयोग के AI Act के मुताबिक AI से तैयार कंटेंट की पहचान और उसे चिह्नित करने से जुड़े दायित्व शामिल हैं.

यूरोपीय आयोग का ट्रांसपेरेंसी कोड इन कानूनी दायित्वों को पूरा करने में AI कंपनियों और दूसरे संबंधित पक्षों की मदद करने के लिए बनाया गया है. आयोग के मुताबिक इन पारदर्शिता संबंधी जिम्मेदारियों का उद्देश्य धोखे और हेरफेर के जोखिम को कम करना तथा सूचना व्यवस्था में भरोसा बनाए रखना है. 

यानी मुद्दा सिर्फ ये नहीं है कि कोई व्यक्ति कंटेंट लिखने के लिए AI का इस्तेमाल कर रहा है. बल्कि सवाल ये है कि AI जब इंसान की तरह कंटेंट तैयार कर रहा है, तस्वीरें बना रहा है, तो इंटरनेट पर उसे देखने पढ़ने वाला शख्स इसे कैसे समझे कि उसके सामने असली कंटेंट है या AI से लिखा हुआ.

यूरोपीय संघ इसी समस्या से निपटने के लिए AI कंटेंट की पहचान को ज्यादा व्यवस्थित बनाना चाहता है.

तो क्या AI से लिखा हर कंटेंट पकड़ा जाएगा?

वॉटरमार्किंग को AI कंटेंट की पहचान करने का अचूक तरीका समझना गलत होगा.

मान लीजिए क्लाउड ने हजार शब्दों की एक स्टोरी लिखी. उसमें ऐसे अदृश्य संकेत मौजूद है जिससे उस कंटेंट की पहचान हो सकती है कि उसे किसने लिखा है. अब कोई व्यक्ति उस स्टोरी को लेकर दूसरे AI मॉडल से कहता है कि इसे पूरी तरह नए शब्दों में लिखो.

नए कंटेंट में पहले वाले वाटरमार्क का कितना हिस्सा बचता है, यह सबसे अहम बात है.

इसी तरह जब किसी वाक्य को रीराइट किया जाता है या फिर पूरे पैराग्राफ को दोबारा लिखा जाता है और सेंटेंस फॉर्मेशन यानी वाक्य की संरचना पूरी तरह बदल दी जाती है तो उस मामले में भी वाटरमार्क का कितना हिस्सा बचा रहता है यह स्पष्ट नहीं है.

इस स्थिति में AI से बने कंटेंट और पब्लिश किए गए कंटेंट के बीच अंतर पैदा हो सकता है तो उसे पूरी तरह से AI से लिखा गया कंटेंट नहीं माना जा सकता.

AI से AI वॉटरमार्क हटाना कितना आसान है?

खास कर जब टेक्स्ट कंटेंट की बात आती है तब वाटरमार्क को बनाए रखना और भी बड़ी चुनौती है.

मसलन, इंटरनेट पर लंबे समय से यह दावा किया जाता रहा है कि AI लेखक बहुत ज्यादा em dash (—) का इस्तेमाल करते हैं. लेकिन कोई इंसान भी em dash (—) का इस्तेमाल कर सकता है.

इसलिए किसी एक राइटिंग शैली को AI होने का प्रमाण मानना सही नहीं है.

तस्वीरों में भी यही समस्या है

AI से बनाई गई तस्वीरों में डिजिटल पहचान के अलग-अलग तरीके पहले से इस्तेमाल किए जा रहे हैं.

कुछ सिस्टम तस्वीर के पिक्सल में बहुत कम बदलाव करती हैं. कुछ फाइल के भीतर डिजिटल जानकारी रखती हैं.

लेकिन हर तरीका पूरी तरह सुरक्षित नहीं है.

अगर कोई तस्वीर का स्क्रीनशॉट ले लेता है, तो मूल फाइल की कुछ जानकारी गायब हो सकती है.

इसी तरह तस्वीर को काटना, दोबारा सेव करना या दूसरे तरीके से एडिट करना भी वाटरमार्क को प्रभावित कर सकता है.

C2PA इसका एक समाधान देता है, जिसमें कंटेंट को पहली बार जेनरेट किए जाने के बाद से उसके सभी बदलावों का डिजिटल रिकॉर्ड रखा जाता है.

वाटरमार्क से क्या फायदा हो सकता है?

AI से बनाए गए कंटेंट की मात्रा तेजी से बढ़ रही है. इससे तीन बड़ी समस्याएं पैदा हो रही हैं.

पहली, किसी व्यक्ति की पहचान या बयान को गलत तरीके से पेश किया जा सकता है.

दूसरी, नकली तस्वीर, आवाज या वीडियो को वास्तविक बताकर लोगों को धोखा दिया जा सकता है.

तीसरी, इंटरनेट पर इतने अधिक AI कंटेंट पहुंच सकते हैं कि उपयोगकर्ता के लिए वास्तविक और AI जेनरेटेड कंटेंट के बीच अंतर करना बहुत कठिन हो जाए.

ऐसे माहौल में कंटेंट के साथ उसके जेनरेट किए जाने की जानकारी जोड़ना एक तरह से डिजिटल पहचान पत्र तैयार करने जैसा है.

पर क्या इससे इंसानी लेखन की पहचान भी हो जाएगी?

नहीं, इंटरनेट पर मौजूद हर लेख को देखकर कोई मशीन निश्चित रूप से ये नहीं कह सकेगी कि इसे इंसान ने लिखा है.

AI कंटेंट की पहचान करना और इंसानी लेखन को प्रमाणित करना एक ही चीज नहीं है.

अगर किसी कंटेंट में क्लाउड का वाटरमार्क नहीं मिला तो ये पक्के तौर पर नहीं कहा जा सकता कि उसे इंसान ने ही लिखा है.

हो सकता है कि उसे किसी दूसरे AI मॉडल ने लिखा हो.

ये भी पढ़ें: AI ने कंपनी के इंजीनियर के एक्स्ट्रा मैरिटल अफेयर को लेकर दी धमकी, ‘सुरक्षित AI' पर उठा गंभीर सवाल