टेक्नोलॉजी जिस तेज़ी से बदल रही है और दुनिया को जिस तेज़ी से प्रभावित कर रही है, वो हैरान करने वाला है. ऐसी कई चीज़ें, जिनके बारे में हम कभी सोच भी नहीं सकते थे, वो भी इस टेक्नोलॉजी के ज़रिए असलियत में सामने आ रही हैं. Artificial Intelligence यानी AI ऐसी ही एक टेक्नोलॉजी है. AI इन दिनों हमारी जिंदगी के हर पहलू को प्रभावित कर रही है. कई मायनों में AI से हमारी ज़िंदगी आसान हुई है, तो कई मायनों में ये हमारे लिए नई मुसीबतें भी खड़ी कर सकती है. इसी AI के ज़रिए एक डीपफेक टेक्नॉलजी (Deepfake Technology) विकसित हुई है. इससे किसी के भी चेहरे और शरीर को बदलकर दिखाया जा सकता है. हाल में एक्ट्रेस रश्मिका मंदाना (Rashmika Mandana) और कैटरीना कैफ (Katreena Kaif) इसका शिकार हुई हैं, जिसे लेकर नई बहस छिड़ गई है.
आइए जानते हैं क्या है डीपफेक वीडियो और इसे रोकने के लिए भारत के आईटी लॉ में क्या है खामियां:-
डीपफेक वीडियो क्या होता है?
किसी रियल वीडियो, फोटो या ऑडियो में दूसरे के चेहरे, आवाज और एक्सप्रेशन को फिट कर देने को डीपफेक नाम दिया गया है. ये इतनी सफाई से होता है कि कोई भी यकीन कर ले.
पहली बार Reddit पर पोस्ट किए गए थे डीपफेक वीडियोज
'डीपफेक' शब्द पहली बार 2017 में इस्तेमाल किया गया था. तब अमेरिका के सोशल न्यूज एग्रीगेटर Reddit पर डीपफेक आईडी से कई सेलिब्रिटीज के वीडियो पोस्ट किए गए थे. इसमें एक्ट्रेस एमा वॉटसन, गैल गैडोट, स्कारलेट जोहानसन के कई पोर्न वीडियो थे.
AI और मशीन लर्निंग का लिया जाता है सहारा
डीपफेक वीडियो में मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस का सहारा लिया जाता है. इसमें वीडियो और ऑडियो को टेक्नोलॉजी और सॉफ्टवेयर की मदद से ऐसे तैयार किया जाता है कि फेक भी रियल दिखने लगता है. वर्तमान टेक्नोलॉजी में अब आवाज भी इम्प्रूव हो गई है. इसमें वॉयस क्लोनिंग बेहद खतरनाक हो गई है.
रश्मिका मंदाना का मामला क्या है?
साउथ और बॉलीवुड एक्ट्रेस रश्मिका मंदाना का एक डीपफेक वीडियो वायरल हुआ है. इसमें एक्ट्रेस को बेहद वोल्ड कपड़ों में एक लिफ्ट की ओर जाते हुए दिखाया गया है. खास बात ये है कि इस वीडियो में चेहरा रश्मिका मंदाना का है, लेकिन बॉडी किसी और की है. जैसे ही ये क्लिप सोशल मीडिया पर वायरल हुई, तो पता चला कि वीडियो दरअसल ब्रिटिश इंडियन इन्फ़्लुएंसर ज़ारा पटेल के वीडियो के साथ छेड़छाड़ कर बनाया गया है. YouTube influencer ज़ारा पटेल का वीडियो 9 अक्टूबर का था, जिसे डीपफेक टेक्नॉलजी के इस्तेमाल से बदला गया. इसमें ज़ारा पटेल के चेहरे को बदलकर उसकी जगह रश्मिका मंदाना का चेहरा बनाया गया है.
रश्मिका ने X पर जताई हैरानी
रश्मिका मंदाना ने सोशल मीडिया प्लेटफॉर्म X पर एक पोस्ट कर इस डीपफेक वीडियो पर हैरानी और डर जताया है. उन्होंने लिखा, "मैं इसे शेयर करते हुए बहुत दुखी हूं और मुझे ऑनलाइन फैलाए जा रहे अपने डीपफेक वीडियो पर बात करनी है. ऐसा न सिर्फ़ मेरे लिए बहुत डरावना है, बल्कि जिस तरह टेक्नॉलजी का गलत इस्तेमाल हो रहा है उसके कारण हम सभी पर इसका ख़तरा मंडरा रहा है."
एक्ट्रेस ने लिखा, "आज एक महिला और अभिनेत्री होने के नाते मैं अपने परिवार, दोस्तों और चाहने वालों की शुक्रगुज़ार हूं जो मेरे बचाव में रहे हैं. लेकिन अगर ऐसा मेरे साथ तब होता, जब मैं स्कूल या कॉलेज में थी; तो मैं सोच भी नहीं सकती कि मैं कैसे इसका मुकाबला करती. हमें एक समुदाय के तौर पर इससे गंभीरता से निपटना होगा, इससे पहले कि पहचान की इस चोरी से हममें से और लोग भी प्रभावित हों."
कैटरीना कैफ भी हुईं शिकार
रश्मिका मंदाना के बाद मंगलवार को एक्ट्रेस कैटरीना कैफ से जुड़ी ऐसा ही एक डीपफेक वीडियो सामने आया. रियल इमेज में कैटरीना कैफ टॉवल पहने फिल्म 'टाइगर-3' के लिए एक एक्शन सीक्वेंस कर रही हैं. लेकिन जो मॉर्फ्ड इमेज बनाई गई है, उसमें कैटरीना को उसी पोज़ में लेकिन अलग कपड़ों में दिखाया गया है, जो तस्वीर को अश्लील बनाता है. मॉर्फ्ड इमेज सामने आने के कुछ ही घंटे बाद इसे सोशल मीडिया से हटा दिया गया.
अमेरिका में डीपफेक तस्वीरों पर हुआ हंगामा
कुछ ही दिन पहले अमेरिका में AI से तैयार ऐसी ही कई डीपफेक तस्वीरों पर हंगामा हुआ था. तब न्यू जर्सी के वेस्टफील्ड हाई स्कूल में स्कूली छात्राओं की कई नेकेड फोटोज सोशल मीडिया पर वायरल की गईं. इन फेक फोटोज से स्कूली छात्राएं दहशत में आ गई थीं. हैरान करने वाली बात ये रही कि इन तस्वीरों को तैयार करने वाले उनके ही बैचमेट थे, जिन्होंने चैट पर ये मॉर्फ्ड तस्वीरें शेयर की थीं.
डीपफेक टेक्नोलॉजी का पिछले कुछ सालों में काफी गलत इस्तेमाल हुआ है. स्कैमर्स और साइबर क्रिमिनल इसका धड़ल्ले से दुरुपयोग कर रहे हैं. इसका सबसे ज़्यादा दुरुपयोग पोर्नोग्राफ़ी यानी अश्लील वीडियो या तस्वीरों के तौर पर हो रहा है. यही नहीं जानी मानी हस्तियों की पहचान के साथ भी इस टेक्नॉलजी के ज़रिए खिलवाड़ हो रहा है.
आईटी मंत्री ने भी किया पोस्ट
रश्मिका मंदाना से जुड़े डीपफेक वीडियो के विवाद के बाद केंद्रीय आईटी राज्य मंत्री राजीव चंद्रशेखर ने सोशल मीडिया प्लेटफॉर्म X पर एक पोस्ट किया. उन्होंने कहा, "अप्रैल 2023 में जारी आईटी नियमों के मुताबिक सभी प्लेटफॉर्म्स के लिए ये कानूनी बाध्यता है कि वो किसी भी यूज़र द्वारा गलत जानकारी को पोस्ट न होने दें. अगर कोई यूज़र या सरकार इसकी शिकायत करती है, तो गलत जानकारी को 36 घंटे में हटाना सुनिश्चित करें. अगर प्लेटफॉर्म इस पर अमल नहीं करते, तो उनके खिलाफ नियम 7 लागू होगा और उनके खिलाफ आईपीसी की धाराओं के तहत प्रभावित व्यक्ति द्वारा केस किया जा सकता है."
सरकार ने याद दिलाए नियम
इस बीच केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म्स को वो कानून याद दिलाए हैं, जो Artificial Intelligence के ज़रिए ऐसे डीपफेक्स के दुरुपयोग पर होने वाली सज़ा से जुड़ा है. इलेक्ट्रॉनिक्स और इंफॉर्मेशन टेक्नोलॉजी मंत्रालय ने अपनी एडवाइज़री में Information Technology Act, 2000 के Section 66D का ज़िक्र किया है.
क्या कहते हैं साइबर लॉ एक्सपर्ट?
सवाल ये है कि क्या ये कानून प्रभावी तरीके से लागू हो रहा है या इसमें कुछ खामियां हैं? NDTV ने इस पूरे मामले पर साइबर लॉ एक्सपर्ट विराग गुप्ता से बात की. विराग गुप्ता ने बताया, "इंटरनेट की दुनिया में 20-25 सालों में कई मंजिल की एक बिल्डिंग बन गई है. डीपफेक उसी का एक एक्टेंशन है. जब तक हम उस बिल्डिंग को, उसके बेसिक स्ट्रक्चर को कानून के दायरे में नहीं लाएंगे, तो डीपफेक की दुनिया के रेगुलेशन में मुश्किल आएगी. क्योंकि जब तक आप समस्या की जड़ नहीं पकड़ेंगे, तब तक समाधान नहीं होगा."
साइबर लॉ एक्सपर्ट विराग गुप्ता कहते हैं, "दूसरी बात, भारत में बच्चों के जो डिजिटली बालिग होने का कानून है, उसे सही तरीके से लागू नहीं किया गया है. कानूनन 18 साल से कम उम्र के बच्चे नाबालिग होते हैं, वो सोशल मीडिया के अकाउंट नहीं खोल सकते हैं. ऐसे कॉन्ट्रैक्ट नहीं कर सकते हैं. लेकिन ये कानून भी फॉलो नहीं किया जाता. कंपनियों की इसकी जानकारी रहती है, लेकिन ये कंपनियां मुनाफे के लिए इसपर रोक नहीं लगाती हैं."
यूरोपीय यूनियन ने उठाया है बड़ा कदम
बता दें कि यूरोपीय यूनियन ने डीपफेक को रोकने के लिए AI एक्ट के तहत "कोड ऑफ प्रैक्टिस ऑन डिसइन्फॉर्मेशन' लागू किया है. इस पर साइन करने के बाद गूगल, मेटा, ट्विटर सहित कई तकनीकी कंपनियों को अपने प्लेटफॉर्म पर डीपफेक और फेक अकाउंट्स रोकने के लिए सख्त कदम उठाने होते हैं. इन्हें लागू करने के लिए छह महीने का समय दिया जाता है. कानून तोड़ने पर कंपनी को अपने सालाना ग्लोबल रेवेन्यू का 6% जुर्माना देना पड़ता है.
ये भी पढ़ें:-
"3 साल की जेल और 1 लाख जुर्माना", रश्मिका मंदाना के डीपफेक वीडियो के बाद केंद्र ने याद दिलाया कानून
वीडियो में मौजूद ज़ारा पटेल ने कहा- रश्मिका के साथ गलत हुआ है, किसी और के साथ हो सकता है
