एक डिजिटल रिस्क फर्म ने भारत में एआई-इनेबल्ड वित्तीय घोटालों के तेजी से बढ़ने पर चिंता जताई है. इस रिपोर्ट में कुछ मामलों का विश्लेषण किया गया है, जिसमें केंद्रीय वित्त मंत्री निर्मला सीतारमण का एक डीप फेक वीडियो भी शामिल है, इसमें वो धोखाधड़ी वाली क्रिप्टोकरेंसी का समर्थन करती नजर आ रही हैं.
डिजिटल रिस्क मैनेजमेंट फर्म एथेनियन टेक के 'फॉल्स एंडोर्समेंट, रियल लॉसेस' टाइटल वाली रिपोर्ट में कहा गया है कि शुरुआती वेव गूगल के सीईओ सुंदर पिचाई वाले डीप फेक वीडियो के सर्कुलेशन के साथ आयी, जिसमें उन्हें गूगल इन्वेस्ट नामक एक प्लेटफॉर्म का समर्थन करते हुए गलत तरीके से चित्रित किया गया था. इसे असामान्य रूप से हाई रिटर्न देने वाली सरकार समर्थित पहल के रूप में बताया गया था.
आगे की जांच से पता चलता है कि उसी इको सिस्टम ने निर्मला सीतारमण का एक फर्जी वीडियो जारी किया, जिसमें वह 'इन्वेस्टजीपीटी' नामक एक अन्य काल्पनिक पहल का समर्थन करती दिखाई दीं, ऐसा कनिष्क गौड़ की कंपनी की रिपोर्ट में कहा गया है. कनिष्क गौड़ ने डेलोइट, ईवाई और सिनॉप्सिस में लीडरशिप रोल निभाया है.
Rise of AI-Enabled Financial Scams in India by on Scribd
वीडियो सुंदर पिचाई के पिछले क्लिप के जैसा ही है, जिसमें उसका समर्थन करने के लिए लिप-सिंक और वॉयस सिंथेसिस का उपयोग किया गया है. 'थ्रेड एनालिसिस' सेक्शन की रिपोर्ट में खासकर इस तरह के सिंथेटिक मीडिया के इंप्लीकेशंस की बात की गई है. वे विश्वसनीय सार्वजनिक हस्तियों को दिखाकर वैधता की भ्रामक सेंस पैदा करते हैं. वे प्रामाणिक और हेरफेर किए गए कम्युनिकेशन के बीच के अंतर को काफी कम कर देते हैं. जनता की धारणा को खराब करते हैं, और वे डिजिटल चैनलों पर संदेह और गलत सूचना फैलाकर कंटेट हटाने के बाद भी प्रेस्टीज को काफी नुकसान पहुंचाते हैं.
रिपोर्ट ने डिजिटल धोखाधड़ी के इस नए क्लास से लड़ने के लिए, डोमेन टेकडाउन से अलग कदम उठाने की सिफारिश की है.
इसने डोमेन को तत्काल टेकडाउन के लिए CERT-In और अन्य साइबर सुरक्षा अधिकारियों को रिपोर्ट करने, डोमेन रजिस्ट्रार और होस्टिंग प्रोवाइडर को वेबसाइट को निलंबित करने के लिए सूचित करने, उपयोगकर्ताओं को इसे एक्सेस करने से रोकने के लिए नेटवर्क के भीतर URL को ब्लॉक करने, सोशल मीडिया और आधिकारिक सलाह के जरिए ऐसे घोटालों के बारे में सार्वजनिक जागरूकता बढ़ाने और समान डोमेन की निगरानी करने का भी सुझाव दिया, जो नए नामों के तहत धोखाधड़ी जारी रखने के लिए इस घोटाले की नकल कर सकते हैं.
