डीपफेक फोटो-वीडियो बनाने के लिए AI ऐप का इस्तेमाल करने वाले ऐप एक्टिव (प्रतीकात्मक फोटो)
इन दिनों डीपफेक वीडियो जमकर वायरल हो रहे हैं. डीपफेक (Deepfake) का शिकार ज्यादातर बॉलीवुड एक्ट्रेस हो रही हैं, इन डीपफेक वीडियो को बनाने के लिए AI एप का इस्तेमाल किया जा रहा है. ब्लूमबर्ग की खबर के अनुसार, रिसर्चर्स के मुताबिक, महिलाओं की निर्वस्त्र तस्वीरें (Undress Women In Photos) बनाने के लिए आर्टिफिशियल इंटेलिजेंस का इस्तेमाल करने वाले ऐप्स और वेबसाइट्स की लोकप्रियता बढ़ रही हैं. सोशल नेटवर्क विश्लेषण कंपनी ग्राफिका के मुताबिक सिर्फ सितंबर में 24 मिलियन लोगों ने इस तरह की वेबसाइट्स पर विजट की.
ये भी पढे़ं-आयकर विभाग के छापों में ओडिशा से अबतक 290 करोड़ बरामद, 9 लॉकरों की जांच अभी बाकी
AI के जरिए महिलाओं की तस्वीरों से हो रही छेड़छाड़
ग्राफिका के मुताबिक, ज्यादातर निर्वस्त्र तस्वीरें बनाने वाली वेबसाइट्स मार्केटिंग के लिए लोकप्रिय सोशल नेटवर्किंग का इस्तेमाल करती हैं. उदाहरण के लिए, इस साल की शुरुआत से, एक्स और रेडिट समेत अन्य सोशल मीडिया प्लेटफॉर्म पर अनड्रेसिंग ऐप्स का विज्ञापन करने वाले लिंक की संख्या 2,400 प्रतिशत से अधिक बढ़ गई है, रिसर्चर्स के मुताबिक, इन एप्स के जरिए किसी भी तस्वीर को एडिट करने के लिए AI का इस्तेमाल करती हैं, ताकि उन तस्वीरों को निर्वस्त्र बनाया जा सके, ये ऐप्स सिर्फ महिलाओं की तस्वीरों पर ही काम करती हैं.
इन ऐप्स पर आर्टिफिशियल इंटेलिजेंस के जरिए गैर-सहमति वाली पोर्नोग्राफ़ी के विकसित और वितरित करने पर चिंता जताई गई है. इसे फोटो से छेड़छाड़ कर बनाया गया और डीपफेक पोर्नोग्राफ़ी कहलाता है. छेड़छाड़ करने के लिए तस्वीरें अक्सर सोशल मीडिया से ली जाती हैं., जिसके बारे में आमतौर पर लोगों को पता भी नहीं होता है और उनको आगे सर्कुलेशन कर दिया जाता है.
सोशल नेटवर्किंग साइट्स पर निर्वस्त्र फोटो ऐप का विज्ञापन
ग्राफिका के मुताबिक लोकप्रियता में वृद्धि कई ओपन सोर्स डिफ्यूजन मॉडल या आर्टिफिशियल इंटेलिजेंस के जारी होने से मेल खाती है, जो ऐसी फोटो बना सकती हैं, जो ऑरिजनल फोटो से कहीं ज्यादा बेहतर होती हैं. क्यों कि वेब डेवलपर्स द्वारा उपयोग किए जाने वाले मॉडल मुफ्त में उपलब्ध होते हैं. एक्स पर पोस्ट की गई एक तस्वीर में निर्वस्त्र फोटो वाली ऐप का विज्ञापन किया गया है, जिसमें ऐसी भाषा का इस्तेमाल किया गया है जो बताती है कि ग्राहक इस तरह की निर्वस्त्र तस्वीरें बना सकते हैं और फिर उन्हें संबंधित व्यक्ति को भेज सकते हैं.
ऐसे विज्ञापनों की अनुमति नहीं-Google प्रवक्ता
एक ऐप ने YouTube पर मौजूद सामग्री के लिए पेमेंट कर "nudify" शब्द के साथ सर्च किया तो यह सबसे पहले दिखआई दिया. हालांकि Google के एक प्रवक्ता ने कहा कि कंपनी "ऐसे विज्ञापनों की अनुमति नहीं देती जिनमें स्पष्ट यौन सामग्री होती है."कंपनी ने कहा, "हमने संबंधित विज्ञापनों की समीक्षा की है और नीतियों का उल्लंघन करने वाले विज्ञापनों को हटाया जा रहा है." Reddit के एक प्रवक्ता ने कहा कि साइट किसी भी तरह की नकली यौन सामग्री को बिना सहमति के शेयर करने पर रोक लगाती है. उन्होंने कहा कि रिसर्च के तहत कई डोमेन पर प्रतिबंध लगा दिया है.
ये भी पढे़ं-"AGEL का दूसरे नंबर पर आना खुशी की बात...": मेरकॉम कैपिटल ग्रुप की रैंकिंग पर अदाणी ग्रुप के चेयरमैन गौतम अदाणी