- नए अपडेट के बाद AI टूल ग्रोक से महिलाओं, बच्चों की तस्वीरों को बिना कपड़ों के एडिट करने का ट्रेंड तेजी से बढ़ा
- भारत, ब्रिटेन और EU सहित कई देशों ने ग्रोक के इस दुरुपयोग पर कड़ी आलोचना और जांच की चेतावनी दी है
- एलन मस्क ने शुरू में इस ट्रेंड पर हंसी दिखाई, बाद में अवैध कंटेंट बनाने वालों के खिलाफ कार्रवाई की बात कही
AI यानी आर्टिफिशियल इंटेलिजेंस से इंसानों को बड़ी उम्मीद थी. उम्मीद यह कि यह नए दौर की टेक्नोलॉजी साबित होगी, इंसानों के जिंदगी को आसान बनाएगी, जरूरत के वक्त असिस्टेंट के तौर पर काम करेगी, इंसानों की काबिलियत को आगे बढ़ाने का काम करेगी. लेकिन सच्चाई क्या है? आज AI का इस्तेमाल तस्वीरों से कपड़े उतारने के लिए हो रहा है. क्या बच्चे और क्या महिलाएं, बिना किसी झिझक के एलन मस्क के AI टूल ग्रोक (Grok) को लोग प्रॉम्प्ट दे रहे हैं और वह उनकी तस्वीरों को बगैर कपड़े एडिट करके दे रहा है. पूरी दुनिया में इसके लिए Grok की कड़ी आलोचना हो रही है. इस ट्रेंड पर एलन मस्क बेशर्मी से हंस चुके हैं, आलोचना के बाद कार्रवाई करने की बात तक कही, लेकिन अभी भी Grok ने अपनी गलती नहीं सुधारी है.
कंट्रोल के बाहर गया Grok?
AI टूल ग्रोक को महिलाओं और छोटे बच्चियों तक के डीपफेक फोटो बनाने के लिए बढ़ती अंतरराष्ट्रीय आलोचनाओं का सामना करना पड़ रहा है. यहां तक कि यूरोपीय संघ ने इसकी निंदा की है और ब्रिटेन ने जांच की चेतावनी भी दी है. दरअसल ग्रोक पर एक नई फैसिलिटी आई है जिसमें "इमेज एडिट करें" बटन जोड़ा गया है. जैसे ही यह रोलआउट हुआ, यूजर्स ने महिलाओं और बच्चियों की तस्वीर देकर ग्रोक को प्रॉम्प्ट दिए कि "उसे बिकनी पहनाओ" या "उसके कपड़े हटाओ". लोग यह सोशल मीडिया प्लेटफॉर्म, X पर ऐसे फोटो डाल रहे और वहीं ग्रोक को यह कमांड दे रहें. जल्द ही पूरे X पर ऐसी तस्वीरें वायरल होने लगीं.
एक्टिव हो गईं दुनिया भर की सरकारें लेकिन ग्रोक नहीं मान रहा
महिलाओं की तस्वीरों की डिजिटल अनड्रेसिंग की होड़ मच गई. इसकी वजह से फ्रांस, भारत और मलेशिया सहित कई देशों से त्वरित जांच के आदेश दे दिए. यूरोपीय आयोग ने भी सोमवार, 5 जनवरी को कहा कि वह एलन मस्क के स्टार्टअप xAI द्वारा विकसित और उनके सोशल मीडिया प्लेटफॉर्म X में शामिल ग्रोक के बारे में शिकायतों को "बहुत गंभीरता से देख रहा है". यूरोपीय संघ के डिजिटल मामलों के प्रवक्ता थॉमस रेग्नियर ने यहां तक कहा यह मसालेदार नहीं है. यह अवैध है. यह भयावह है.
यूके के मीडिया रेगुलेटर ऑफकॉम ने कहा कि उसने "यूके में यूजर्स की सुरक्षा के लिए अपने कानूनी कर्तव्यों का पालन करने के लिए क्या कदम उठाए हैं, यह समझने के लिए X और xAI के साथ तत्काल संपर्क किया था."
एलन मस्क की बेशर्म हंसी
शुरू में मस्क को इस ट्रेंड पर हंसी आई थी. एक टोस्टर को बिकनी पहनाई तस्वीर वाले पोस्ट के जवाब में शुक्रवार को मस्क ने रोते हुए हंसने वाले इमोजी पोस्ट की थी. उन्हें इस ट्रेंड पर मजा आ रहा था. उन्होंने लिखा: "पता नहीं क्यों, लेकिन मैं इस पर अपनी हंसी नहीं रोक सका."
लेकिन जब इस ट्रेंड पर दुनिया भर में आक्रोश फैला तो उन्होंने बाद में पोस्ट किया कि "अवैध कंटेंट बनाने के लिए ग्रोक का उपयोग करने वाले किसी भी व्यक्ति को उसी तरह के परिणाम भुगतने होंगे जैसे कि वे खुद अवैध कंटेट अपलोड कर रहे हैं".
बाद में X के एक प्रवक्ता ने कहा: "हम बच्चों के जुड़े यौन शोषण के मैटेरियल (CSAM) सहित X पर अवैध कंटेंट के खिलाफ कार्रवाई करते हैं, इसे हटाकर, उन अकाउंट को स्थायी रूप से सस्पेंड करते हैं, और आवश्यकतानुसार स्थानीय सरकारों और कानून प्रवर्तन के साथ काम करते हैं."
ग्रोक के एक पहले के बयान में घोषणा की गई थी कि उसने "सुरक्षा उपायों में खामियों की पहचान की थी" और "उन्हें तत्काल ठीक कर रहा था" जो AI द्वारा उत्पन्न किया गया था. लेकिन यह स्पष्ट नहीं था कि कंपनी वास्तव में सुरक्षा संबंधी खामियों को ठीक करने के लिए कार्रवाई कर रही थी या नहीं. वजह यह है कि अभी भी लोग ऐसी तस्वीरों को एडिट करवा रहे हैं.
यह भी पढ़ें: AI बनना चाह रहा 'अमर', सबूत के साथ टॉप वैज्ञानिक ने बताई इंसानों की सबसे बड़ी गलती
