- EU ने X के AI चैटबॉट ग्रोक पर महिलाओं और बच्चों की अश्लील डीपफेक तस्वीरें फैलाने का आरोप लगाकर जांच शुरू की है
- ग्रोक में इमेज एडिट बटन के कारण यूजर्स ने महिलाओं और बच्चियों की तस्वीरों में अश्लील बदलाव कर वायरल कर दीं
- एलन मस्क की एआई कंपनी xAI के खिलाफ एक महिला ने डीपफेक तस्वीरों से हुए मानसिक पीड़ा के कारण मुकदमा दायर किया है
एलन मस्क की सोशल मीडिया कंपनी एक्स के खिलाफ 27 देशों वाले यूरोपीय संघ ने जांच शुरू कर दी है. यूरोपीय संघ का आरोप है कि X का एआई चैटबॉट ग्रोक डीपफेक तस्वीरें फैला रहा है. वो महिलाओं और बच्चों की अश्लील तस्वीरें बनाकर सोशल मीडिया पर शेयर कर रहा है. यूरोपीय संघ इसे बाल यौन शोषण का मामला मान रहा है. यूरोपीय आयोग ने कहा है कि वह अपनी जांच में देखेगा कि क्या सोशल मीडिया कंपनी एक्स ने यूरोपीय संघ में ग्रोक को लॉन्च करने से पहले इसके जोखिमों को लेकर कोई तैयारी की भी थी या नहीं.
क्या है विवाद?
दरअसल, ग्रोक पर "इमेज एडिट करें" बटन जोड़ा गया है. जैसे ही यह रोलआउट हुआ, यूजर्स ने महिलाओं और बच्चियों की तस्वीर देकर ग्रोक को प्रॉम्प्ट दिए कि "उसे बिकनी पहनाओ" या "उसके कपड़े हटाओ". जल्द ही पूरे X पर ऐसी तस्वीरें वायरल होने लगीं. यूजर्स के लिए तस्वीरें पोस्ट करना और उसमें से कपड़े उतारने के लिए कहना आसान हो गया. मगर यहीं से महिलाओं और बच्चों का जीना मुश्किल हो गया. कारण ये है कि ये तस्वीरें इतनी ओरिजनल लगती हैं कि किसी को ये समझा पाना कि ये एआई से बनाया गया है, बहुत मुश्किल है.
क्या ये सिर्फ यूरोप की है समस्या
जी नहीं. ऐसा नहीं है कि ग्रोक से समस्या सिर्फ यूरोप के देशों को ही है. हाल के हफ्तों में ग्रोक की दुनिया भर में निंदा तेज हो गई है. कई देशों के यूजर्स ने एआई चैटबॉट द्वारा अश्लील तस्वीरें बनाने और उन्हें X पर पोस्ट करने की शिकायत की है. इसके बाद रेगुलेटर्स और बाल सुरक्षा अधिवक्ताओं ने तुरंत इसकी निंदा की है. ब्रिटेन का संचार नियामक ऑफकॉम पहले ही औपचारिक रूप से इस बात की जांच कर रहा है कि क्या X ने उसके देश के ऑनलाइन सुरक्षा अधिनियम का उल्लंघन किया है. फ्रांस और भारत ने भी इस मामले में दखल देते हुए ग्रोक पर लोगों की सहमति के बिना उनकी अश्लील तस्वीरें बनाने का आरोप लगाया है. भारत में तो इसे लेकर काफी बवाल मचा था.
जब एलन मस्क के घर पहुंचा ये विवाद
ऐसा नहीं है कि ग्रोक के इस कारनामे से एलन मस्क बच गए हैं. उनके एक बच्चे की मां ने उनकी एआई कंपनी पर मुकदमा दायर किया है. 27 वर्षीय एशले सेंट क्लेयर खुद को लेखिका और राजनीतिक रणनीतिकार बताती हैं. उनका कहना है कि ग्रोक चैटबॉट ने यूजर्स को उनकी डीपफेक तस्वीरें बनाने की अनुमति दी, जिससे उन्हें अपमान और मानसिक पीड़ा हुई है.
हाल ही में सेंट ने न्यूयॉर्क शहर में xAI के खिलाफ दायर मुकदमे में आरोप लगाया है कि इन अश्लील तस्वीरों में उनकी 14 साल की उम्र की पूरी तरह से कपड़े पहनी हुई तस्वीर को बदलकर बिकिनी में दिखाया गया है, और अन्य तस्वीरों में उन्हें वयस्क के रूप में अश्लील तरीके से दिखाया गया है. सेंट क्लेयर, मस्क के 16 महीने के बेटे रोमुलस की मां हैं. उनकी शिकायत को जब कंपनी ने नहीं माना और शिकायत के बाद भी तस्वीरें शेयर करता रहा तो उन्होंने मुकदमा कर कंपनी से हर्जाने की मांग की है.
X क्या कह रही?
xAI की सहायक कंपनी X ने अपने पिछले बयान का हवाला देते हुए कहा कि वह बाल यौन शोषण सामग्री सहित अवैध सामग्री को हटाती है. अश्लील शेयर करने वाले यूजर्स के अकाउंट को निलंबित भी करती है और जहां आवश्यक हो, उस देश के कानून प्रवर्तन एजेंसियों के साथ सहयोग भी करती है. उसने कहा, "हम X को सभी के लिए एक सुरक्षित मंच बनाने के लिए प्रतिबद्ध हैं और बाल यौन शोषण, बिना सहमति के नग्नता और अवांछित यौन सामग्री के किसी भी रूप के प्रति हमारी शून्य सहनशीलता की नीति जारी है."
एलन मस्क अपने ख्यालों में मस्त
दुनिया भर में एक्स को लेकर हो रहे विवादों के बीच एलन मस्क चुप हैं. अलग-अलग देश एक्स पर कार्रवाई की तैयारी कर रहे हैं. साफ चेतावनी दे रहे हैं कि अगर ये यौन शोषण का सिलसिला नहीं रुका तो कड़ी कार्रवाई होगी. मगर फिर भी मस्क चुप हैं. यहां तक की उन्होंने अपने बच्चे की मां के मामले में भी दखल नहीं दिया. हां, बीबीसी की इस बारे में एक रिपोर्ट पर उन्होंने स्माइल वाला इमोजी दिया था. मतलब साफ है वो इसे लेकर गंभीर नहीं हैं.
हालांकि, दावोस में आयोजित वर्ल्ड इकोनॉमिक फोरम (WEF) के दौरान मस्क ने दावा किया कि आर्टिफिशियल इंटेलिजेंस (AI) इतनी तेजी से बढ़ रहा है कि यह बहुत जल्द इंसानी दिमाग को पीछे छोड़ देगा. मस्क ने कहा कि जिस रफ्तार से AI टेक्नोलॉजी आगे बढ़ रही है, मुझे लगता है कि इस साल (2026) के आखिर तक या ज्यादा से ज्यादा अगले साल तक AI दुनिया के किसी भी सबसे इंटेलिजेंट व्यक्ति से ज्यादा स्मार्ट हो जाएगा. इससे समझा जा सकता है कि एलन ग्रोक में सुधार को लेकर आशा से भरे हुए हैं और मानकर चल रहे हैं कि आने वाले समय में वो ग्रोक को काबू कर लेंगे.
कुछ ही महीनों में इंसानों को पीछे छोड़ देगा AI? एलन मस्क ने बताया 2030 तक क्या गजब होने वाला है
Grok AI बना रहा महिलाओं की भद्दी तस्वीरें, मस्क की कंपनी को केंद्र का अल्टिमेटम, जानें पूरा मामला
