- सरकार ने सोशल मीडिया प्लेटफॉर्म X के टूल Grok AI द्वारा अश्लील सामग्री फैलाने पर कड़ा नोटिस जारी किया है
- सरकार ने एक्स को 72 घंटे में अश्लील कंटेंट रोकने के उपायों की समीक्षा करके रिपोर्ट पेश करने का निर्देश दिया है
- सरकार ने कहा कि एक्स निर्देशों का पालन नहीं करता तो IT एक्ट के तहत मिला सुरक्षा कवच हटाया जा सकता है
भारत सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स (पूर्व में ट्विटर) के खिलाफ कड़ा रुख अपनाते हुए कड़ा नोटिस जारी किया है. इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय की तरफ से एलन मस्क की कंपनी को ये नोटिस एक्स के एआई टूल Grok (ग्रोक) के जरिए महिलाओं की अश्लील और आपत्तिजनक तस्वीरें बनाने और उन्हें शेयर करने की शिकायतों के बाद जारी किया गया है. सरकार ने 72 घंटे के अंदर कंपनी से जवाब मांगा है.
Grok पर अश्लीलता फैलाने का आरोप
सरकार ने एक्स को चेतावनी दी कि वह आईटी एक्ट 2000 और आईटी रूल्स 2021 के तहत अपनी जिम्मेदारियां निभाने में नाकाम रहा है. मंत्रालय ने इस बात पर गहरी चिंता जताई कि एक्स के आर्टिफिशियल इंटेलिजेंस टूल Grok का दुरुपयोग महिलाओं के अश्लील, अभद्र और सेक्सुअल कंटेंट बनाने के लिए किया जा रहा है. ये महिलाओं की गरिमा और प्राइवेसी के खिलाफ है और कानूनी सुरक्षा उपायों को भी कमजोर करता है.
यूजर्स के अकाउंट टर्मिनेट करने का निर्देश
इसके अलावा मंत्रालय ने एक्स को ग्रोक के टेक्निकल और गवर्नेंस फ्रेमवर्क के गहन रिव्यू का भी निर्देश दिया है ताकि आगे से इस तरह के गैरकानूनी कंटेंट को बनने से रोका जा सके. सरकार ने साफ कहा है कि ग्रोक को कड़े उपाय सुनिश्चित करने होंगे. सबूतों से छेड़छाड़ किए बिना सभी आपत्तिजनक कंटेंट को तुरंत हटाने और नियमों का उल्लंघन करने वाले यूजर्स के अकाउंट सस्पेंड या टर्मिनेट करने के भी निर्देश दिए हैं.
सरकार ने दी कानूनी कार्रवाई की चेतावनी
सरकार ने सख्त लहजे में कहा है कि अगर एक्स ने इन निर्देशों का पालन नहीं किया तो आईटी एक्ट की धारा 79 के तहत उसे मिलने वाला 'सुरक्षा कवच' हटाया जा सकता है. इसका मतलब होगा कि प्लेटफॉर्म पर पोस्ट किए गए किसी भी थर्ड पार्टी कंटेंट के लिए एक्स को सीधे तौर पर जिम्मेदार ठहराया जा सकेगा और उस पर बीएनएस, पोक्सो जैसे कानूनों के तहत आपराधिक मुकदमा चलाया जा सकेगा.
ये भी देखें- क्या एआई चैटबॉट्स सच में कम कर रहा है मेंटल हेल्थ स्टिग्मा? रिसर्च ने बताई सच्चाई!
सांसद प्रियंका चतुर्वेदी ने उठाई थी आवाज
शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने यह मुद्दा उठाते हुए केंद्रीय आईटी मंत्री अश्विनी वैष्णव को लेटर लिखा था. चतुर्वेदी ने बताया कि सोशल मीडिया पर एक नया और खतरनाक ट्रेंड शुरू हुआ है, जिसमें पुरुष फर्जी अकाउंट्स के जरिए महिलाओं की तस्वीरें पोस्ट कर रहे हैं और Grok AI को उन तस्वीरों को अश्लील बनाने के प्रॉम्प्ट (निर्देश) दे रहे हैं. महिलाओं द्वारा खुद पोस्ट की गई तस्वीरों को भी टारगेट किया जा रहा है. उन्होंने इसे एआई का घोर दुरुपयोग करार देते हुए कार्रवाई की मांग की.
