सरकार ने पिछले शनिवार को इंस्टाग्राम पर चाइल्ड सेक्सुअल एक्सप्लॉइटेटिव एंड एब्यूज मटेरियल (CSEAM) से जुड़े पेड एड्स के मामले में मेटा (Meta) को नोटिस भेजा था. अब आईटी सचिव एस. कृष्णन ने गुरुवार को कहा कि सरकार कंपनी के आधिकारिक जवाब का इंतजार करेगी. उन्होंने कहा कि मेटा का जवाब मिलने के बाद ही इस मामले में आगे की कार्रवाई और सरकार का रुख तय किया जाएगा.
सरकार ने एड्स और कंटेंट हटाने को कहा
इलेक्ट्रॉनिक्स एंड इंफॉर्मेशन टेक्नोलॉजी मंत्रालय ने इंस्टाग्राम को ऐसे सभी एड्सऔर कंटेंट हटाने का निर्देश दिया था, जो चाइल्ड सेक्सुअल एब्यूज एंड एब्यूज मटेरियल को बढ़ावा देते हैं या लोगों के लिए उसे ढूंढना आसान बनाते हैं. आईटी मंत्री अश्विनी वैष्णव ने अधिकारियों को मेटा (Meta) से जवाब मांगने का निर्देश दिया था. मंत्रालय ने कंपनी से पूछा है कि ऐसे एड्स कैसे दिखे, उन्हें रोकने के लिए क्या कदम उठाए गए और अब तक क्या कार्रवाई की गई. इसी बीच CII GCC बिजनेस समिट के दौरान जब आईटी सचिव एस. कृष्णन से इस मामले पर सवाल पूछा गया तो उन्होंने कहा कि सरकार पहले मेटा (Meta) के औपचारिक जवाब का इंतजार करेगी. उसके बाद ही आगे का रुख तय किया जाएगा.
BBC रिपोर्ट के बाद बढ़ी जांच
सरकार की यह कार्रवाई BBC की एक जांच रिपोर्ट के बाद सामने आई. रिपोर्ट में दावा किया गया था कि मेटा (Meta) का रिकमेंडेशन एल्गोरिदम ऐसे वीडियो लोगों तक पहुंचा रहा था, जिनमें चाइल्ड सेक्सुअल एब्यूज से जुड़ा कंटेंट था. रिपोर्ट में इसे कंपनी की सुरक्षा व्यवस्था की बड़ी कमी बताया गया. BBC की जांच में यह भी सामने आया कि मेटा (Meta) की पॉलिसी नग्नता और सेक्सुअली एक्सप्लिसिट कंटेंट वाले एड्स की इजाजत नहीं देती. इसके बावजूद फेसबुक और इंस्टाग्राम पर ऐसे एड्स दिखाई दिए. रिपोर्ट के मुताबिक इंस्टाग्राम पर "रेप वीडियो" और "चाइल्ड वीडियो" जैसे शब्दों वाले सशुल्क एड्स भी दिखे. इन एड्स पर क्लिक करने के बाद यूजर टेलीग्राम चैनलों तक पहुंच रहे थे, जहां कथित तौर पर ऐसी सामग्री बेची जा रही थी.
मेटा (Meta) ने कहा- हर उल्लंघन पकड़ना आसान नहीं
नोटिस मिलने के कुछ दिनों बाद मेटा (Meta) ने एक ब्लॉग जारी किया. कंपनी ने बताया कि वह अपने सभी प्लेटफॉर्म पर चाइल्ड एब्यूज से जुड़ी सामग्री रोकने के लिए लगातार काम कर रही है. मेटा (Meta) ने कहा कि उसकी एड्स रिव्यू प्रोसेस में ऑटोमेटेड सिस्टम और ह्यूमन रिव्यूअर दोनों मिलकर काम करते हैं. एड्स को पब्लिश होने से पहले चेक किया जाता है. उसके बाद भी उनकी लगातार दोबारा जांच होती रहती है. अगर कोई संदिग्ध एड बच जाता है तो यूजर उसकी रिपोर्ट भी कर सकते हैं. हालांकि कंपनी ने माना कि कोई भी सिस्टम हर नियम तोड़ने वाले कंटेंट को %100 पकड़ नहीं सकता. मेटा (Meta) ने कहा कि उसकी टीमें नई टेक्नोलॉजी तैयार कर रही हैं, नियम तोड़ने वाले लिंक ब्लॉक कर रही हैं और दूसरी कंपनियों के साथ भी जानकारी शेयर कर रही हैं ताकि ऐसे मामलों को तेजी से रोका जा सके.
युवाओं की सुरक्षा के लिए AI पर जोर
मेटा (Meta) ने अपने ब्लॉग में कहा कि चाइल्ड एब्यूज एक बेहद गंभीर अपराध है और कंपनी हर दिन अपने प्लेटफॉर्म पर और उनके बाहर भी ऐसे मामलों से लड़ रही है. कंपनी ने कहा कि भारत में इंस्टाग्राम एड्स से जुड़ी हालिया खबरों की उसे जानकारी है. उसने साफ किया कि वह अपने प्लेटफॉर्म पर इस तरह का कोई कंटेंट नहीं चाहती और इस दिशा में अपने सिस्टम को लगातार मजबूत कर रही है. मेटा (Meta) ने यह भी कहा कि यह दावा पूरी तरह गलत है कि कंपनी जानबूझकर बच्चों से जुड़े एड्स ऐसे लोगों को दिखाती है जिनकी रुचि गलत होती है. कंपनी के मुताबिक वह AI की मदद से संदिग्ध गतिविधियों वाले अकाउंट पहचानती है. पिछले साल ऐसे 40 लाख से ज्यादा संदिग्ध अकाउंट अपने आप हटा दिए गए.
करोड़ों कंटेंट और लाखों अकाउंट हटाने का दावा
मेटा (Meta) ने बताया कि उसने चाइल्ड एब्यूज रोकने के लिए अपनी AI टेक्नोलॉजी को और मजबूत किया है. अब उसकी नई सिस्टम दुनिया की 98% आबादी द्वारा बोली जाने वाली भाषाओं को सपोर्ट करती है. कंपनी के अनुसार, पिछले साल दुनिया भर में 40 लाख से ज्यादा संदिग्ध अकाउंट हटाए गए. इसके अलावा चाइल्ड एब्यूज से जुड़ी 3.6 करोड़ से ज्यादा सामग्री भी हटाई गई. भारत में पिछले छह महीनों के दौरान AI टूल्स की मदद से ऐसे 1.60 लाख अकाउंट हटाए गए, जो कथित तौर पर चाइल्ड एब्यूज से जुड़े संदिग्ध लिंक शेयर कर रहे थे.
मेटा (Meta) ने कहा कि युवाओं की सुरक्षा बढ़ाने, अपनी एड रिव्यू प्रोसेस को और मजबूत करने और अपराधियों के खिलाफ कार्रवाई के लिए वह कानून लागू करने वाली एजेंसियों के साथ मिलकर काम करती रहेगी. कंपनी ने कहा कि इस काम के लिए जरूरी सभी संसाधनों में निवेश जारी रहेगा. कैलिफोर्निया के मेनलो पार्क स्थित मेटा (Meta) के पास फेसबुक, इंस्टाग्राम और वॉट्सऐप जैसे बड़े सोशल मीडिया प्लेटफॉर्म हैं.
ये भी पढ़ें: अमेरिका-ईरान में लड़ाई और भारतीय शेयर बाजार की चढ़ाई! ये कैसे हुआ भाई?
NDTV.in पर ताज़ातरीन ख़बरों को ट्रैक करें, व देश के कोने-कोने से और दुनियाभर से न्यूज़ अपडेट पाएं
