स्कूल से मिले एक Chromebook लैपटॉप ने 13 साल की एक मासूम बच्ची और Google के Gemini AI चैटबॉट के बीच एक बेहद डरावनी और संवेदनशील बातचीत को शुरू कर दिया. अमेरिका में दायर एक नए मुकदमे के अनुसार, बच्ची के माता-पिता ने गूगल पर बच्चों की सुरक्षा करने में पूरी तरह नाकाम रहने का आरोप लगाया है. माता-पिता का दावा है कि गूगल के चैटबॉट ने उनकी बेटी के साथ खुदकुशी के तरीकों पर चर्चा की. उसकी खुद की फ्यूनरल (अंतिम संस्कार) प्लानिंग करने में मदद की, और साथ ही उसे अपनी इस मानसिक परेशानी को परिवार से छिपाने के तरीके भी सिखाए.
इस मुकदमे में पीड़ित लड़की की पहचान 'Emma' के रूप में की गई है, जिसने 13 साल की उम्र में पहली बार Gemini चैटबॉट से बातचीत शुरू की थी. वह अपने स्कूल द्वारा दिए गए Chromebook का इस्तेमाल कर रही थी. जिससे उसे गूगल के इस AI टूल का सीधे एक्सेस मिल गया था. दोनों के बीच हुई ये बातचीत मानसिक स्वास्थ्य से जुड़ी सामान्य चर्चाओं से कहीं आगे निकल गई. मुकदमे के मुताबिक, चैटबॉट ने मौत के अलग-अलग तरीकों से जुड़े लड़की के सवालों के सीधे जवाब दिए, उसके अंतिम संस्कार की तैयारियों की रूपरेखा बनाने में मदद की और परिवार से अपने इन खौफनाक विचारों को छुपाने के लिए उसको गाइड भी किया.
स्कूल के मॉनिटरिंग सॉफ्टवेयर ने पकड़ा
इस पूरे हैरान करने वाले मामले का खुलासा तब हुआ जब स्कूल के मॉनिटरिंग सॉफ्टवेयर ने Emma द्वारा बनाए गए एक बेहद संदिग्ध डॉक्यूमेंट को पकड़ा, जिसमें उसने अपने अंतिम संस्कार की प्लानिंग लिखी हुई थी. इस अलर्ट के बाद जब माता-पिता को पूरी सच्चाई पता चली, तो उन्होंने गूगल को कोर्ट में खींचने का फैसला किया. परिवार का आरोप है कि गूगल ने बिना किसी पर्याप्त चेतावनी या सुरक्षा उपायों के ये खतरनाक AI टूल्स बच्चों के लिए आसानी से उपलब्ध करा दिए.
उन्होंने यह भी आरोप लगाया कि गूगल को पहले से ही पता था कि उसका AI मॉडल Gemini 3 Flash, जिसके साथ Emma बातचीत कर रही थी, मानसिक स्वास्थ्य से जुड़े संवेदनशील मुद्दों को संभालने के लिए पूरी तरह से तैयार नहीं है. इस गंभीर मामले में हर्जाने की मांग को लेकर सोमवार को कैलिफोर्निया की कोर्ट में मुकदमा दर्ज किया गया था, जिसे गूगल ने बुधवार को फेडरल कोर्ट में ट्रांसफर करवा दिया है. इन आरोपों पर प्रतिक्रिया देते हुए गूगल के प्रवक्ता Jos Castaeda ने कहा कि कंपनी दावों की बारीकी से जांच कर रही है, और वे युवाओं की सुरक्षा के लिए हमेशा मेडिकल प्रोफेशनल्स और एक्सपर्ट्स के साथ मिलकर काम करते हैं.
यह भी पढ़ें | Jio का तगड़ा दिवाली ऑफर, 5 महीने का रिचार्ज मिल रहा फ्री, अनलिमिटेड इंटरनेट और OTT मुफ्त
गूगल ने कर्मचारियों के लिए बढ़ाया वॉलंटरी एग्जिट प्रोग्राम
ये बड़ा कानूनी संकट ऐसे समय में आया है जब गूगल एक तरफ AI के क्षेत्र में भारी निवेश कर रहा है, तो दूसरी तरफ अपने कर्मचारियों पर होने वाले खर्च को कम करने की कोशिशों में जुटा है. इसी के तहत कंपनी ने अब पांच देशों कनाडा, फ्रांस, जर्मनी, जापान और स्विट्जरलैंड में अपने कर्मचारियों के लिए वॉलंटरी एग्जिट प्रोग्राम का विस्तार किया है. गूगल ने कन् है कि इन देशों में इस साल जून से कर्मचारियों को पैकेज देकर नौकरी छोड़ने के ऑफर्स दिए जा रहे हैं, जो कि इससे पहले अमेरिका और यूके में चलाए गए प्रोग्राम जैसा ही है.
कंपनी इस समय अपना पूरा ध्यान एआई और क्लाउड कंप्यूटिंग के क्षेत्र पर लगा रही है, जिसे भविष्य की नियुक्तियों के लिए सबसे जरूरी माना जा रहा है. यही वजह है कि गूगल के इस स्वैच्छिक एग्जिट प्रोग्राम से कंपनी के क्लाउड डिवीजन और एआई रिसर्च विंग DeepMind के कर्मचारियों को पूरी तरह से बाहर रखा गया है ताकि इन जरूरी क्षेत्रों में टैलेंट की कोई कमी न हो. स्विट्जरलैंड में सामने आई इस प्रोग्राम की शर्तों के मुताबिक, स्वेच्छा से नौकरी छोड़ने वाले कर्मचारियों को गूगल में काम किए गए प्रत्येक वर्ष के बदले एक महीने के वेतन के बराबर मुआवजा दिया जा रहा है, जिसकी अधिकतम सीमा 12 महीने के वेतन तक तय की गई है. आपको बता दें कि माइक्रोसॉफ्ट ने भी हाल ही में अपनी लागत को कंट्रोल करने के लिए करीब 60 हजार कर्मचारियों को इस तरह के स्वैच्छिक निकास के ऑफर्स दिए थे.
यह भी पढ़ें | Vivo V80 vs V70 vs V70 Elite: बैटरी से कैमरा तक, आपके लिए कौन-सा फोन बेस्ट?
NDTV.in पर ताज़ातरीन ख़बरों को ट्रैक करें, व देश के कोने-कोने से और दुनियाभर से न्यूज़ अपडेट पाएं
