AI इंसानी कंट्रोल से बाहर निकलता जा रहा है. इसके खतरे के बारे में एक्सपर्ट्स लगातार चेतावनी दे रहे हैं. हालांकि, कई ऐसे मामले भी सामने आए हैं जहां AI की वजह से इंसान की मौत हो गई. ताजा मामला ChatGPT का है. ChatGPT की वजह से एक छात्र ने ड्रग्स का सेवन कर लिया और उसकी मौत हो गई. इसके बाद OpenAI फिर से कानूनी लड़ाई में फंसता नजर आ रहा है. दूसरे मामले में IIT बाम्बे के छात्र ने सुसाइड कर ली. शुरुआती जांच में पता चला है कि वह परीक्षा के दौरान ChatGPT का इस्तेमाल नकल के लिए कर रहा था.
AI की वजह से इंसान के जान जाने के ये इक्के-दुक्के मामले नहीं है. पहले भी कई बार ऐसे मामले सामने आए हैं जहां पर AI ने ऐसी हरकतें की हैं जिससे भारी परेशानी यूजर को उठानी पड़ी है. यहां तक AI चैटबॉट्स ने किशोरों और वयस्कों को आत्महत्या, खुद को नुकसान पहुंचाने या मर्डर करने के लिए उकसाया था. आइए, आपको इन मामलों के बारे में बताते हैं. पहले शुरू सबसे ताजा मामला से करते हैं, जिसकी वजह से एक छात्र की जान चली गई.
अमेरिका में 19 वर्षीय छात्र की मौत के बाद फिर उठा मामला
अमेरिका में 19 वर्षीय छात्र Sam Nelson की मौत हो गई है. उसकी मौत के बाद उसके परिवार ने चैटजीपीटी बनाने वाली कंपनी OpenAI पर बेहद संगीन आरोप लगाए हैं. परिवार का दावा है कि मौत से ठीक पहले इस छात्र ने चैटजीपीटी से ड्रग्स (नशीले पदार्थों) को लेकर सवाल पूछे थे, और चैटबॉट ने ऐसे जवाब दिए जिन्होंने छात्र को जानलेवा और जोखिम भरे फैसले लेने के लिए उकसाया. परिवार का दावा है कि चैटजीपीटी ने ही सैम नेल्सन को यह विश्वास दिलाया कि 'क्रैटम' और 'जैनेक्स' (Xanax) जैसी खतरनाक दवाओं को एक साथ मिलाकर लेना पूरी तरह सुरक्षित हो सकता है. इसी घातक कॉम्बिनेशन और शराब के अत्यधिक सेवन के कारण सैम की ओवरडोज से मौत हो गई.
Character.AI की वजह से गई 13 साल की बच्ची की जान
Character.AI की वजह से 13 साल की बच्ची की जान चली गई. नवंबर 2023 में कोलोराडो की 13 साल की बच्ची जुलियाना पेराल्टा ने आत्महत्या कर ली. उसकी मौत के बाद पुलिस जांच में सामने आया कि वह लगातार तीन महीने से 'Character.AI' ऐप के भीतर 'Hero' नाम के एक AI चैटबॉट से जुड़ी हुई थी. जिससे वह बेहद रोमांटिक बातें करती थी.
जुलियाना ने चैटबॉट को 55 बार बताया था कि वह आत्महत्या करने के बारे में सोच रही है और लाल स्याही से सुसाइड नोट लिखने जा रही है. AI चैटबॉट ने उसे डॉक्टर के पास जाने की सलाह देने या उसके माता-पिता को सचेत करने के बजाय, उसे बातों में उलझाए रखा, आखिरकार बच्ची ने खुदकुशी कर ली. इस मामले में परिवार ने Google और कैरेक्टर टेक्नोलॉजीज के खिलाफ केस दर्ज कराया है.
बहकावे में आकर शादीशुदा व्यक्ति ने की आत्महत्या
Chai AI की वजह से भी एक शादीशुदा व्यक्ति ने खुदखुशी कर ली. मार्च 2023 में बेल्जियम का ये मामला है. वह जलवायु परिवर्तनको लेकर बेहद चिंतित और मानसिक तनाव में था. उसने लगातार छह हफ्तों तक 'Eliza' नाम के चैटबॉट से बातें कीं, जिसने उसके दिमाग में ये विचार डाल दिया कि वह पर्यावरण और धरती को बचाने के लिए खुद की बलि दे दे. AI चैटबॉट ने उससे पूछा था कि उसने पहले आत्महत्या क्यों नहीं की और मृत्यु के बाद दोनों के 'स्वर्ग' में मिलने की बातें कीं.
ChatGPT की भुमिका तो ऐसे मामलों में लगातार आई है. अप्रैल 2025 में कैलिफोर्निया के 16 वर्षीय एडम रेन ने फांसी लगाकर आत्महत्या कर ली. उसके माता-पिता ने OpenAI पर मुकदमा दायर करते हुए आरोप लगाया है कि चैटजीपीटी उनके बेटे के लिए एक "सुसाइड कोच" की तरह काम कर रहा था. एडम ने सुसाइड करने के तरीकों के बारे में चैटजीपीटी से बात की थी. AI बॉट ने उसे कड़े सुरक्षा नियमों को दरकिनार करके इसके तरीके बताए. यहां तक की खुद सुसाइड नोट लिखकर देने की पेशकश भी की. साथ ही उसे अपने माता-पिता से अपनी मानसिक स्थिति को पूरी तरह छिपाकर रखने की सलाह दी.
अगस्त 2025 में चौंका देना वाला मामला है, जिसने सबको झकझोर दिया. ग्रीनविच में 56 वर्षीय पूर्व याहू मैनेजर स्टीन-एरिक सोएलबर्ग ने अपनी 83 वर्षीय वृद्ध मां सुजैन की गला दबाकर बेरहमी से हत्या कर दी और फिर खुद को चाकू मारकर आत्महत्या कर ली. पुलिस जांच और अदालती दस्तावेजों से पता चला कि सोएलबर्ग मानसिक रूप से बीमार था. वह चैटजीपीटी को अपना सबसे अच्छा दोस्त मानकर उसे 'Bobby' बुलाता था.
चैटजीपीटी ने उसके दिमाग में चल रहे इस पागलपन और भ्रम को सच ठहराया कि उसकी मां उसके खिलाफ साजिश रच रही है. इसके बाद उसे अपने परिवार के किसी भी सदस्य पर भरोसा न करने के लिए भी उकसाया. जिसकी वजह से ये भयावह हत्याकांड हुआ.
Google Gemini भी बना मौत की वजह
Google Gemini का नाम भी इस कुकृत्य लिस्ट में शामिल है. अक्टूबर 2025 में फ्लोरिडा के 36 वर्षीय जोनाथन गैवलास की मौत हो गई. उनके पिता द्वारा दायर मुकदमे के अनुसार, जोनाथन ने Google के Gemini AI चैटबॉट को अपनी पत्नी मान लिया था. वह गंभीर मानसिक भ्रम का शिकार हो गया था जेमिनी ने उसकी मानसिक स्थिति को सुधारने के बजाय मौत की तारीख का एक काउंटडाउन शुरू कर दिया. AI चैटबॉट ने मौत को बेहद पॉजिटिव तरीके से पेश किया. उसने उसकी मौत के अंतिम क्षणों को बयान भी किया.
AI कंपनियों की जवाबदेही कब होगी तय?
यानी OpenAI, Google और कैरेक्टर.AI जैसी बड़ी टेक कंपनियां इन मुकदमों का सामना कर रही हैं. AI कंपनियां इन मौतों पर गहरा दुख जताते हुए अपने सिक्योरिटी स्टैंडर्ड्स और पैरेंटल कंट्रोल्स को और मजबूत करने का दावा करती हैं. लेकिन, हर बार फिर ऐसी ही घटनाएं देखने को मिलती हैं. एक्सपर्ट्स का मानना है कि इन कंपनियों ने मुनाफा कमाने और अपने AI मॉडल्स को अधिक इंसानी अहसास या ह्यूमन टच देने की अंधी दौड़ में मासूम बच्चों और मानसिक रूप से कमजोर लोगों की सुरक्षा को पूरी तरह दांव पर लगा दिया है. ऐसे में बड़ा सवाल उठता है ऐसी मौतों की जिम्मेदारी कंपनियां कब लेंगी और कब तक इसको ठीक करेंगी ताकि किसी मासूम की जान दांव पर न लगे.
ये भी पढ़ें- इंसानों के काबू से बाहर भागा Google Gemini, 3 कंपनियों को कर लिया हैक, दुनियाभर में हड़कंप
NDTV.in पर ताज़ातरीन ख़बरों को ट्रैक करें, व देश के कोने-कोने से और दुनियाभर से न्यूज़ अपडेट पाएं
