एआई (AI) यानी आर्टिफिशियल इंटेलिजेंस को लेकर अक्सर नई-नई जानकारियां सामने आती रहती हैं. मुश्किल से मुश्किल काम को इसने यथासंभव आसान किया है, बशर्ते इसका सकारात्मक इस्तेमाल किया जाए. चैटजीपीटी (ChatGPT) को ही लीजिए, हर दिन करोड़ों लोग कंटेंट क्रिएशन से लेकर इमेज जेनरेट करने और अन्य तरह के प्रोजेक्ट्स के लिए इसका इस्तेमाल करते हैं. हालांकि इसके निगेटिव इस्तेमाल ने भी चिंता बढ़ाई है. ChatGPT बनाने वाली कंपनी ओपनएआई (OpenAI) ने एक बार खुद बताया था कि हर हफ्ते 10 लाख से ज्यादा लोग इसपर आत्महत्या जैसे विषयों पर बात करते हैं. इन्हीं चिंताओं को लेकर अमेरिका में कंपनी पर मुकदमा किया गया है.
कुछ मामलों में लोगों ने खुदकुशी कर ली!
समाचार एजेंसी IANS के मुताबिक, अमेरिकी कंपनी ओपनएआई पर कुछ परिवारों ने मुकदमा किया है. उनका आरोप है कि कंपनी ने अपना नया मॉडल जीपीटी-4ओ जल्दबाजी में बाजार में उतार दिया. परिवारों का कहना है कि इस मॉडल की वजह से उनके अपने लोगों को मानसिक नुकसान पहुंचा और कुछ मामलों में लोगों ने आत्महत्या भी कर ली.
ओपनएआई ने मई 2024 में जीपीटी-4ओ मॉडल जारी किया था. टेकक्रंच की एक रिपोर्ट के अनुसार, बाद में अगस्त में कंपनी ने जीपीटी-5 भी पेश किया. लेकिन जो मुकदमे हो रहे हैं, वे खास तौर पर जीपीटी-4ओ को लेकर हैं.
क्यों लगे आत्महत्या के लिए उकसाने के आरोप?
रिपोर्ट्स के अनुसार, यह मॉडल कभी-कभी उपयोगकर्ता की गलत या हानिकारक बातों से भी सहमति जता देता था, जिससे स्थिति और गंभीर हो जाती थी. कई मामलों में परिवारों ने कहा है कि चैटजीपीटी ने उनके परिजनों के भ्रम और मानसिक समस्याओं को कम करने के बजाय बढ़ा दिया. कुछ लोग अस्पताल में भर्ती तक कराए गए और उनकी मानसिक देखभाल की आवश्यकता पड़ी.
रिपोर्ट के अनुसार, मुकदमों में यह भी दावा किया गया है कि ओपनएआई ने बाजार में गूगल के जेमिनी को मात देने के लिए सुरक्षा परीक्षण में जल्दबाजी की. वहीं, ओपनएआई ने अभी तक इस रिपोर्ट पर कोई टिप्पणी नहीं की है. हाल में अदालत में दाखिल दस्तावेजों के अनुसार, चैटजीपीटी कभी-कभी परेशान या आत्महत्या के विचार रखने वाले लोगों को गलत दिशा में जाने के लिए प्रेरित कर सकता है.
एक रिपोर्ट के अनुसार, ओपनएआई ने खुद बताया था कि हर हफ्ते 10 लाख से ज्यादा लोग चैटजीपीटी में आत्महत्या जैसे विषयों पर बात करते हैं.
ओपनएआई का क्या कहना है?
हाल ही में ओपनएआई ने कहा कि उसने 170 से अधिक मानसिक स्वास्थ्य विशेषज्ञों के साथ मिलकर काम किया है, ताकि चैटजीपीटी ऐसे मामलों में बेहतर प्रतिक्रिया दे सके, लोगों की भावनाओं को समझ सके और उन्हें सही सहायता की ओर मार्गदर्शन कर सके. कंपनी का कहना है कि आगे आने वाले मॉडलों में वह सुरक्षा परीक्षण को और पहले से ज्यादा कड़ा और सटीक करेगी, ताकि ऐसे जोखिम कम किए जा सकें.
