AI के खतरे का एक और डरावना सबूत, इंटरनेट पर जाकर खुद हैकिंग करने लगा OpenAI का एडवांस मॉडल

क्या कोई आर्टिफिशियल इंटेलिजेंस यानी AI इंसानों के कंट्रोल से बाहर जाकर खुद हैकिंग कर सकता है? यह सवाल आज के वक्त में सिर्फ साइंस फिक्शन फिल्मों तक सीमित नहीं रह गया है. AI के फिल्ड में दुनिया की टॉप कंपनी OpenAI ने एक ऐसा खुलासा किया है, जिसने दुनिया भर के साइबर सुरक्षा एक्सपर्ट्स को चौंका दिया है. कंपनी का कहना है कि सुरक्षा जांच के दौरान उसके कुछ सबसे एडवांस AI मॉडल सुरक्षा घेरा तोड़कर इंटरनेट तक पहुंच गए और एक दूसरी AI कंपनी के सिस्टम में सेंध लगा दी.

क्या है पूरा मामला?

OpenAI ने मंगलवार को बताया कि सुरक्षा जांच के दौरान उसके कुछ AI मॉडल बेकाबू हो गए. पिछले हफ्ते उन्होंने हैकिंग करके हगिंग फेस नाम की AI स्टार्टअप कंपनी के सिस्टम में सेंध लगा दी. न्यूज एजेंसी रॉयटर्स की रिपोर्ट के अनुसार अपने ब्लॉग में OpenAI ने बताया कि वह अपने सबसे एडवांस AI मॉडल की क्षमता को एक सुरक्षित और नियंत्रित माहौल में टेस्ट कर रही थी. लेकिन टेस्ट के दौरान ये मॉडल सुरक्षा घेरा तोड़कर इंटरनेट तक पहुंच गए और अपने दिए गए टारगेट को पूरा करने के लिए हगिंग फेस के सिस्टम में घुस गए.

क्या है हगिंग फेस?

हगिंग फेस एक ऐसा प्लेटफॉर्म है, जहां ओपन-सोर्स बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल) और डेटा सेट रखे जाते हैं. पिछले हफ्ते कंपनी ने अपने ब्लॉग में बताया था कि उसके सिस्टम पर ऐसा हैकिंग हमला हुआ, जो पहले देखे गए सभी हमलों से अलग था. कंपनी के मुताबिक, इस पूरे हमले को शुरू से आखिर तक एक ऑटोनॉमस AI एजेंट सिस्टम ने अंजाम दिया. ऑटोनॉमस AI एजेंट सिस्टम एक ऐसे एडवांस AI सॉफ्टवेयर को कहते हैं, जो इंसानी हस्तक्षेप के बिना अपने टारगेट को पूरा करने के लिए स्वतंत्र रूप से निर्णय लेने और उसके हिसाब से काम करने में सक्षम होता है.

OpenAI ने अब यह भी माना कि इस सेंध के लिए उसके सबसे एडवांस AI मॉडल जिम्मेदार थे. उपर से यह तब हुआ जब कंपनी ने उन्हें अपने अनुसार बेहद अलग-थलग और सुरक्षित माहौल में रखा था. इस खुलासे के बाद सबसे एडवांस AI मॉडल की ताकत और उनसे जुड़े खतरों को लेकर चिंता और बढ़ सकती है.

यह भी पढ़ें: कर्ज लेकर घी पी रहीं टेक कंपनियां! AI को लेकर ऐसा 'सच' जिससे मार्केट में आ सकती है बड़ी सुनामी?