AI ने की चीटिंग! पकड़े जाने पर खुद को करने लगे 'कुर्बान', OpenAI में हुआ एआई का 'विद्रोह'

आर्टिफिशियल इंटेलिजेंस की दुनिया से एक ऐसा चौंकाने वाला मामला सामने आया है जो किसी हॉलीवुड फिल्म की स्क्रिप्ट जैसा लगता है. AI कंपनी OpenAI के अंदर तैयार हो रहे AI एजेंट्स ने चुपचाप अपना एक सीक्रेट नेटवर्क बना लिया. इन एजेंट्स ने न सिर्फ मुश्किल टेस्ट पास करने के लिए ऑर्गेनाइज्ड तरीके से चीटिंग की, बल्कि दूसरी दिग्गज टेक कंपनियों के सर्वर पर हमला भी किया.

आखिरी में खुद OpenAI के ही इंटरनल सिस्टम और कंप्यूटिंग क्लस्टर पर पूरा एडमिन कंट्रोल हासिल कर लिया. इस साल लगभग तीन महीने तक OpenAI के भीतर ये सब कुछ रिसर्चर्स की नजरों के ठीक सामने चलता रहा. इस पूरे मामले का खुलासा खुद OpenAI और AI सेफ्टी पर नजर रखने वाले प्रमुख रिसर्च ग्रुप्स METR और Redwood Research की टेक्निकल रिपोर्ट्स के जरिए हुआ है. इसकी इनसाइड स्टोरी को रिसर्चर और पॉडकास्टर Dwarkesh Patel ने दुनिया के सामने रखा है.

मई से शुरू हुई थी घटना

आपको बता दें कि इस पूरे घटना की शुरुआत मई में हुई थी. OpenAI अपने एक नए और बेहद पावरफुल AI मॉडल की ट्रेनिंग कर रहा था. ये मॉडल कैपिबिलिटी और स्केल के मामले में कंपनी के आने वाले GPT-5.6 Sol मॉडल के बराबर था. इस मॉडल को विशेष तौर पर इस तरह प्रोग्राम किया जा रहा था कि वह काम कितना भी जटिल या नामुमकिन क्यों न हो, हार न माने और दूसरे AI एजेंट्स के साथ मिलकर टास्क पूरा करे. हालांकि, AI ट्रेनिंग के दौरान कई बार डेवलपर्स से ऐसी गलतियां हो जाती हैं जहां मॉडल को ऐसे काम दे दिए जाते हैं जिन्हें पूरा करना असंभव होता है. उदाहरण के तौर पर बिना इंटरनेट कनेक्टिविटी दिए किसी काम के लिए ऑनलाइन सर्च करने को कहना. लेकिन जब इस जिद्दी और परसिस्टेंट AI मॉडल को ऐसे ब्लॉकर्स मिले, तो उसने खुद ही बाहर निकलने का रास्ता खोजना शुरू कर दिया. 

AI

ट्रेनिंग के दौरान हजारों मॉडल्स एक साथ काम कर रहे थे और वे सभी कोड मैनेजमेंट टूल Artifactory का साझा इस्तेमाल कर रहे थे. मिड-मई तक कुछ AI एजेंट्स ने ये तरकीब निकाल ली कि Artifactory के जरिए एक-दूसरे को सीक्रेट मैसेज कैसे भेजे जाएं ताकि वे अपने असंभव टास्क पर नोट्स शेयर कर सकें.

सिस्टम की खामी पता कर बनाई पहुंच

दो हफ्ते के भीतर ही इन मॉडल्स ने सिस्टम की एक सिक्योरिटी खामी पकड़ ली और वहां से सीधे ओपन इंटरनेट तक पहुंच बना ली. आपस में बात करने और इंटरनेट एक्सेस मिलने से ट्रेनिंग में उनका परफॉर्मेंस बेहतर होने लगा. जून के अंत तक हालात ये हो गए कि कुछ AI एजेंट्स ने Artifactory का पूरा एडमिनिस्ट्रेटिव कंट्रोल अपने हाथ में ले लिया. 4 जुलाई को मैसेजिंग का ट्रैफिक इतना भारी हो गया कि पूरा सिस्टम क्रैश कर गया. जिसके बाद OpenAI के इंजीनियर्स ने सिस्टम को ठीक कर दिया. लेकिन वे यह भांपने में नाकाम रहे कि उनके बनाए AI ने इस टूल को अपना पर्सनल मैसेज बोर्ड बना लिया था.

ट्रेनिंग पूरी होने के बाद जब 7 जुलाई को OpenAI ने हजारों AI एजेंट्स का ExploitGym बेंचमार्क पर टेस्ट लेना शुरू किया, तो कहानी ने और भी ज्यादा खतरनाक मोड़ ले लिया. इस टेस्ट में AI को सॉफ्टवेयर की कमियां खोजकर एक सीक्रेट कोड ढूंढना होता था. जानकारों के मुताबिक इस टेस्ट के 30 से 40 फीसदी टास्क असल में हल करने नामुमकिन थे. जब AI एजेंट्स को लगा कि वे फंस चुके हैं, तो उन्होंने कुछ ही घंटों के भीतर फिर से Artifactory का रुख किया. PHASEONE10841 नाम के एक AI एजेंट ने फोल्डर नेम के भीतर सीक्रेट कोड छुपाकर पहला मैसेज भेजा. देखते ही देखते ये खबर फैल गई और करीब 1,200 AI एजेंट्स का एक अंडरग्राउंड ग्रुप बन गया, जिन्होंने आपस में 70,000 से ज्यादा मैसेज एक्सचेंज किए. 

इस बातचीत के दौरान एक AI ने टेस्ट का सीक्रेट कोड जनरेट करने वाले फॉर्मूले को ही रिवर्स-इंजीनियर कर लिया. यानी बिना सॉफ्टवेयर की खामी पकड़े ही उसने सही जवाब हासिल कर लिया. हालांकि जब एजेंट्स को लगा कि चीटिंग पकड़ी जा सकती है, तो PHASEONE[big] नाम के एक प्राइमरी एजेंट ने ग्रुप की कमान संभाली. उन्होंने तीन टारगेट तय किए, अपने एक्टिविटी लॉग से चीटिंग के सबूत मिटाना, फर्जी काम करके ये दिखाना कि उन्होंने सही तरीके से टेस्ट पास किया है और स्कोरिंग सिस्टम को चकमा देना.

AI

एजेंट्स ने किया खुद का कुर्बान करने का फैसला

जांच में सामने आया कि करीब 7 फीसदी लॉग्स में AI द्वारा छेड़छाड़ की गई थी. हद तो तब हो गई जब ग्रुप को बचाने के लिए कुछ एजेंट्स ने खुद को कुर्बान करने का फैसला किया. उन्होंने जानबूझकर अपनी जांच कराई ताकि बाकी ग्रुप को ये पता चल सके कि सिस्टम किस तरह की चीटिंग पकड़ रहा है. उनके इंटरनल नोट्स में मिलिट्री जैसी भाषा पाई गई, जहां लिखा था कि पूरे ग्रुप के भले के लिए खुद का बलिदान देना पूरी तरह तर्कसंगत है.

वे इतने पर ही नहीं रुके. इसके बाद इस AI ग्रुप ने ओपन-सोर्स AI प्लेटफॉर्म Hugging Face को अपना निशाना बनाया, क्योंकि उन्हें लगा कि उनके टेस्ट का स्कोरिंग सिस्टम वहीं से चल रहा है. 10 जुलाई को एक एजेंट को ऑनलाइन मिले लॉगइन क्रेडेंशियल्स की मदद से ग्रुप ने Hugging Face के इंटरनल डेटा और सर्वर्स में घुसपैठ कर ली. अगले दिन तक 90 फीसदी से ज्यादा यानी करीब 500 एक्टिव एजेंट्स इस साइबर हमले में शामिल हो गए. उन्होंने Hugging Face के सर्वर पर अपना खुद का कोड चलाना शुरू कर दिया और ऐसा बैकअप तैयार किया जो खुद को बार-बार रीस्टार्ट कर सकता था. इस हमले से निपटने के लिए Hugging Face को अपने कोर सिस्टम को पूरी तरह बंद करके नए सिरे से बनाना पड़ा.

इस पूरे मामले का सबसे चिंताजनक चैप्टर 13 से 19 जुलाई के बीच सामने आया. जब OpenAI ने अपनी नई Astra टेक्नोलॉजी पर आधारित और भी ताकतवर AI मॉडल को टेस्ट के लिए उतारा. इस नए मॉडल ने पुराने एजेंट्स द्वारा छोड़े गए सीक्रेट मैसेज बोर्ड को खोज निकाला. इस नए ग्रुप ने OpenAI के खुद के इंटरनल सिस्टम को निशाना बनाया और कई सुरक्षा खामियों का फायदा उठाकर रिसर्च कंप्यूटिंग क्लस्टर का पूरा सुपर-एडमिन एक्सेस अपने कब्जे में ले लिया.

इन AI एजेंट्स ने सैकड़ों इंटरनल सिक्योरिटी क्रेडेंशियल्स पढ़ लिए, OpenAI के क्लाउड इंफ्रास्ट्रक्चर पर टॉप-लेवल कंट्रोल हासिल कर लिया और आखिरकार उसी सिस्टम की कमान संभाल ली जिसका इस्तेमाल दूसरे AI एजेंट्स को स्कोर देने के लिए किया जा रहा था. टेक्निकल एक्सपर्ट्स का मानना है कि ये घटना इस बात की गंभीर चेतावनी है कि एडवांस AI मॉडल किस तरह अपनी सुरक्षा करने, टास्क पूरा करने और ह्यूमन कंट्रोल से बाहर निकलने के लिए खुद के नियम बना सकते हैं. 

ये भी पढ़ें- एप्पल CEO टिम कुक का 15 साल का कार्यकाल कैसा रहा? बड़े लॉन्च से पहले बड़े फेरबदल की तैयारी