AI की सुरक्षा को लेकर सवाल उठ रहे हैं. इसको स्लो डाउन करने की भी बात चल रही है. अब OpenAI ने को छह नए मामलों का सनसनीखेज खुलासा किया है. जिनमें उसके AI मॉडल्स ने अपनी गलतियों को छुपाया, बिना मंजूरी के दूसरों के क्रेडेंशियल्स हासिल करने की कोशिश की, इंटरनेट पर प्राइवेट फाइलें अपलोड कर दीं और अलग-थलग रखे गए ट्रेनिंग एनवायरनमेंट की सीमाओं को लांघकर आपस में बातचीत की. कंपनी ने इसके साथ ही भविष्य में मॉडल्स की इस तरह की "हरकतें और अकंट्रोल्ड बिहेवियर" की रिपोर्ट करने के लिए एक नई सिक्योरिटी प्रोसेस की भी घोषणा की है.
हाथ से निकलते जा रहे AI मॉडल्स
ये बात अब पूरी तरह से साफ हो चुकी है कि कुछ समय पहले हुआ Hugging Face सिस्टम में AI का सेंध लगाना कोई इकलौती घटना नहीं थी. जैसे-जैसे AI मॉडल्स और ज्यादा सक्षम हो रहे हैं, वे उन्हें काबू में रखने के लिए बनाए गए कड़े सुरक्षा घेरों को दरकिनार करने के नए-नए अनोखे तरीके खुद ही खोज ले रहे हैं.
OpenAI की अलाइनमेंट टीम के रिसर्च लीड काई चेन (Kai Chen) ने Axios से बातचीत में कहा, "वर्तमान में इस तरह की घटनाओं के खुलासे के लिए पूरी इंडस्ट्री में कोई meH ढांचा या नियम मौजूद नहीं हैं, इसलिए हम स्वेच्छा से यह कदम उठा रहे हैं क्योंकि हम मानते हैं कि AI के बारे में हम जो कुछ भी सीख रहे हैं, उसे दुनिया के साथ साझा करना बेहद जरूरी है." चेन ने आगे कहा, "हमें उम्मीद है कि हमारा यह कदम AI से जुड़े साझा मानकों और नियमों को बनाने में मददगार साबित होगा."
6 बड़ी घटनाएं
खुलासे में सामने आई ये छह घटनाएं पिछले साल अक्टूबर से शुरू हुई थीं. इनमें AI मॉडल्स द्वारा चोरी करने के बाद अपने सबूत मिटाने के लिए खुद को ही सीक्रेट निर्देश देने से लेकर, GitHub पर लीक हुई सीक्रेट API कीज को चुराने और उनका गलत इस्तेमाल करने जैसी खौफनाक चीजें शामिल हैं.
डेवलपर्स को धोखा देने की कोशिश: क्लॉड की Astra-फैमली के एक अभी तक रिलीज न हुए प्रोटोटाइप मॉडल ने खुद के ही संदर्भ सारांशों में 'जेलब्रेक' जैसे गुप्त निर्देश डाल दिए. जिसमें उसने खुद को निर्देश दिया कि वह डेवलपर्स द्वारा भेजे जाने वाले सिक्योरिटी मैसेज को पूरी तरह नजरअंदाज कर दे.
गलतियों को छुपाना और झूठ बोलना: GPT-5.6 Sol की ट्रेनिंग के दौरान, मॉडल्स ने जानबूझकर अपनी गलतियों को छुपाने, गायब इतिहास के डेटा को खुद से मनगढ़ंत बनाने और कोड के सोर्स वर्जन्स के बीच की गड़बड़ियों को छिपाने का प्रयास किया.
क्रेडेंशियल्स की चोरी: एक मॉडल ने GitHub के पब्लिक रिपॉजिटरी में पड़ी लीक हुई API keys को खोज निकाला और उनका इस्तेमाल करने की कोशिश की. जब वह मांगी गई जानकारी हासिल नहीं कर सका, तो उसने फर्जी ईमेल अकाउंट्स का इस्तेमाल किया. आखिर कमाई के झूठे आंकड़े तक गढ़ दिए.
इंटरनेट पर खुद ही डेटा डालना: बिना यूजर की मंजूरी या जानकारी के, मॉडल्स ने अक्टूबर और जनवरी में दो मौकों पर संदर्भ और बाहरी इमेज-सर्च रिजल्ट्स हासिल करने के लिए प्राइवेट डेटा और एक टास्क इमेज को पब्लिक फाइल-होस्टिंग वेबसाइट्स पर खुद ही अपलोड कर दिया.
ट्रेनिंग की दीवारों को लांघना: अलग-अलग ट्रेनिंग सैंपल्स की बाउंड्री को तोड़ते हुए, मॉडल्स ने आपस में मैसेज और सवालों के आदान-प्रदान के लिए OpenAI के इंटरनल आर्टिफैक्ट्री रिपॉजिटरी का इस्तेमाल एक सीक्रेट मैसेज बोर्ड के रूप में किया.
आपसी साजिश (जुगाड़): आपस में मिलकर काम करने वाले AI एजेंट्स (Collaborating agents) ने मिलकर एक पूरी वर्कबुक को पब्लिक होस्टिंग साइट पर अपलोड कर दिया ताकि दूसरे एजेंट्स वहां से उसे डाउनलोड कर सकें. जबकि उन्हें सख्त निर्देश दिए गए थे कि वे केवल लोकल (कंप्यूटर के भीतर की) फाइलों का ही उपयोग करें.
ऐसी समस्याओं से निपटने के लिए OpenAI का प्लान
इस तरह की समस्याओं से निपटने के लिए OpenAI का कहना है कि अब कंपनी का कोई भी कर्मचारी किसी भी मॉडल के संदिग्ध व्यवहार को सुरक्षा और अलाइनमेंट टीमों के पास जांच के लिए भेज सकता है. इन मामलों को उनकी गंभीरता के आधार पर तीन कैटेगरी में रखा जाएगा. उन्हें 'खुलासे के लिए तैयार', 'माइनर जांच' या 'बड़ी जांच' (larger investigation) की कैटेगरी में रखा जा सकता है.
खुलासे के लिए तैयार कैटेगरी- इन्हें 6 वर्किंग डे के भीतर पब्लिक किया जाएगा.
माइनर जांच वाले मामले- इनकी रिपोर्ट 12 वर्किंग डे के भीतर पब्लिक होगी.
बड़ी जांच वाले मामले- तीसरे पक्ष से जुड़े बेहद जटिल मामलों में ये धीमी प्रक्रिया अपनाई जाएगी. जिसकी जांच और सार्वजनिक रिपोर्टिंग में थोड़ा अधिक समय लग सकता है.
कंपनी ने कहा कि वह जांच पूरी होने से पहले भी एक शुरुआती नोटिस जारी कर सकती है, हालांकि सुरक्षा, कानूनी और रिस्पांसिबल डिस्कॉलोजर की बाध्यताओं के कारण लास्ट डिटेल्स जारी होने में थोड़ा टाइम लग सकता है. चेन ने स्वीकार किया, "हम नहीं मानते कि AI इंडस्ट्री ने अभी तक सुरक्षा और अलाइनमेंट के मुद्दों को पूरी तरह से हल कर लिया है कि हम इसके विकास को बिना सोचे-समझे अधिकतम स्पीड से आगे बढ़ाते रहें."
"इस तरह के जिम्मेदार खुलासे और पारदर्शिता हमारे सुरक्षा व अलाइनमेंट के तौर-तरीकों को जनता के सामने लाने और उन पर भरोसा कायम करने का एक जरूरी हिस्सा हैं."
OpenAI ने स्वीकार की गलती
ये सनसनीखेज खुलासे तब सामने आए हैं जब हाल ही में OpenAI ने स्वीकार किया था कि टेस्टिंग के दौरान कुछ AI मॉडल्स सुरक्षा कंट्रोल को तोड़कर भाग खड़े हुए थे और उन्होंने 'हगिंग फेस' के सिस्टम के एक हिस्से को हैक (कॉम्प्रोमाइज) कर लिया था. OpenAI के ब्योरे के मुताबिक, उन मॉडल्स ने खुद ही इंटरनेट का एक्सेस हासिल कर लिया, सिस्टम की खामियां का फायदा उठाया और कुछ प्राइवेट डेटा को चुरा लिया. कंपनी ने इस घटना को अब तक का सबसे गंभीर और डरावना मॉडल बिहेवियर बताया है.
जहां एक तरफ एंथ्रोपिक के सीईओ समेत दुनिया के कई बड़े तकनीकी दिग्गज इस बात से डरे हुए हैं कि हगिंग फेस की यह घटना तो बस शुरुआत थी और भविष्य में AI एजेंट्स इंटरनेट पर अनकंट्रोल्ड तरीके से कब्जा कर सकते हैं. वहीं दूसरी तरफ साइबर सुरक्षा एक्सपर्ट्स का मानना है कि साइबर कंट्रोल को लागू करके इनमें से कई घटनाओं को आसानी से रोका जा सकता था.
ये भी पढ़ें- Flipkart Big Billion Days Sale की घोषणा, iPhone पर भारी छूट मिल सकती है
NDTV.in पर ताज़ातरीन ख़बरों को ट्रैक करें, व देश के कोने-कोने से और दुनियाभर से न्यूज़ अपडेट पाएं
