AI को लेकर काफी बवाल मचा हुआ है. Anthropic के पूर्व रिसर्चर Jacob Coxon ने हाल ही में इसको काफी खतरनाक बताया था. उन्होंने दावा किया कि इससे मानवता को आने वाले समय में खतरा हो सकता है. उनकी बातों को दुनियाभर के रिसर्चर का सपोर्ट मिल रहा है. इसकी स्पीड को कंट्रोल करने के लिए OpenAI के CEO Sam Altman, Elon Musk, Microsoft के सीईओ Satya Nadella अपनी सहमति जता चुके हैं. अब Sam Altman ने फिर इसको लेकर अपनी बात रखी है.
X पर अपने लेटेस्ट पोस्ट में उन्होंने लिखा कि दुनिया ये भरोसा पाने की हकदार है कि लगातार बेहतर AI बना रही अमेरिकी कंपनियां जिम्मेदारी से काम करेंगी, खासकर तब जब तरक्की की रफ्तार बहुत तेज हो चुकी है. फ्रंटियर लेवल पर काम करने वाली हर लैब को इस भरोसे पर खरा उतरना होगा. अगर हम ऐसा नहीं कर सकते हैं तो हमारे काम पर आने का कोई मतलब नहीं रह जाता है.
"फ्रंटियर AI के लिए होना चाहिए एक समान सुरक्षा नियम"
OpenAI के CEO Sam Altman ने आगे कहा कि "हम एक ऐसे फेडरल कानून का स्वागत करते हैं जो फ्रंटियर AI के लिए एक समान सुरक्षा नियम तय करे. लेकिन हमारा मानना है कि लोगों को ये भरोसा देने के लिए हमें किसी कानून या एंटी-ट्रस्ट छूट का इंतजार करने की जरूरत नहीं है. फ्रंटियर एआई के खतरों से निपटने के लिए एक जैसे नियम बनाना एक अच्छा विचार है ताकि इसके फायदों को ज्यादा से ज्यादा बढ़ाया जा सके."
There are two ways AI progress could go very badly and that we must avoid.
— Sam Altman (@sama) September 14, 2026
First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and… https://t.co/GK7XcoOh3v
उन्होंने पोस्ट में लिखा कि सालों पहले, हमारे जैसी कंपनियों ने 'रिस्पॉन्सिबल स्केलिंग पॉलिसी' और 'प्रिपेयर्डनेस फ्रेमवर्क' जैसी चीजें बनाई थीं. वे उस समय के हिसाब से अच्छी थीं, और उनका पूरा ध्यान मुख्य रूप से पूरी तरह तैयार हो चुके मॉडल्स को लॉन्च करने पर था, न कि इस बात पर कि उनके डेवलपमेंट के दौरान क्या होता है.
AI की जांच पर ध्यान देने के लिए नए टूल्स की होगी जरूरत
आज सुरक्षित डेवलपमेंट और AI की जांच पर ध्यान देने के लिए नए टूल्स की जरूरत होगी. उदाहरण के लिए, OpenAI में अब हम फ्रंटियर रीइन्फोर्समेंट लर्निंग रन शुरू करने से पहले ही एक साफ-साफ सेफ्टी केस तैयार करते हैं. ये उस सुरक्षा काम के अलावा है जो हम मॉडल्स को रिलीज करने से पहले लंबे समय से करते आ रहे हैं.
हमें उम्मीद है कि दूसरी कंपनियां हमारे तरीकों से सीखेंगी और अपने तरीके सामने रखेंगी. हमारा मानना है कि मिसअलाइनमेंट (एआई का इंसानी मूल्यों से भटकना), मॉनिटरिंग और सुरक्षा को लेकर Shared Standards बनाने से बेहतर नतीजे मिलेंगे. हम इन स्टैंडर्ड का सबसे बेहतर रूप तैयार करने के लिए इंडस्ट्री के अपने साथियों के साथ मिलकर काम करने को उत्सुक हैं.
Sam Altman के अनुसार, जब रफ्तार को "नियंत्रित" करने की बात करते हैं, तो हमारा मतलब उसे "रोकने" से नहीं होता. तरक्की तेजी से हुई है और आगे भी होती रहेगी. लेकिन इसे उस रफ्तार से थोड़ा धीमा होना चाहिए जो ये सामान्य रूप से पकड़ सकती है; क्योंकि सेफ्टी केस और मॉनिटरिंग जैसे सुरक्षा उपायों में काफी लागत आती है. रफ्तार को कंट्रोल रखना इस लागत के पूरी तरह लायक होगा. अमेरिका में कड़ा कॉम्पिटिशन होने का मतलब ये कतई नहीं है कि लापरवाही को सही ठहराया जाए, या एआई की क्षमताओं को उसके तालमेल और मॉनिटरिंग से आगे निकलने दिया जाए.
अंतरराष्ट्रीय स्तर पर तालमेल बनाने के लिए हमें अपनी सरकार की मदद की जरूरत होगी. लेकिन सबसे पहले हमें वह करना चाहिए जो हम खुद अपने स्तर पर कर सकते हैं.
Sam Altman को सता रहा ये डर
उन्होंने इसके सॉल्यूशन और अंदेशे पर भी बात की. उन्होंने कहा कि AI की तरक्की दो तरह से बेहद खराब दिशा में जा सकती है, जिससे हमें हर हाल में बचना होगा. उन्होंने एक दूसरे पोस्ट में दावा किया कि हम भविष्य का कंट्रोल AI के हाथों में खो सकते हैं. ये मंजूर नहीं है. हम पूरी तरह से इंसानियत की तरफ हैं, और AI को हमेशा लोगों की सेवा करनी चाहिए. इसे पक्का करने के लिए, हमें ऐसे तरीके चाहिए जिससे अलाइनमेंट और सेफ्टी टेक्निक्स हमेशा मॉडल की क्षमताओं से एक कदम आगे रहें.
दूसरा चुनौती को लेकर उन्होंने कहा कि हम एक ऐसी दुनिया में पहुंच सकते हैं जहां ताकत कुछ ही हाथों में सिमट कर रह जाए. अगर एक बेहद ताकतवर AI का इस्तेमाल कोई एक व्यक्ति या कंपनी अपनी विचारधारा को दूसरों पर थोपने के लिए करती है, तो इसके नतीजे बेहद डरावने और विनाशकारी हो सकते हैं. इन दोनों खतरों से बचने के लिए हमें बहुत संभलकर बीच का रास्ता निकालना होगा.
ये भी पढ़ें- अगर AI इंसानों के काबू से बाहर गया तो... Satya Nadella की बड़ी चेतावनी, मस्क पहले दे चुके वार्निंग
NDTV.in पर ताज़ातरीन ख़बरों को ट्रैक करें, व देश के कोने-कोने से और दुनियाभर से न्यूज़ अपडेट पाएं
