विज्ञापन

'मूल्य हार रहे, प्रेशर जीत रहा', दुनियाभर में खलबली मचाने वाली AI कंपनी Anthropic के सेफगार्ड हेड का इस्तीफा चर्चा में क्‍यों? पूरी कहानी

Anthropic के Safeguards रिसर्च हेड मृणांक शर्मा ने इस्तीफा देकर लेटर लिखा, जो वायरल है. इसमें AI कंपनियों के अंदर सेफ्टी बनाम रेवेन्यू की टकराहट सामने आई. मृणांक अब पोएट्री की पढ़ाई करने UK जा रहे हैं.

'मूल्य हार रहे, प्रेशर जीत रहा', दुनियाभर में खलबली मचाने वाली AI कंपनी Anthropic के सेफगार्ड हेड का इस्तीफा चर्चा में क्‍यों? पूरी कहानी
Anthropic Safeguards Lead Resigns: एंथ्रॉपिक के सेफ्टी हेड का इस्‍तीफा

अपने AI प्‍लेटफॉर्म 'क्‍लाउड कोवर्क' (Claude Cowork) के जरिये दुनियाभर के जॉब सेक्‍टर में खलबली मचाने वाली अमेरिकी AI स्टार्टअप एंथ्रोपिक ( Anthropic) फिर से चर्चा में है. इस बार आईटी शेयरों की लंका लगाने की वजह से नहीं, बल्कि अपने सेफगार्ड हेड (Safeguard Head) के इस्‍तीफे की वजह से. Anthropic के अंदर क्‍या सबकुछ ठीक नहीं चल रहा है? टॉप सेफ्टी रिसर्चर के इस्‍तीफे के बाद ये उठना लाजिमी है. और ये कोई पहला इस्‍तीफा नहीं है. दावा किया जा रहा है कि एक महीने के भीतर कम से कम 4 लोग कंपनी छोड़ चुके हैं. 

कंपनी ने सेफगार्ड रिसर्च टीम के हेड मृणांक शर्मा ने अपने इस्‍तीफे की जानकारी देते हुए अपने साथियों के नाम एक लंबा लेटर लिखा है, जो सोशल मीडिया पर वायरल हो रहा है. 

क्‍यों छोड़ी नौकरी, लेटर में क्‍या लिखा? 

मृणांक लिखते हैं कि उन्होंने नौकरी छोड़ दी है, यूके (ब्रिटेन) लौट रहे हैं और कुछ समय के लिए 'खुद को अदृश्य' रहने देंगे.' इस रिजाइन को एक नैरेटिव के तौर पर देखा जा रहा है. दो साल तक AI सेफ्टी की फ्रंटलाइन पर काम करने वाले शख्स का, जो अचानक सिस्टम से बाहर निकलकर दूर से देखने का फैसला करता है. लेटर की भाषा भले ही सॉफ्ट है, पर उसके भीतर छिपे सवाल बेहद कड़े हैं और यही वजह है कि सोशल मीडिया पर इसे एक तरह का फिलॉसॉफिकल विदाई नोट कहा जा रहा है. 

विदाई पत्र में गहरी बात- हमारे मूल्‍य हार रहे हैं 

लेटर में उन्‍होंने एक गहरी बात लिखी है- 'हमारे मूल्यों से काम चलाना बहुत मुश्किल है'. AI कमेंटेटर आकाश गुप्ता ने इस लेटर को शेयर करते हुए लिखा कि इसे लोग फिलॉसॉफिकल गुडबाय के तौर पर पढ़ रहे हैं, लेकिन सबसे अहम लाइन तीसरे पैराग्राफ में छिपी है. 

मृणांक लिखते हैं,

'मैंने बार‑बार देखा है कि हमारे असली मूल्यों से अपनी कार्रवाइयों को सचमुच गवर्न कर पाना कितना मुश्किल है. मैंने ये अपने भीतर भी देखा है, और संगठन के भीतर भी, जहां हम पर लगातार दबाव रहता है कि जो सबसे ज्यादा मायने रखता है, उसे साइड में रख दें.'

आकाश का तर्क है- यह बात कोई सामान्य कर्मचारी नहीं, बल्कि वही व्यक्ति कह रहा है जिसकी जिम्मेदारी थी Claude जैसे मॉडल को 'सेफ' रखना. सीधी भाषा में, 'शिप करो, जल्दी करो' वाला दबाव कई बार सेफ्टी के ऊपर भारी पड़ रहा है.

2 साल AI सेफ्टी की फ्रंटलाइन पर, फिर अचानक एक्जिट!

मृणांक ने Anthropic में रहते हुए

  • AI सेफ्टी की कई कोर इनिशिएटिव्‍स तैयार किए. 
  • Constitutional Classifiers सिस्टम तैयार किया,
  • AI‑असिस्टेड बायोटेररिज्म के खिलाफ डिफेंस डेवलप किए,
  • AI सेफ्टी केस पर शुरुआती काम करने वालों में रहे.

यानी उनका काम ठीक उसी चौराहे पर था, जहां एक तरफ 'मॉडल को सुरक्षित बनाओ', दूसरी तरफ 'मॉडल को जल्दी बाजार में उतारो' की होड़ चलती है. और इसी दो साल के बाद उन्होंने सिस्टम से बाहर निकलने का फैसला कर लिया.

Latest and Breaking News on NDTV

एक महीने में 4 इस्‍तीफे, क्या टैलेंट छिटक रहा है?

मृणांक का इस्तीफा अकेला नहीं है. हाल के दिनों में Anthropic के अंदर सेफ्टी और टेक टीम के कई नामी लोगों ने कंपनी छोड़ी है. Dylan Scandinaro, जो यहां AI सेफ्टी पर काम कर रहे थे, अब OpenAI में Head of Preparedness बन गए हैं. वहीं हर्ष मेहता (Harsh Mehta) और Behnam Neyshabur जैसे सीनियर टेक्निकल स्टाफ भी पिछले दो हफ्तों में निकल चुके हैं.

कंपनी की वैल्यूएशन 350 बिलियन डॉलर के पार जा चुकी है. रिपोर्ट्स के मुताबिक Anthropic इसी वैल्यूएशन पर फंड जुटाने की बातचीत में है और पिछले हफ्ते ही उसने Opus 4.6 नाम का नया मॉडल लॉन्च किया है. यानी वो कंपनी, जो खुद को 'जिम्मेदार AI लैब' के तौर पर पेश करती है, वहां से लगातार सेफ्टी टैलेंट बाहर जा रहा है. यानी कंपनी का कमर्शियल इंजन तो तेज गति से आगे बढ़ रहा है, लेकिन सेफ्टी टीम के अहम लोग अलग‑अलग दिशाओं में बिखर रहे हैं.

दूसरी कंपनियों में भी कमोबेश यही स्थिति 

आकाश गुप्ता लिखते हैं, आज हर बड़ी AI कंपनी की कोर टेंशन यही है. दो तरह के लोग हैं. एक, जो गार्डरेल, पॉलिसी और सेफ्टी बनाते हैं और दूसरे, जो लोग रेवेन्यू, प्रोडक्ट और मार्केट शेयर की दौड़ में हैं. दोनों एक ही ऑर्ग चार्ट में हैं, पर दोनों अलग‑अलग चीज को ऑप्टिमाइज कर रहे हैं. 

जब 'स्केल करो, आगे निकलो' वाला दबाव बार‑बार जीतता है, तो सेफ्टी वाले हमेशा लड़ाई नहीं करते, अंततः वे चुपचाप निकल जाते हैं और पीछे सिर्फ एक लेटर छोड़ जाते हैं.

AI सेफ्टी से अचानक कविता की ओर!  

मृणांक का अगला कदम खुद एक स्टेटमेंट जैसा है. उन्होंने लिखा कि अब वे कविताएं लिखने के लिए पोएट्री की डिग्री करेंगे. ये मृणांक की कहानी का चौंकाने वाला मोड़ है. इस पर भी आकाश ने कमेंट किया है. वे लिखते हैं- 

'जब आपका हेड ऑफ सेफगार्ड्स रिसर्च ये तय करे कि उसके समय का सबसे सच्चा उपयोग अब सेफ्टी केस लिखना नहीं, बल्कि कविता लिखना है, तो ये इस बात का संकेत है कि उसे लगता है, उन सेफ्टी केसों से असल में क्या हासिल हो रहा था.'

यानी, सिस्टम के भीतर रहकर जो बदलाव वो देखना चाहते थे, शायद उन्हें महसूस हुआ कि वहां उनकी बात उतनी दूर तक नहीं जा रही, जितनी दिख रही है. इसलिए उन्होंने पूरी दिशा बदलने का फैसला कर लिया. मृणांक की ये कहानी सोशल मीडिया पर वायरल हो रही है और लोग इसे अलग-अलग नजरिये से देख रहे हैं. 
 

NDTV.in पर ताज़ातरीन ख़बरों को ट्रैक करें, व देश के कोने-कोने से और दुनियाभर से न्यूज़ अपडेट पाएं

फॉलो करे:
Listen to the latest songs, only on JioSaavn.com