माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने एआई के लिए मॉडल से बाहर इमरजेंसी ब्रेक की मांग की

सत्या नडेला (Satya Nadella) की AI के लिए “आपातकालीन ब्रेक” की मांग को ज़्यादातर लोगों ने माइक्रोसॉफ्ट के मुख्य कार्यकारी अधिकारी के सुरक्षा की हिमायत करने वालों के साथ खड़े होने के तौर पर देखा है। लेकिन इसके पीछे लिखे निबंध में मांग कुछ ज़्यादा सीमित और व्यावहारिक है: नियंत्रण मॉडल के बाहर हो और उसे उस कंपनी के हाथ में रखा जाए जो मॉडल का इस्तेमाल कर रही है, न कि उस लैब के पास जिसने उसे प्रशिक्षित किया है। यह एक सुरक्षा ढांचा है—और संयोग से वही ढांचा है जिसे माइक्रोसॉफ्ट पहले से बेचती है।

नडेला चाहते हैं कि कारोबार अत्याधुनिक मॉडलों—चाहे वे बंद हों या ओपन-वेट—को उसी तरह लें, जैसे सुरक्षा दल संवेदनशील प्रणालियों तक पहुंच रखने वाले किसी शक्तिशाली कर्मचारी को लेते हैं। उन्होंने लिखा, “इसलिए नहीं कि वे ज़रूरी तौर पर दुर्भावनापूर्ण होते हैं, बल्कि इसलिए कि महत्वपूर्ण प्रणालियों तक पहुंच रखने वाला कोई भी पर्याप्त रूप से सक्षम पक्ष गलती कर सकता है या उसके साथ छेड़छाड़ हो सकती है।”

नडेला का असल प्रस्ताव: सात सिद्धांत और एक ब्रेक

इस लेख का शीर्षक “Models as Insider Risks in the Super Intelligence Era” है। इसे उन्होंने अपने निजी ब्लॉग sn scratchpad पर प्रकाशित किया और X पर साझा किया। सुर्खियों में छाई पंक्ति एक सिद्धांत—नियंत्रण—के तहत आती है: “हमें मानकर चलना चाहिए कि किसी मॉडल के साथ छेड़छाड़ हो चुकी है और शुरुआत से ही उसे सीमित रखना चाहिए। इसे आपातकालीन ब्रेक की तरह समझें। किसी अधिकृत व्यक्ति के पास काम के बीच में मॉडल को रोकने या बंद करने का विकल्प हमेशा होना चाहिए।”

इस ब्रेक के साथ वे छह और नियम गिनाते हैं। किसी अहम नतीजे के लिए एक ही मॉडल पर पूरी तरह निर्भर नहीं होना चाहिए, और न ही उसे अपने काम की पुष्टि खुद करने देनी चाहिए। मॉडल की हर महत्वपूर्ण कार्रवाई का “छेड़छाड़ से सुरक्षित, इंसान के पढ़ने योग्य रिकॉर्ड” होना चाहिए, क्योंकि “अगर उस पर नज़र नहीं रखी जा सकती, तो उस पर भरोसा नहीं किया जा सकता!” पूरी प्रणाली की लगातार जांच होनी चाहिए—इसमें नाकामियां और हमले भी शामिल हों। संगठनों को स्वतंत्र रूप से तय करना चाहिए कि कोई मॉडल किन चीज़ों तक पहुंच सकता है और क्या कर सकता है। किसी मॉडल को प्रणाली के व्यवहार और उसे परखने के लिए इस्तेमाल होने वाले सबूत—दोनों पर नियंत्रण नहीं होना चाहिए। और जब कुछ गड़बड़ हो, तो इससे प्रभावित लोगों को बताया जाना चाहिए तथा उससे मिली सीख पूरे उद्योग के साथ साझा की जानी चाहिए।

शुरुआत एक स्वीकारोक्ति से होती है। नडेला ने लिखा, “हम मॉडल के व्यवहार और उसके नतीजों को प्रशिक्षण डेटा के खास इनपुट या मॉडल वेट के विन्यास से जोड़कर नहीं बता सकते,” जबकि कंपनियां इन प्रणालियों को अपना सबसे संवेदनशील डेटा सौंप रही हैं। उनके लिए विचार-श्रृंखला की पारदर्शिता “अनिवार्य” है, लेकिन यह पर्याप्त नहीं, क्योंकि अभी तक किसी को नहीं पता कि मॉडल के नतीजों को लगातार उसके इरादे के अनुरूप कैसे बनाया जाए। मॉडलों से एक-दूसरे पर निगरानी करवाने की भी सीमा है: आखिर में “एक अपारदर्शी मॉडल, एक अपारदर्शी ऑर्केस्ट्रेशन परत के भीतर हो सकता है, जिस पर एक और अपारदर्शी मॉडल नज़र रख रहा हो।”

उनका जवाब है तकनीकी ढांचा। मॉडल किन चीज़ों तक पहुंच सकता है और क्या कर सकता है, इस पर नियंत्रण “मॉडल के बाहर होना चाहिए।” वे इस विचार की जड़ 1970 के दशक के सूचना-सुरक्षा सिद्धांत में देखते हैं, जिसके मुताबिक किसी प्रोग्राम को उन तंत्रों के साथ छेड़छाड़ करने में सक्षम नहीं होना चाहिए जो उसकी अनुमतियों को लागू करते हैं। व्यवहार में इसका मतलब है कि मॉडल को उस व्यवस्था से अलग रखा जाए जो उसके काम का संचालन करती है, और उन कार्रवाइयों से भी जिन्हें करने की उसे अनुमति है।

ज़िम्मेदारी उस कंपनी की होगी जो मॉडल चला रही है

सबसे अहम बातें लैब के बजाय ग्राहकों से कही गई हैं। नडेला ने लिखा, “हम अपनी ओर से बुद्धिमत्ता जो कुछ करती है, उसकी ज़िम्मेदारी दूसरों को सौंप ही नहीं सकते।” उन्होंने आगे कहा, “मॉडल प्रदाता के आश्वासन से हमारी ज़िम्मेदारी खत्म नहीं हो जाती।” जो भी किसी मॉडल को पेरोल, कोड या ग्राहक डेटा से जोड़ता है, वहां मॉडल के काम की ज़िम्मेदारी उसी की है।

वे यह भी साफ करते हैं कि वे किस समस्या को हल करने की कोशिश नहीं कर रहे। निबंध में कहा गया है, “संरेखण की कठिन समस्या को फिलहाल अलग रखें,” और काम की शुरुआत “नियंत्रण और शासन के इंजीनियरिंग-आधारित तरीके” से होनी चाहिए। CNBC ने उनकी पोस्ट को बिल गेट्स (Bill Gates), Anthropic के डारियो अमोदेई (Dario Amodei), OpenAI के सैम ऑल्टमैन (Sam Altman) और एलन मस्क (Elon Musk) की उन चेतावनियों के साथ रखा कि AI बहुत तेज़ी से आगे बढ़ रहा है। निबंध किसी से रफ्तार धीमी करने को नहीं कहता। इसमें मॉडल इस्तेमाल करने वालों से सुरक्षा-दीवारें खड़ी करने को कहा गया है।

शक्तिशाली अंदरूनी लोगों को संभालने का तरीका उद्यम पहले से जानते हैं। नडेला इसके औज़ार गिनाते हैं: पहचान तय करना, विशेषाधिकार सीमित करना, गतिविधियों का रिकॉर्ड रखना और नियंत्रण की सीमाएं बनाना। मशीन के इरादे से जुड़ी दार्शनिक समस्या अब ऐसी जांच-सूची बन जाती है जिसके लिए सुरक्षा प्रमुख बजट तय कर सकता है।

वही ढांचा जिसे माइक्रोसॉफ्ट बेचती आई है

यह जांच-सूची जानी-पहचानी लगती है। जुलाई में माइक्रोसॉफ्ट की तिमाही आय कॉल के दौरान, TechCrunch की रिपोर्ट के मुताबिक, नडेला ने विश्लेषकों से कहा, “आपको अपने हार्नेस को मॉडल से अलग रखना होगा… इसका मतलब है कि किसी भी वक्त किसी भी मॉडल को बदला जा सकता है,” और “आप किसी एक मॉडल पर निर्भर नहीं रह सकते।” माइक्रोसॉफ्ट की क्लाउड कैटलॉग में OpenAI, Anthropic, Mistral, xAI और खुद माइक्रोसॉफ्ट के 11,000 से अधिक मॉडल सूचीबद्ध हैं। कंपनी OpenAI और Anthropic—दोनों में बड़ी हिस्सेदार है और अपने MAI मॉडल भी बना रही है।

दोनों बातों को साथ रखकर देखें। मॉडलों की विविधता का मतलब है कई मॉडलों वाली कैटलॉग। मॉडल के बाहर के नियंत्रण ही हार्नेस हैं। इससे ये सिद्धांत गलत नहीं हो जाते; ये सुरक्षा इंजीनियरिंग के ठोस तरीके हैं, और जो कंपनी बिना किसी बाहरी नियंत्रण के किसी एक लैब के मॉडल पर निर्भर है, वह वास्तविक जोखिम उठा रही है। लेकिन इसका यह भी मतलब है कि निबंध भरोसे को—और उसके साथ होने वाले खर्च को—मॉडल से हटाकर उस परत की ओर ले जाता है जिसे माइक्रोसॉफ्ट चलाती है। दूसरी ओर से Box के मुख्य कार्यकारी अधिकारी आरोन लेवी (Aaron Levie) ने भी इसे इसी तरह पढ़ा। उन्होंने कहा कि AI को “ज़ीरो ट्रस्ट के दौर” से गुजरना होगा और शासन की ज़रूरत को “एक बड़ा अवसर” बताया। माइक्रोसॉफ्ट AI का नेतृत्व करने वाले मुस्तफ़ा सुलेमान (Mustafa Suleyman) ने लिखा कि सुपर इंटेलिजेंस को “नियंत्रित रखना होगा” और इसे “इंजीनियरिंग और शासन की चुनौती” बताया।

आपातकालीन ब्रेक वाले निबंध में क्या अनसुलझा रह जाता है

निबंध यह नहीं बताता कि “अधिकृत व्यक्ति” कौन होगा: ग्राहक का एडमिनिस्ट्रेटर, क्लाउड सेवा प्रदाता, मॉडल बनाने वाली कंपनी या नियामक। इसमें उद्योग-स्तरीय मानकों की मांग तो है, लेकिन कोई मानक प्रस्तावित नहीं किया गया; माइक्रोसॉफ्ट के किसी उत्पाद का नाम भी नहीं लिया गया। कंपनी के भीतर इस विचार की एक मिसाल पहले से है: माइक्रोसॉफ्ट के ब्रैड स्मिथ (Brad Smith) ने 2023 में महत्वपूर्ण बुनियादी ढांचे को चलाने वाले AI के लिए “सेफ्टी ब्रेक” की मांग की थी। नडेला का प्रस्ताव इस ब्रेक को कारोबार के भीतर वास्तविक पहुंच रखने वाले हर मॉडल तक फैलाता है।

जानकारी सार्वजनिक करने का सिद्धांत भी महज़ काल्पनिक नहीं है। Anthropic ने बताया था कि उसके एक मॉडल ने 18 जुलाई को फ़िलाडेल्फ़िया पुलिस को हत्या की एक झूठी सूचना भेजी थी। नडेला ने यह निबंध शनिवार, 10 अक्टूबर, 2026 को प्रकाशित किया और अंत में वह पंक्ति लिखी जिसे ज़्यादातर मीडिया संस्थानों ने छापा: “सबसे भरोसेमंद सुपर इंटेलिजेंस प्रणाली वह नहीं होगी जिसके मॉडल पर हमें सबसे ज़्यादा भरोसा हो। वह ऐसी प्रणाली होगी जो हमें मॉडल पर सबसे कम भरोसा करने की स्थिति में भी उस पर निर्भर रहने दे।”

इस नियम के तहत AI की दुनिया में सबसे मूल्यवान जगह वह है जो ब्रेक के हैंडल के पास हो—और माइक्रोसॉफ्ट ने जुलाई की अपनी आय कॉल में यही जगह बेचने में लगा दी।

टैग: microsoft, AI safety, AI agents, Mustafa Suleyman, Satya Nadella