Nate Soares: वह AI शोधकर्ता जिन्होंने रिटायरमेंट के लिए बचत करना छोड़ दिया

Nate Soares

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

जन्म	1989
पेशा	कृत्रिम बुद्धिमत्ता शोधकर्ता

नेट सोअर्स (Nate Soares) के पास अब भी वह रिटायरमेंट खाता है, जो उन्होंने Google में रहते हुए खुलवाया था। करीब दस साल से उन्होंने उसमें कोई पैसा नहीं डाला है। इसकी वजह लापरवाही नहीं है: Machine Intelligence Research Institute के अध्यक्ष का मानना है कि अतिमानवीय कृत्रिम बुद्धिमत्ता शायद उन्हें इतना बूढ़ा होने से पहले ही सबको मार डालेगी कि वे उस रकम को खर्च कर सकें। अब वे यह बात सार्वजनिक रूप से ऐसे सपाट, शांत लहजे में कहते हैं, मानो कोई इंजीनियर परीक्षण का नतीजा पढ़कर सुना रहा हो। इस पतझड़ में एक साक्षात्कारकर्ता से उन्होंने कहा, «मैं AI की वजह से नौकरियाँ खत्म होने की चिंता करने वाला आदमी नहीं हूँ। मैं उस AI की बात कर रहा हूँ जो सभी इंसानों को मार डालेगा।» उनके काम को दिशा देने वाला सवाल वही है, जिसे वे अनुत्तरित ही रखना चाहते हैं: क्या सबसे बुरे नतीजे की आशंका रखने वाला व्यक्ति, इस तकनीक को बनाने वालों को इसे रोकने के लिए राज़ी कर सकता है?

उन्हें आसानी से ख़ारिज न कर पाने की वजह यह है कि वे जिस पृष्ठभूमि से आए हैं, वह मायने रखती है। सोअर्स ऐसे दार्शनिक नहीं हैं जिन्होंने देर से कंप्यूटिंग की दुनिया में कदम रखा हो। उन्होंने George Washington University में कंप्यूटर विज्ञान और अर्थशास्त्र की पढ़ाई की, फिर संघीय सरकार के लिए सॉफ्टवेयर बनाया—पहले National Institute of Standards and Technology में शोध सहयोगी के तौर पर और फिर Department of Defense के ठेकेदार के रूप में, जहाँ उन्होंने National Defense University के लिए टूल तैयार किए। इसके बाद Microsoft और Google का दौर आया—वे कंपनियाँ, जिन पर लगाम लगाने की अपील वे अब सरकारों से करते हैं।

2014 में, बीस की उम्र के आख़िरी पड़ाव में (उनका जन्म 1989 में हुआ था), वे Google छोड़कर कैलिफ़ोर्निया के बर्कले स्थित एक छोटे गैर-लाभकारी संस्थान में चले गए। यह संस्थान कई साल से ऐसा सवाल पूछ रहा था जिसे उद्योग जगत का बड़ा हिस्सा विज्ञान-कथा मानता था: अपने से ज़्यादा बुद्धिमान दिमाग़ से अपनी मंशा के मुताबिक काम कैसे कराया जाए? MIRI में शोध फ़ेलो रहते हुए वे संस्थान की तकनीकी शोध-योजना के प्रमुख लेखक बने। यह योजना बेन्या फ़ालेनस्टीन (Benya Fallenstein) के साथ लिखी गई और बाद में «Agent Foundations for Aligning Machine Intelligence with Human Interests» शीर्षक से प्रकाशित हुई। जनवरी 2015 में इस योजना का हवाला स्टुअर्ट रसेल (Stuart Russell), डैनियल डेवी (Daniel Dewey) और मैक्स टेगमार्क (Max Tegmark) के शोधपत्र «Research Priorities for Robust and Beneficial Artificial Intelligence» में दिया गया। यह शोधपत्र उस खुले पत्र के साथ प्रकाशित हुआ था, जिसमें AI शोधकर्ताओं से अपील की गई थी कि वे अपने सिस्टम की सामाजिक उपयोगिता को उतनी ही गंभीरता से लें जितनी उनकी कच्ची क्षमता को।

इसी दौर में वह शोधपत्र भी आया जिसने इस क्षेत्र की शब्दावली को आकार देने में मदद की। बेन्या फ़ालेनस्टीन, एलिएज़र युडकोव्स्की (Eliezer Yudkowsky) और स्टुअर्ट आर्मस्ट्रॉन्ग (Stuart Armstrong) के साथ लिखा गया और 2015 की शुरुआत में AAAI की एक कार्यशाला में प्रस्तुत «Corrigibility» ऐसे सवाल से जूझता था जो सुनने में आसान, पर हल करने में नहीं है: कोई सिस्टम उपयोगी होने लायक पर्याप्त सक्षम हो, तो वह इतना सक्षम भी हो सकता है कि उसे सुधारने या बंद करने की कोशिश का विरोध करे। सोअर्स और युडकोव्स्की का कहना है कि इस शोधपत्र ने «AI alignment problem» शब्द दिया—आज वही वाक्यांश उन प्रयोगशालाओं में भी इस्तेमाल होता है जिनकी योजनाओं का वे विरोध करते हैं।

2015 के बाद के हिस्से में सोअर्स ने ल्यूक म्यूहलहाउज़र (Luke Muehlhauser) की जगह MIRI के कार्यकारी निदेशक का पद संभाला और आठ साल तक इस भूमिका में रहे। उनके नेतृत्व में संस्थान ने उत्पाद बनाने के बजाय अमूर्त गणित पर काम किया: निर्णय सिद्धांत, तार्किक अनिश्चितता और यह औपचारिक सवाल कि किसी एजेंट को अपने बारे में तर्क कैसे करना चाहिए। उन्होंने स्कॉट गैराब्रांट (Scott Garrabrant) और अन्य लोगों के साथ «A Formal Approach to the Problem of Logical Non-Omniscience» सह-लिखा। बेंजामिन लेविनस्टीन (Benjamin Levinstein) के साथ लिखा उनका निर्णय-सिद्धांत पर शोधपत्र «Cheating Death in Damascus» 2020 में The Journal of Philosophy में प्रकाशित हुआ। 2017 में वे Google लौटे और वहाँ एक व्याख्यान दिया, जिसमें उन्होंने अलाइनमेंट के अनसुलझे सवालों को सामने रखा और दलील दी कि वे इस क्षेत्र की धारणा से कहीं अधिक कठिन हैं। अपने ब्लॉग Minding Our Way पर उन्होंने प्रेरणा के विषय पर निबंधों की शृंखला Replacing Guilt भी लिखी। अब पाठक इसे किताब के रूप में खरीद सकते हैं। कुछ हलकों में इसने उन्हें मशीनों से जुड़े काम के बजाय काम करने के तरीकों पर सलाह देने के लिए अधिक प्रसिद्ध किया।

बदलाव 2023 में आया। MIRI ने घोषणा की कि वह अपना ध्यान अलाइनमेंट शोध से हटाकर नीति-निर्माताओं और आम लोगों को चेतावनी देने पर लगाएगा, हालाँकि कुछ तकनीकी काम को समर्थन देना जारी रहेगा। सोअर्स कार्यकारी निदेशक से अध्यक्ष बने और मालो बॉर्गॉन (Malo Bourgon) मुख्य कार्यकारी अधिकारी बने। 2025 में सोअर्स ने The Atlantic को बताया कि वे जन-जागरूकता पर ध्यान दे रहे हैं, क्योंकि AI का विकास इतनी तेज़ी से हो रहा है कि पर्याप्त सुरक्षा उपाय लागू करने का समय नहीं मिल रहा।

इसी बदलाव के नतीजे में युडकोव्स्की के साथ लिखी गई If Anyone Builds It, Everyone Dies किताब आई, जिसे Little, Brown ने सितंबर 2025 में प्रकाशित किया। इसकी दलील शीर्षक में ही है। «मौजूदा तकनीकों से ज़रा भी मिलती-जुलती किसी तकनीक» का इस्तेमाल करके बनाई गई अतिबुद्धिमत्ता का अंत मानवता के विलुप्त होने में होने की बहुत आशंका है; अलाइनमेंट शोध इसके लिए तैयार होने से कोसों दूर है; और केवल अंतरराष्ट्रीय नियमन ही डेवलपरों को ऐसे सिस्टम की ओर दौड़ने से रोक सकता है जिन्हें लेखक विनाशकारी रूप से ख़तरनाक मानते हैं। अक्टूबर 2025 में यह किताब The New York Times की बेस्टसेलर सूची में पहुँची। इसके बाद Planeta से इसका स्पैनिश संस्करण आया और Hayakawa Shobo ने अप्रैल 2026 में इसका जापानी अनुवाद प्रकाशित किया।

किताब को मिली प्रतिक्रिया ने दलील की कमज़ोर कड़ी उजागर कर दी। कुछ सबसे तीखी आपत्तियाँ उन्हीं लोगों की ओर से आईं जो लेखकों की चिंता से सहमत हैं। प्रभावी परोपकार आंदोलन के संस्थापकों में से एक, विल मैकएस्किल (Will MacAskill) ने किताब को निराशाजनक बताया। उनका कहना था कि यह विकासवाद से तुलना पर टिकी कमज़ोर दलीलों और इस अनकही धारणा पर निर्भर करती है कि AI की प्रगति सीढ़ी-दर-सीढ़ी आगे बढ़ने के बजाय अचानक छलाँग लगाएगी। एस्टरिस्क में क्लारा कोलियर (Clara Collier) की समीक्षा का शीर्षक उन सहानुभूतिपूर्ण पाठकों की निराशा का सार था: «More Was Possible»। यहाँ एक असहज पहलू भी है, जिस पर सोअर्स शायद ही कभी विस्तार से बात करते हैं। MIRI ने अलाइनमेंट की समस्या सुलझाने की कोशिश में कई साल लगाए, फिर यह निष्कर्ष निकाला कि समय रहते इसे हल नहीं किया जा सकेगा। इसे बौद्धिक ईमानदारी भी माना जा सकता है और इस स्वीकारोक्ति के तौर पर भी कि उसका अपना शोध कार्यक्रम विफल रहा। अपनी दृढ़ धारणा का बचाव करते हुए वे शतरंज की मिसाल देते हैं: उन्हें यक़ीन हो सकता है कि मैग्नस कार्लसन (Magnus Carlsen) उन्हें हरा देंगे, भले ही उन्हें यह न पता हो कि मात किस मोहरे से मिलेगी। आलोचकों के लिए यही तो समस्या है—अंत के बारे में भविष्यवाणी, लेकिन वहाँ तक पहुँचने वाली चालों का कोई ब्यौरा नहीं।

इनमें से किसी बात ने भी उनका रुख़ नरम नहीं किया। अक्टूबर 2026 में निकोलस थॉम्पसन (Nicholas Thompson) के पॉडकास्ट The Most Interesting Thing in AI पर उन्होंने कहा कि अगले दस साल तक मानवता के न टिक पाने की संभावना पचास फ़ीसदी से ज़्यादा है। उन्होंने यह भी समझाया कि उनका 401(k) खाता अब तक अछूता क्यों है। उसी बातचीत में उन्होंने ज़ोर देकर कहा कि नतीजा तय नहीं है। उन्होंने कहा, «इस आशंका को रोकने के लिए मैं हर संभव कोशिश करता हूँ। मुझे नहीं लगता कि यह अवश्यंभावी है,» और फिर C.S. लुईस (C.S. Lewis) के निबंध «On Living in an Atomic Age» का हवाला दिया। उस निबंध में तर्क दिया गया था कि अगर बम गिरना ही है, तो वह लोगों को दुबककर बैठे हुए नहीं, बल्कि समझदारी भरे मानवीय काम करते हुए पाए। सोअर्स के शब्दों में: «वह हमें अपनी सरकारों से परमाणु अप्रसार संधियों की पैरवी करते हुए पाए।»

उन्होंने यही काम चुना है। वे अब भी MIRI के अध्यक्ष हैं और अपना समय साक्षात्कारों, व्याख्यानों और ब्रीफिंग में लगाते हैं—इनका मक़सद हाशिये की शोध-जगत वाली चिंता को अतिबुद्धिमत्ता की ओर बढ़ती दौड़ रोकने वाले अंतरराष्ट्रीय समझौते में बदलना है। Google का रिटायरमेंट खाता अब भी खुला है। उन्होंने बस उस पर दाँव लगाना बंद कर दिया है।

टैग: Google, AI सुरक्षा, Eliezer Yudkowsky, Machine Intelligence Research Institute, Nate Soares, Will MacAskill

संबंधित व्यक्ति

Konstantin Batygin

Stefano Mancuso

Peter Hegemann

Neil Gehrels

Stanley Milgram

Francis Halzen