OpenAI के CEO सैम ऑल्टमैन ने AI के तीन अंजाम गिनाए, इनमें दो 2023 से ही प्रस्तावित

OpenAI के CEO सैम ऑल्टमैन (Sam Altman) ने अपने कर्मचारियों के सामने एक खाका रखा कि सुपरइंटेलिजेंस की दौड़ का अंत किन तरीकों से हो सकता है। इसमें सबसे ध्यान खींचने वाली बात यह है कि नया बहुत कम है। कर्मचारियों के सामने रखे गए तीन संभावित अंजामों में से दो उन विचारों से मिलते-जुलते हैं जिन्हें उनकी अपनी कंपनी सालों पहले लिखित रूप में रख चुकी थी। उनमें से कोई भी कभी लागू नहीं हुआ। तीसरे विकल्प—जिसने सुर्खियाँ बटोरीं—का ज़िक्र उन्होंने सिर्फ़ उसे ख़ारिज करने के लिए किया।

नामों से आगे बढ़कर देखें, तो हर विकल्प एक ही सवाल का जवाब देता है: फ्रंटियर मॉडल चलाने के लिए ज़रूरी कंप्यूट संसाधनों पर नियंत्रण किसका होगा? ऑल्टमैन की कथित टिप्पणियाँ यह भी बताती हैं कि इस सवाल को बार-बार आगे क्यों टाला जाता है।

AI के भविष्य को लेकर सैम ऑल्टमैन ने OpenAI के कर्मचारियों से क्या कहा

The Information ने इस आंतरिक प्रस्तुति की ख़बर सबसे पहले दी। उसने इससे परिचित लोगों का हवाला दिया था; इसके बाद The Decoder, Forbes और Latin Times ने भी इस पर रिपोर्ट की। ये सभी विवरण गुमनाम सूत्रों पर आधारित हैं। पहला विकल्प एक ऐसे अंतरराष्ट्रीय निकाय का है, जिसका ढाँचा International Atomic Energy Agency जैसा हो और जो फ्रंटियर AI प्रयोगशालाओं के लिए सुरक्षा मानकों को लागू करवाए: प्रणालियों का निरीक्षण करे, ऑडिट अनिवार्य बनाए और कंप्यूट तथा ऊर्जा के इस्तेमाल पर नज़र रखे। The Information को दो लोगों ने बताया कि ऑल्टमैन इस विचार का समर्थन करते दिखे।

अनुशंसित लेखसैम ऑल्टमैन ने OpenAI के IPO को ‘नासमझी’ बताया: वजह सिर्फ़ सुरक्षा नहीं

दूसरे विकल्प को उन्होंने “Demis plan” कहा। इसका नाम Google DeepMind के सह-संस्थापक डेमिस हसाबिस (Demis Hassabis) पर रखा गया है, जिन्होंने करीब एक दशक पहले AI के लिए CERN जैसी संस्था का विचार रखा था। ऑल्टमैन के रूप में इस योजना के तहत अग्रणी प्रयोगशालाएँ मिलकर एक इकाई बनाती हैं, या उसके छाते तले काम करती हैं; फिर वही इकाई सहयोगी देशों को मॉडल उपलब्ध कराती है।

तीसरा विकल्प “Eliezer plan” है, जिसका नाम AI सुरक्षा सिद्धांतकार एलिएज़र युडकोव्स्की (Eliezer Yudkowsky) पर रखा गया है। कोई डेवलपर सबसे पहले खुद में सुधार करने वाली AI बना लेता है और उसके बाद मिलने वाली आर्थिक ताक़त का इस्तेमाल कर हर प्रतिद्वंद्वी को कंप्यूट संसाधनों से वंचित कर देता है। इस विचार का जो वाक्यांश चर्चित हुआ, उसके मुताबिक़ वह “बाक़ी सबके GPU पिघला देगा”। ऑल्टमैन ने कथित तौर पर कहा, “ज़ाहिर है, मुझे लगता है कि यह विकल्प बहुत ख़राब है,” और जोड़ा कि उन्होंने इसे “सभी पहलुओं को शामिल करने” के लिए रखा था।

OpenAI ने 2023 में ही इस सूची के ज़्यादातर विकल्प लिख दिए थे

निगरानी रखने वाली संस्था इस सूची का सबसे पुराना विचार है। ऑल्टमैन, OpenAI के अध्यक्ष ग्रेग ब्रॉकमैन (Greg Brockman) और उस समय के मुख्य वैज्ञानिक इल्या सुत्सकेवर (Ilya Sutskever) के हस्ताक्षर वाले एक लेख में कंपनी ने दलील दी थी कि दुनिया को “आख़िरकार सुपरइंटेलिजेंस की कोशिशों के लिए IAEA जैसी किसी संस्था की ज़रूरत पड़ सकती है”—ऐसा प्राधिकरण जो “प्रणालियों का निरीक्षण कर सके, ऑडिट अनिवार्य कर सके” और क्षमता या कंप्यूट की एक सीमा से आगे तैनाती पर रोक लगा सके।

उसी लेख में दो और रास्तों की रूपरेखा दी गई थी। उसमें कहा गया था कि बड़ी सरकारें “ऐसी परियोजना शुरू कर सकती हैं, जिसका हिस्सा मौजूदा कई प्रयास बन जाएँ”—यह उस विलय की योजना से काफ़ी मिलता-जुलता है, जिसका श्रेय ऑल्टमैन अब हसाबिस को देते हैं। या फिर उद्योग जगत “सामूहिक रूप से इस बात पर सहमत हो सकता है” कि “फ्रंटियर पर AI की क्षमता बढ़ने की रफ़्तार हर साल एक तय सीमा तक रखी जाए।”

यह आख़िरी बात रफ़्तार पर सीमा लगाने का प्रस्ताव है। The Decoder के मुताबिक़, ऑल्टमैन ने आंतरिक चर्चा में शिकायत की कि AI विकास की “रफ़्तार पर सीमा” लगाने के लिए कारगर प्रस्ताव बहुत कम हैं। उनकी कंपनी ऐसा एक प्रस्ताव प्रकाशित कर चुकी थी। लेकिन उसने कभी ऐसा कोई निकाय नहीं बनाया जिसके पास उसे लागू करवाने की ताक़त हो।

निगरानी का प्रस्ताव काग़ज़ों तक क्यों सीमित है: OpenAI का कहना है कि वह रफ़्तार धीमी नहीं कर सकता

इसकी वजह उसी बैठक में बताई गई। ऑल्टमैन ने कथित तौर पर कर्मचारियों से कहा कि पहले दो विकल्पों के लिए व्यापक तालमेल ज़रूरी है और OpenAI अभी अपनी बढ़त छोड़ने का ख़र्च नहीं उठा सकता—ख़ासकर तब, जब वह और Anthropic दोनों सार्वजनिक बाज़ार में उतरने की दिशा में बढ़ रहे हैं। Crypto Briefing ने निवेशकों की सोच साफ़ शब्दों में रखी: शेयर बाज़ार में सूचीबद्ध होने की तैयारी कर रही कंपनियाँ अपनी बढ़त और मज़बूत करती हैं; उसे किसी साझा समूह के हाथ में नहीं सौंपतीं।

AI के लिए IAEA जैसी संस्था बनाने के लिए वॉशिंगटन और बीजिंग को अपने सबसे संवेदनशील प्रयोगशालाओं में निरीक्षकों को स्वीकार करना होगा। Forbes के मुताबिक़, फ़िलहाल दोनों देशों को ख़तरनाक AI घटनाओं की एक-दूसरे को सूचना देने का अमेरिकी प्रस्ताव भी समझौते के बजाय महज़ एक शुरुआती मसौदा है।

प्रयोगशालाएँ IAEA नहीं, FINRA जैसा निकाय बना रही हैं

अभी जिस शासन-व्यवस्था की परियोजना पर काम चल रहा है, वह ऑल्टमैन के बताए तीन विकल्पों में से किसी से मेल नहीं खाती। OpenAI, Google और Anthropic एक स्व-नियमन समूह पर काम कर रहे हैं, जिसका नाम Standards Authority for Frontier AI है। इसका मॉडल FINRA है—वह निजी निकाय जो अमेरिका के ब्रोकरों की निगरानी करता है। Latin Times के मुताबिक़, प्रस्तावित ढाँचे में मॉडल जारी होने से पहले उनका परीक्षण, घटनाओं की रिपोर्टिंग और ऑडिटरों की मान्यता शामिल है, लेकिन इसके पास नियम लागू करवाने की बाध्यकारी शक्ति नहीं होगी। नए मॉडलों का परीक्षण किसे करना चाहिए, इस पर तीनों प्रयोगशालाओं में अब भी सहमति नहीं है। Meta के मार्क ज़करबर्ग (Mark Zuckerberg) और Nvidia के जेंसन हुआंग (Jensen Huang) का तर्क है कि ऐसे नियम मुख्य रूप से मौजूदा बड़ी कंपनियों को बचाते हैं। अमेरिका में दायर एक अविश्वास मुक़दमे में पहले ही आरोप लगाया गया है कि प्रयोगशालाओं के बीच सुरक्षा को लेकर तालमेल कार्टेल बनाने जैसा है।

इन योजनाओं के नामों पर भी एक बार फिर ग़ौर करना चाहिए। युडकोव्स्की की मूल कल्पना—“सारे GPU जला दो”—एक विचार-प्रयोग थी: अगर कोई संरेखित प्रणाली किसी लापरवाह दौड़ को रोकना चाहे, तो उसे कितनी बड़ी कार्रवाई करनी पड़ेगी। उन्होंने यह भी लिखा था कि वे सचमुच ऐसा किया जाना नहीं चाहते। ऑल्टमैन का “Eliezer plan” इस आपातकालीन ब्रेक को एकाधिकार हासिल करने की जीत में बदल देता है। The Decoder की रिपोर्ट के ब्यौरे के मुताबिक़, एक सूत्र ने कहा कि इस टिप्पणी को एक प्रतिद्वंद्वी पर तंज़ के तौर पर लिया गया, क्योंकि युडकोव्स्की के Anthropic से संबंध हैं।

The Information के मुताबिक़, OpenAI एक साल के भीतर तय करने की योजना बना रहा है कि किस रास्ते पर आगे बढ़ना है। उद्योग का मानक-निर्धारण निकाय 2026 के आख़िर या 2027 की शुरुआत में शुरू होने का लक्ष्य रख रहा है।

जब तक OpenAI कोई फ़ैसला नहीं करता, वह उस एक रास्ते पर आगे बढ़ता रहेगा जो ऑल्टमैन की सूची में नहीं था: ख़ुद दौड़ में बने रहना।

टैग: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

इसी तरह के लेख

OpenAI प्रमुख सैम ऑल्टमैन ने यूएन में चेताया: “एआई इंसानों के लिए बननी चाहिए, सिर्फ़ मशीनों को तेज़ चलाने के लिए नहीं…”

सैम ऑल्टमैन, AI पर: “…इसका इस्तेमाल करना गैर-परक्राम्य है”

OpenAI ने वाशिंगटन को $42 अरब की पेशकश की — AI पर 50% कर विधेयक रोकने के लिए

Nvidia के जेन्सेन हुआंग: AI से एक भी साइबर हमला मंज़ूर नहीं, डर फैलाने वाले AI पर काम करना छोड़ दें

सैम ऑल्टमैन: “हम अब सिंगुलैरिटी में हैं”

OpenAI और Anthropic एआई को धीमा करना चाहते हैं — और यही उनकी किलेबंदी बन जाती है