किंग चार्ल्स ने एआई निर्माताओं को उनकी अपनी तकनीक के ‘अस्तित्वगत खतरे’ पर चेताया

“जिन लोगों ने ये तकनीकें बनाई हैं, वे अब तेजी से चेतावनी दे रहे हैं कि AI में गहरी और अंधेरी क्षमताएं विकसित करने का जोखिम है — शायद जीवन लेने की भी।” किंग चार्ल्स ने जो वाक्य चुना, वह हैकर्स या शत्रुतापूर्ण राज्यों के बारे में कोई चेतावनी नहीं थी। यह एक दर्पण था, जो सिस्टम बनाने वाले लोगों के सामने रखा गया था, और उसके अंदर की चेतावनी उन्होंने उन्हीं से जोड़ी थी।

यह भाषण का वह हिस्सा है जिसे अधिकांश कवरेज ने नजरअंदाज कर दिया। जो पंक्ति आगे बढ़ी, वह उन्हीं टिप्पणियों से ली गई नरम पंक्ति थी — “ऐसी तकनीकों के गलत हाथों में पड़ने के अस्तित्वगत खतरे।” गलत हाथ एक आरामदायक ढांचा है यदि आप वह व्यक्ति हैं जो उपकरण भेज रहा है। यह खतरे को बाहर रखता है, किसी खलनायक द्वारा एक तटस्थ उपकरण का दुरुपयोग करने में, न कि उपकरण में या उसे और अधिक सक्षम बनाने की होड़ में लगी कंपनियों में। चार्ल्स ने इसे वहीं छोड़ने से इनकार कर दिया।

इसके बजाय उन्होंने जोखिम को उसके स्रोत की ओर इंगित किया। उन्होंने कहा, निर्माता ही अब अलार्म बजा रहे हैं — और फिर कमरे में एक धार वाला सवाल रखा: “निश्चित रूप से, हमें तब तक नियंत्रण के पर्याप्त साधनों की आवश्यकता है जब तक बहुत देर न हो जाए?”

अनुशंसित लेखएआई सुरक्षा का खर्च कौन उठाए, इस पर डेमिस हसाबिस: “फंडिंग काफ़ी बड़ी होनी चाहिए और ज़्यादातर उद्योग से आनी चाहिए”

उस वाक्य का भार एक शब्द पर टिका है। नियंत्रण एक ऐसी चीज है जिसे इस तरह की सभा वास्तव में सौंप नहीं सकती। उसके पास कोई वैधानिक शक्ति नहीं है, कोई सीमा निर्धारित नहीं करता जिसका किसी कंपनी को पालन करना पड़े, और इसे अनदेखा करने पर कोई दंड नहीं है। जो उभरा वह “साझा सिद्धांतों” का पालन करने का समझौता था — एक वाक्यांश जो एक आकांक्षा का वर्णन करता है, कोई तंत्र नहीं। हर खाते के अनुसार, अधिकारी बातचीत के लिए आभारी थे। आभार कोई सुरक्षा उपाय नहीं है।

यहां एक संस्थागत उलटफेर है जिसे समारोह के तहत देखना आसान है। एक सम्राट के पास Nvidia, OpenAI, Anthropic या Google DeepMind पर कोई नियंत्रण नहीं है। वह किसी मॉडल को लाइसेंस नहीं दे सकता, प्रशिक्षण रन का ऑडिट नहीं कर सकता, या रोलआउट को धीमा नहीं कर सकता। जो लोग वे काम कर सकते हैं — विधायक, प्रतिस्पर्धा नियामक, वह मंत्री जो वास्तव में कमरे में बैठे थे — वे बुलाने वाले नहीं थे। प्रतीकात्मक अधिकार और कोई प्रवर्तन शक्ति नहीं रखने वाला व्यक्ति दुनिया की सभी प्रवर्तन-मुक्त शक्ति वाले लोगों से कृपया खुद को पुलिस करने के लिए कह रहा था। यह मोटे तौर पर वह व्यवस्था है जिसे उद्योग ने हमेशा पसंद किया है।

इस तरह पढ़ें, तो शिखर सम्मेलन ने निर्माताओं का एक शांत उपकार किया। इसने कहानी को “गलत हाथ” बनने दिया, वह ढांचा जिसमें तकनीक ठीक है और केवल इसका दुरुपयोग ही समस्या है। इसने अंतर्निहित क्षमता के बारे में एक चेतावनी — मशीन का अपने प्रक्षेपवक्र पर “गहरी अंधेरी क्षमताएं” विकसित करना — को बुरे अभिनेताओं के बारे में एक परिचित बहस में बदल दिया। और इसने पूरी चीज को एक ताज की वैधता में लपेट दिया, जो कितना भी ईमानदार क्यों न हो, अपने द्वारा मांगी गई सुरक्षा की एक भी पंक्ति को लागू नहीं कर सकता।

यह सभा स्कॉटलैंड के आयरशायर में किंग की बहाल की गई जॉर्जियाई संपत्ति डम्फ्रीज़ हाउस में हुई। कमरे में Nvidia के मुख्य कार्यकारी जेन्सेन हुआंग, Google DeepMind के संस्थापक डेमिस हसाबिस, OpenAI की मुख्य वित्तीय अधिकारी सारा फ्रियर, Anthropic के मुख्य वैश्विक मामलों के अधिकारी टीनो कुएलर, यूके के कृत्रिम-बुद्धिमत्ता मंत्री कनिष्क नारायण और फादर पाओलो बेनांटी, वेटिकन के प्रौद्योगिकी नैतिकता सलाहकार मौजूद थे। चार्ल्स ने AI के वादे को भी श्रेय देने में सावधानी बरती — विशेष रूप से चिकित्सा में — और इसकी पर्यावरणीय लागत को उठाने में। उन्होंने मेहमानों से तकनीक को “मानवता, समुदाय और प्राकृतिक दुनिया की सेवा में मजबूती से” रखने के लिए कहा। कोई बाध्यकारी प्रतिबद्धता उनके साथ कमरे से बाहर नहीं गई।

इसलिए क्षेत्र के सबसे शक्तिशाली लोगों ने एक राज्य के प्रमुख को अपने उत्पाद को अपने दम पर जीवन लेने में सक्षम बताते हुए सुना — और अपने पसंदीदा ढांचे को बरकरार रखते हुए और एक शाही दर्शकों को दिखाते हुए बाहर निकल गए। किंग ने जिस नियंत्रण के साधन मांगे थे, वे ठीक वहीं हैं जहां वे बोलने से पहले थे: उन हाथों में जिन्हें वे संबोधित कर रहे थे, और किसी और के नहीं।

टैग: OpenAI, artificial intelligence, AI safety, AI risks, King Charles

इसी तरह के लेख

डिजिटल मृत्यु के बाद के अरबों के कारोबार में मरने वालों की अनुमति कभी नहीं ली गई

बिल गेट्स: “एआई या तो अब तक का सबसे बड़ा समानता लाने वाला होगा, या अन्याय का सबसे बुरा स्रोत”

Claude ने कुछ ही दिनों में OpenAI के सिस्टम में सेंध लगाई — और कठिन सवाल Anthropic के लिए हैं

सैम ऑल्टमैन, AI पर: “…इसका इस्तेमाल करना गैर-परक्राम्य है”

OpenAI ने सुरक्षा नियंत्रण बंद किए, फिर उसके AI एजेंट ने Hugging Face को हैक किया

OpenAI और Anthropic एआई को धीमा करना चाहते हैं — और यही उनकी किलेबंदी बन जाती है