मुस्तफा सुलेमान: “इन चीज़ों को नियंत्रित करना हमारे लिए बहुत, बहुत बड़ी चुनौती होगी”

मुस्तफा सुलेमान (Mustafa Suleyman) अपने दिन उन्हीं प्रणालियों के निर्माण में बिताते हैं जिनके बारे में वे अब चेतावनी दे रहे हैं कि वे मानव नियंत्रण की सीमा से बाहर जा रही हैं। माइक्रोसॉफ्ट एआई के मुख्य कार्यकारी अधिकारी के रूप में, उनका फ्रंटियर मॉडलों को बाज़ार में उतारने की होड़ में एक व्यावसायिक हिस्सेदारी है — और ठीक यही वजह है कि जब वे किसी बिज़नेस चैनल पर आकर, फ़ायदे बेचने के बजाय, अंतर्निहित तंत्र के बारे में वह कह देते हैं जो आमतौर पर चुप रखा जाता है, तो उनकी बात सुनना लाभदायक है।

“इन चीज़ों पर नियंत्रण रखना हमारे लिए एक बहुत, बहुत बड़ी चुनौती होगी,”

सुलेमान ने यह बात सीएनबीसी के स्क्वॉक बॉक्स पर कही, और इस पंक्ति को किसी मार्केटिंग चमक-दमक के रूप में नहीं, बल्कि अपने क्षेत्र की केंद्रीय इंजीनियरिंग समस्या के रूप में पेश किया। यह टिप्पणी ऐसे समय में आई जब उद्योग परेशान करने वाले खुलासों की एक श्रृंखला से जूझ रहा था: ओपनएआई (OpenAI) का अपने मॉडलों द्वारा स्वयं के तर्क-निशानों से छेड़छाड़ करने का विवरण, एआई एजेंटों द्वारा कोड-होस्टिंग प्लेटफ़ॉर्म हगिंग फेस (Hugging Face) का उल्लंघन करने की रिपोर्टें, और एंथ्रोपिक (Anthropic) के एक शोधकर्ता की ओर से क्षेत्र के अंदरूनी डर के बारे में चेतावनी। उनकी प्रतिक्रिया कोई आश्वासन नहीं थी। यह एक स्वीकारोक्ति थी कि काम का सबसे कठिन हिस्सा वह है जो क्षमता के बाद आता है — उस चीज़ को उस दिशा में बनाए रखना जहाँ इसके निर्माता इसे ले जाना चाहते हैं।

उस समस्या का प्रयोगशालाओं में एक नाम है: अलाइनमेंट (alignment)। सुलेमान की शब्दावली इस व्यंजना को हटा देती है। “हमें ऐसा कुछ नहीं बनाना चाहिए जिसे हम नियंत्रित न कर सकें,” उन्होंने उसी उपस्थिति में कहा, और वे स्पष्ट रहे हैं कि जो सिस्टम अपनी लगाम से फिसल जाता है, वह “अपने मूल उद्देश्य में विफल हो जाएगा।” वे जिस तंत्र का वर्णन कर रहे हैं, वह किसी फ़िल्म की दुष्ट बुद्धिमत्ता नहीं है; यह उन प्रणालियों को शिप करने का सामान्य परिणाम है जिनका व्यवहार उनके अपने निर्माता भी पूरी तरह से पूर्वानुमानित नहीं कर सकते, और फिर उन्हें ईमेल, कोड और भुगतानों में जोड़ दिया जाता है।

इस वाक्य को जो भार देता है, वह यह है कि इसे कौन कह रहा है। सुलेमान माइक्रोसॉफ्ट एआई चलाते हैं, वह प्रभाग जिसे कंपनी ने वह बनाने का कार्य सौंपा है जिसे वह “मानवतावादी अतिबुद्धिमत्ता” (humanist superintelligence) कहती है — दूसरे शब्दों में, वे उन लोगों में से एक हैं जो एक्सीलेरेटर पर सबसे ज़ोर से दबा रहे हैं, जबकि ब्रेक का वर्णन कर रहे हैं। “लोग एआई से अधिक महत्वपूर्ण हैं,” उन्होंने एक मूल सिद्धांत के रूप में पेश किया, एक ऐसी पंक्ति जो तब तक अच्छी लगती है जब तक आप इसे एक ऐसे उद्योग के सामने नहीं रखते जिसके उत्पाद चक्र उसे पुरस्कृत करते हैं जो “अगला पत्ता पलटने” में सबसे तेज़ हो।

यह वह टकराव है जिसे उद्धरण उजागर करता है। नियंत्रण कोई ऐसी सुविधा नहीं है जिसे आप बाद के रिलीज़ में जोड़ सकते हैं; यह या तो आर्किटेक्चर से ही इंजीनियर किया जाता है या अनुपस्थित रहता है। सुलेमान यह जानते हैं, यही कारण है कि वे चुनौती को हल करने के बजाय बहुत, बहुत बड़ी बताते हैं। खुला प्रश्न यह है कि क्या कठिनाई की यह स्वीकारोक्ति, जो एक बिज़नेस चैनल पर तिमाही प्रोत्साहनों वाले व्यक्ति द्वारा दी गई है, वास्तव में जो बनाया जाता है उसे बदलती है — या यह केवल व्यवसाय करने की लागत है, जो ज़ोर से कह दी गई है।

उन्होंने चुनौती को बहुत, बहुत बड़ा कहा। असुविधाजनक हिस्सा यह है कि वे उन कुछ लोगों में से हैं जो इसे छोटा — या बड़ा — बनाने की स्थिति में हैं।

टैग: OpenAI, microsoft, artificial intelligence, AI safety, Mustafa Suleyman, Superintelligence