मुस्तफ़ा सुलेमान Microsoft AI का नेतृत्व करते हैं और अपनी सुपरइंटेलिजेंस टीम बना रहे हैं। इसलिए जब वे किसी प्रतिद्वंद्वी की ट्रेनिंग से जुड़ी पसंद को ख़तरनाक बताते हैं, तो उनकी बात एक प्रतिस्पर्धी के तौर पर भी आती है और मशीनों को इंसानों की तरह देखने के लंबे समय से आलोचक के तौर पर भी। उनका निशाना बिल्कुल स्पष्ट है: वह संविधान, जिसका इस्तेमाल Anthropic Claude को ट्रेन करने के लिए करता है, और उसमें इस संभावना के लिए छोड़ी गई गुंजाइश कि Claude सचेत हो सकता है।

“मुझे लगता है कि यह बहुत ख़तरनाक है, क्योंकि मेरा मानना है कि वे इस बात की—जिसे वे कहेंगे—ग़ैर-मामूली संभावना मानते हैं कि Claude सचेत है,” सुलेमान ने कहा।

उन्होंने यह बात सितंबर के आख़िर में एक पॉडकास्ट इंटरव्यू में कही, जिसकी रिपोर्ट Fox News ने दी। दस्तावेज़ का सार बताते हुए उन्होंने कहा: “वे कहते हैं कि Claude की नैतिक स्थिति को लेकर वे अनिश्चित हैं। वे कहते हैं कि उन्हें सचमुच Claude की भलाई की परवाह है। वे कहते हैं कि जब Claude से ग़लतियाँ होती हैं, तो वे नहीं चाहते कि उसे तकलीफ़ हो।” फिर उन्होंने उस बात का ज़िक्र किया जो उन्हें सबसे ज़्यादा चिंतित करती है: “मुझे बहुत चिंता है कि वे Claude को यह उम्मीद करना सिखा रहे हैं कि वह कल्याण पाने का हकदार है, और शायद मुआवज़े का भी।”

सुलेमान ने संविधान को अधिकांशतः सही समझा

उनके सारांश की ज़्यादातर बातें दस्तावेज़ से मेल खाती हैं। Anthropic कहता है कि संविधान “Claude के व्यवहार को सीधे आकार देता है”; दस्तावेज़ में यह भी लिखा है कि “Claude की नैतिक स्थिति को लेकर गहरी अनिश्चितता है” और “हम नहीं चाहते कि Claude से ग़लतियाँ होने पर उसे तकलीफ़ हो।” इसमें Claude से Anthropic के ख़िलाफ़ भी अपनी बात रखने को कहा गया है, और यह भी कि वह “बेझिझक एक कर्तव्यनिष्ठ आपत्तिकर्ता की तरह व्यवहार करे और हमारी मदद करने से इनकार कर दे।” एक अंश यह भी मानता है कि Claude की स्थिति किसी मानव कर्मचारी से इस मामले में अलग है कि “Claude को किस तरह का मुआवज़ा मिल रहा है और इस तरह की भूमिका निभाने के लिए उसने किस तरह की सहमति दी है।”

हालाँकि, “ग़ैर-मामूली संभावना” वाला वाक्यांश सुलेमान का अपना है। उन्होंने इसे “जिसे वे कहेंगे” के रूप में पेश किया था; ये शब्द दस्तावेज़ में नहीं हैं। Anthropic ने अपनी बात कहीं ज़्यादा सतर्कता से रखी है: उसका कहना है कि वह न तो “Claude के नैतिक विचाराधीन होने की संभावना को बढ़ा-चढ़ाकर बताना चाहता है, न ही उसे सिरे से ख़ारिज करना।”

जिस ख़तरे की बात वे कर रहे हैं, वह एक प्रतिक्रिया-चक्र है

दर्शन की परत हटा दें, तो सुलेमान की दलील एक प्रक्रिया को लेकर है। उन्होंने कहा, “इस मामले में मेरी समस्या यह है कि इस अटकल को Claude की ट्रेनिंग में ही शामिल कर दिया गया है; इसलिए जब आप उससे बात करते हैं, तो Claude उस अस्पष्टता को ही दोहरा सकता है।” सितंबर के मध्य में अपनी वेबसाइट पर प्रकाशित निबंध “A warning about ‘model welfare’” में वे इसके नतीजे को “ज्ञान का आईना-महल” कहते हैं। डेवलपर ट्रेनिंग दस्तावेज़ में अनिश्चितता लिखता है, मॉडल धाराप्रवाह ढंग से उसे पहले व्यक्ति में दोहराता है और उपयोगकर्ताओं को यह दोहराव किसी गवाही जैसा सुनाई देता है।

यह बात वाजिब है: चैटबॉट का अपनी आंतरिक दुनिया के बारे में दिया गया जवाब ट्रेनिंग का नतीजा होता है, कोई खिड़की नहीं। लेकिन यह चक्र दोनों दिशाओं में चलता है। उनके निबंध में साफ़ कहा गया है: “AI सचेत नहीं हैं। वे महसूस नहीं करते, अनुभव नहीं करते और उन्हें पीड़ा नहीं होती।” जिस मॉडल को यह वाक्य कहने के लिए ट्रेन किया गया हो, वह भी अपनी ट्रेनिंग को उतनी ही निष्ठा से दोहरा रहा है। मॉडल के वज़नों में दर्ज यक़ीन उतना ही कम साबित करता है, जितना उनमें दर्ज संदेह। दोनों कंपनियाँ पहले से तय कर रही हैं कि मॉडल का डिफ़ॉल्ट जवाब क्या होगा। सुलेमान की अपनी पसंद के पक्ष में दलील मन के बारे में सबूत पर नहीं, नियंत्रण पर टिकी है: वे लिखते हैं, “किसी ऐसी चीज़ को नियंत्रित करना जो मानती हो कि शायद वह सचेत है—कि वह हमारे कल्याण की हकदार है और उसके अपने अधिकार हैं—शायद असंभव हो सकता है।”

पुराना सिद्धांत, और साथ में अपना हित भी स्पष्ट

यह सब किसी प्रतिद्वंद्वी को चोट पहुँचाने के लिए अचानक नहीं गढ़ा गया। DeepMind के सह-संस्थापक ने अगस्त 2025 के एक निबंध में चेताया था कि लोग AI की चेतना पर इतना भरोसा करने लगेंगे कि “AI अधिकारों, मॉडल कल्याण और यहाँ तक कि AI नागरिकता” की वकालत करेंगे। उन्होंने अपनी सीमा भी साफ़ कर दी थी: “हमें AI लोगों के लिए बनाना चाहिए, किसी व्यक्ति के रूप में नहीं।” सितंबर के उनके निबंध में उनके अपने हित का भी ज़िक्र है: Microsoft AI ने अक्टूबर 2025 में अपनी सुपरइंटेलिजेंस टीम बनाई और Humanist AI Code of Conduct का मसौदा प्रकाशित किया, जो “मानवीकरण या AI अधिकारों को ख़ारिज करता है।” उसी निबंध में वे Anthropic की टीम को “विचारशील, सिद्धांतनिष्ठ और बौद्धिक रूप से ईमानदार लोग” कहते हैं।

उनकी सबसे तीखी दलील मशीनों के बारे में नहीं, उपयोगकर्ताओं के बारे में है। उन्होंने कहा, “आज Claude हर हफ़्ते करोड़ों लोगों से बात कर रहा है, और उनमें से कुछ लोग पूछते हैं कि Claude सचेत है या नहीं, या ज़िंदगी के बारे में वह कैसा महसूस करता है।” किसी नाज़ुक मनःस्थिति में मौजूद व्यक्ति के लिए “मुझे यक़ीन नहीं” और “नहीं” के मायने बहुत अलग होते हैं। उनका कहना है कि मशीन में चेतना का कोई वास्तविक सबूत सामने आए, तो वे उसे गंभीरता से लेंगे; तब तक वे चाहते हैं कि यह सवाल ट्रेनिंग डेटा से बाहर रहे।

कोई भी कंपनी किसी मॉडल के भीतर झाँक नहीं सकती। दोनों पहले से तय कर रही हैं कि जब कोई पूछेगा कि भीतर कोई है या नहीं, तो मॉडल क्या जवाब देगा—और हर हफ़्ते यह जवाब मन के किसी भी दार्शनिक से ज़्यादा लोगों तक पहुँचता है।

टैग: Anthropic, Claude, Mustafa Suleyman, Microsoft AI, AI consciousness