एआई सुरक्षा का खर्च कौन उठाए, इस पर डेमिस हसाबिस: “फंडिंग काफ़ी बड़ी होनी चाहिए और ज़्यादातर उद्योग से आनी चाहिए”

डेमिस हसाबिस ने पूरे साल यह तर्क दिया है कि सबसे शक्तिशाली AI प्रणालियों को जनता तक पहुँचने से पहले, वॉल स्ट्रीट के दलालों की निगरानी करने वाले प्रहरी के समान एक स्वतंत्र निकाय द्वारा जाँच की जानी चाहिए। असली सवाल यह नहीं है कि ऐसा रेफरी मौजूद होना चाहिए या नहीं। असली सवाल यह है कि इसके लिए भुगतान कौन करे — और एक ही वाक्य में, Google DeepMind के प्रमुख ने उसका भी जवाब दे दिया।

“फंडिंग पर्याप्त होनी चाहिए और संभवतः ज़्यादातर उद्योग से आनी चाहिए, ताकि विश्व-स्तरीय तकनीकी प्रतिभा को आकर्षित किया जा सके और बड़े पैमाने पर परीक्षण के लिए आवश्यक कंप्यूटिंग संसाधन उपलब्ध कराए जा सकें,”

हसाबिस ने यह पंक्ति अपने प्रस्ताव को रेखांकित करने वाले ढांचागत निबंध में लिखी है, जिसे मलय मेल ने उद्धृत किया है। जल्दी से पढ़ने पर यह ज़िम्मेदारी जैसा लगता है: सुरक्षा उपायों पर पैसा खर्च होता है, और तकनीक बनाने वाली कंपनियों को ही बिल वहन करना चाहिए, न कि जनता को सफाई के लिए पैसे देने पड़ें। एक तंत्र के रूप में पढ़ें, तो यह पूरी योजना की आधारशिला है — वह पंक्ति जो तय करती है कि रेफरी अंततः किसके हितों की रक्षा करता है।

तनाव इसी वाक्य के भीतर है। हसाबिस चाहते हैं कि निकाय स्वतंत्र हो। वह यह भी चाहते हैं कि इसका वित्तपोषण “ज़्यादातर” उसी उद्योग द्वारा हो, जिसे उसे जाँचना है। ये दोनों लक्ष्य विपरीत दिशाओं में खिंचते हैं, और उनके द्वारा चुने गए मॉडल का इतिहास बताता है कि इनमें से कौन सा आमतौर पर जीतता है। उनका आदर्श, वित्तीय उद्योग नियामक प्राधिकरण (FINRA), उन्हीं ब्रोकरेज फर्मों द्वारा भुगतान किया जाता है जिनकी वह निगरानी करता है। सीनेटर एलिजाबेथ वॉरेन ने वर्षों से तर्क दिया है कि FINRA “उन व्यक्तिगत निवेशकों की तुलना में उन ब्रोकरेज फर्मों के हित में अधिक कार्य करता है जिनकी सुरक्षा के लिए इसे बनाया गया है।”

यह आपत्ति कोई किनारे की बात नहीं है। गार्टनर में उपाध्यक्ष विश्लेषक नादेर हेनेन ने स्व-नियमन को केवल “व्यवहार्य नहीं” बताया है, क्योंकि अधिकांश विक्रेताओं में इसकी क्षमता का अभाव है और यह व्यवस्था “अनिवार्य रूप से” हितों के टकराव को जन्म देती है। स्वतंत्र विश्लेषक कारमी लेवी ने आगे बढ़ते हुए इस योजना को “नुकसान की परवाह किए बिना आगे बढ़ने के लिए उत्सुक उद्योग के लिए एक स्व-सेवारत रोडमैप” बताया। यहाँ तक कि सहानुभूतिपूर्ण आवाज़ें भी एक सुरक्षा कवच चाहती हैं: योशुआ बेंगियो का कहना है कि वे व्यावहारिकता को समझते हैं, लेकिन “स्वैच्छिक से अनिवार्य मॉडल में संक्रमण के लिए एक स्पष्ट और सटीक रोडमैप” पर ज़ोर देते हैं।

इन सबसे हसाबिस बुरे इरादे वाले व्यक्ति नहीं बन जाते। वे उस प्रयोगशाला का नेतृत्व करते हैं जिसने अल्फाफोल्ड बनाया — वह प्रणाली जिसने प्रोटीन की आकृतियों की भविष्यवाणी की और जीव विज्ञान के तरीके को बदल दिया — यह एक ऐसा रिकॉर्ड है जो सीमा-स्तरीय क्षमताओं के बारे में उनकी चेतावनियों को वास्तविक भार देता है। यही कारण है कि इस वाक्य पर ध्यान देना ज़रूरी है। कमरे में सबसे विश्वसनीय तकनीकी आवाज़ वही है जो रेफरी का प्रस्ताव कर रही है, उसके नियम बना रही है, और उसी कंपनियों से अपना बजट तय कर रही है जो परीक्षा देंगी। स्वैच्छिक समर्पण, रिलीज़ से पहले एक छोटी समीक्षा अवधि, उद्योग का पैसा: प्रत्येक रियायत अपने आप में उचित है, और साथ में वे एक ऐसे निकाय का वर्णन करते हैं जिसके साथ प्रयोगशालाएँ आराम से रह सकती हैं।

एक सुरक्षा व्यवस्था उतनी ही स्वतंत्र है जितना उसका बजट। यह तय करने वाला वाक्य कि यह जनता की रक्षा करेगा या प्रयोगशालाओं की, वह नहीं है जो सीमा-स्तरीय मॉडलों के परीक्षण के बारे में है। यह वह शांत वाक्य है जो बताता है कि चेक पर हस्ताक्षर कौन करता है।

टैग: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI