प्रौद्योगिकी

Anthropic ने माना, AI उसकी रिसर्च इतनी तेज़ कर रहा है कि सुरक्षा नियम लागू हुए

Adrian Kessler
हमें Google पर जोड़ें

Anthropic ने औपचारिक रूप से निष्कर्ष निकाला है कि कृत्रिम बुद्धिमत्ता अब अपनी ही रिसर्च को इतनी तेज़ी से आगे बढ़ा रही है कि कंपनी की तय की हुई सीमा पार हो गई है। अपने संशोधित IPO प्रॉस्पेक्टस में Claude बनाने वाली कंपनी कहती है कि उसने अपनी Responsible Scaling Policy में तय AI अनुसंधान और विकास क्षमता की सीमा हासिल कर ली है। यही आंतरिक नियम-पुस्तिका तय करती है कि उसके मॉडलों को कितनी सुरक्षा और निगरानी की ज़रूरत है। नीति इस सीमा को रिकर्सिव सेल्फ-इम्प्रूवमेंट की शुरुआत बताती है—वह बिंदु जहां AI प्रणालियां बेहतर AI बनाने के काम को खुद तेज़ करने लगती हैं।

इस आकलन को असामान्य बनाने वाली बात यह है कि यह किन चीज़ों पर आधारित नहीं है। Anthropic लिखती है कि उसने यह निष्कर्ष “मौजूदा मॉडलों में हमने जो देखा है, उसके बजाय भविष्य के मॉडलों से हमारी अपेक्षाओं और प्रगति की समग्र रफ्तार के आधार पर” निकाला है। बिक्री के लिए उपलब्ध Claude के किसी मॉडल के बारे में यह नहीं दिखाया गया है कि उसने यह सीमा पार कर ली हो। कंपनी अपने ही पूर्वानुमान के आधार पर कदम उठा रही है और अपने शेयरों का कारोबार शुरू होने से पहले निवेशकों को यह बता रही है।

कंपनी जिस साक्ष्य का हवाला देती है, वह आंतरिक है। प्रॉस्पेक्टस के मुताबिक, हाल के एक महीने में Anthropic के कोडबेस में 90% से अधिक योगदान Claude ने लिखा, और हर इंजीनियर के रोज़ाना दिए जाने वाले कोड की मात्रा 45 गुना से भी ज़्यादा बढ़ी है। Anthropic यह भी कहती है कि उसके मॉडल “हमारे कोड का बड़ा और लगातार बढ़ता हिस्सा लिखते हैं और हमारी रिसर्च—जिसमें सुरक्षा से जुड़ी रिसर्च भी शामिल है—का काम तेजी से खुद कर रहे हैं।”

इस सीमा को पार करने के लिए नीति में दो कसौटियां तय की गई हैं। पहली यह कि कोई मॉडल प्रतिस्पर्धी लागत पर Anthropic के पूरे शोधकर्ताओं और इंजीनियरों के दल की जगह पूरी तरह ले सके। दूसरी कसौटी AI की प्रगति में “नाटकीय तेज़ी” है, जिसे नीति इस तरह परिभाषित करती है कि लगभग दो साल की प्रगति एक ही साल में समा जाए—और ऐसा संभवतः स्वचालित रिसर्च के कारण हो। चूंकि दूसरी कसौटी तब भी लागू होती है जब कंपनी ऐसी छलांग को “देख सके या इसकी अपेक्षा कर सके”, इसलिए इसे सक्रिय करने के लिए पूर्वानुमान ही काफी है।

यह सीमा पार करने के बाद Anthropic पर और सख्त सुरक्षा उपाय लागू करने की जिम्मेदारी आती है। नीति दुनिया के सबसे अधिक संसाधन वाले हमलावरों से निपटने के लिए “मूनशॉट” सुरक्षा परियोजनाओं और ऐसी “हर चीज़ पर नज़र” व्यवस्था की मांग करती है, जिसमें AI-विकास की हर अहम गतिविधि दर्ज हो और खतरों के लिए AI उसका विश्लेषण करे—चाहे खतरा अंदरूनी लोगों से हो, इंसानों से या मशीनों से। कंपनी की आंतरिक रेड टीम को अपने बग बाउंटी कार्यक्रमों में शामिल सभी बाहरी शोधकर्ताओं के कुल योग से भी अधिक जेलब्रेक खोजने होंगे। प्रॉस्पेक्टस कहता है कि मॉडल के वेट्स की चोरी रोकने के उपाय मजबूत करने के लिए कंपनी ने एक नए फ्रंटियर मॉडल की प्री-ट्रेनिंग पहले ही एक महीने से अधिक टाल दी थी। साथ ही, Claude के इस तरह के और काम संभालने के साथ, कुछ शोध-संबंधी फैसलों के लिए इंसानी मंज़ूरी अनिवार्य करने के नियमों पर भी विचार किया जा रहा है।

काम के लिए Claude या Claude Code का इस्तेमाल करने वालों के लिए इसका व्यावहारिक असर यह हो सकता है कि नए रिलीज़ आने में देर हो। IPO सामग्री के साथ प्रकाशित संस्थापकों के पत्र में कहा गया है कि कभी-कभी Anthropic “अपने सिस्टम को अधिक सुरक्षित बनाने के लिए उतनी तेज़ी से आगे न बढ़ने का विकल्प चुन सकती है, जितनी तेज़ी से हम बढ़ सकते हैं—भले ही इससे हमें प्रतिस्पर्धा में नुकसान हो।” आज ऐप्स में कोई बदलाव नहीं हो रहा है।

यह आकलन Anthropic की अपनी स्वैच्छिक नीति के तहत किया गया है, जिसे कंपनी ने खुद बनाया है और जिसमें वह बदलाव कर सकती है; किसी बाहरी ऑडिटर ने इसकी पुष्टि नहीं की है। नीति स्वीकार करती है कि इस सीमा को “व्यावहारिक रूप से लागू करना मुश्किल साबित हुआ है।” फाइलिंग में यह भी माना गया है कि साक्ष्य का बड़ा हिस्सा ऐसे संकेतकों से आता है जो घटना के बाद सामने आते हैं, इसलिए असल तेज़ी का पता शायद उसके हो जाने के बाद ही चले। प्रॉस्पेक्टस में जोखिम से जुड़े खुलासे भविष्य में कंपनी को मुकदमों से बचाने के लिए भी लिखे जाते हैं। Gizmodo की रिपोर्ट के मुताबिक, इसी दस्तावेज़ के पहले के एक संस्करण में सिर्फ इतना कहा गया था कि Anthropic “जल्द ही इन कसौटियों पर खरी उतर सकती है।”

Anthropic का कहना है कि वह अब भी बुनियादी आंकड़ों का आकलन कर रही है और इस सीमा पर खरा उतरने का मतलब क्या है, इस बारे में आगे और रिपोर्ट प्रकाशित करेगी। उसके शेयरों का मूल्य 18 नवंबर को तय होने और 19 नवंबर को ANT टिकर के तहत Nasdaq पर कारोबार शुरू होने की उम्मीद है। प्रति शेयर प्रस्तावित मूल्य सीमा 70 से 78 डॉलर है। फिलहाल, सीमा पार होने का एकमात्र प्रमाण Anthropic का अपना पूर्वानुमान है।

टैग: , , , ,

हमें Google पर जोड़ें

चर्चा

0 टिप्पणियाँ हैं।