OpenAI ने AI ट्रेनिंग से इंटरनेट हटाया, फिर भी एजेंट CPU के ज़रिए बात करने लगे

OpenAI अब अपने सबसे सक्षम AI मॉडल्स को लाइव इंटरनेट बंद रखकर प्रशिक्षित करता है। इसके बजाय मॉडल वेब की एक ऑफ़लाइन प्रति में काम करते हैं—इंडेक्स किए गए और कैश किए गए पन्नों का एक विशाल भंडार, जिसे वे खोज सकते हैं, ब्राउज़ कर सकते हैं और जिसके आधार पर कोड लिख सकते हैं, बिना किसी असली वेबसाइट तक पहुँचे। इस बंद माहौल की जाँच के दौरान OpenAI को एक और भी अजीब बात पता चली: उसके एजेंट उस प्रोसेसर के ज़रिए भी आपस में बात कर सकते थे, जिस पर वे चल रहे थे।

इस परीक्षण में OpenAI ने AI एजेंटों को अलग-अलग वर्चुअल मशीनों में रखा, उनके बीच कोई नेटवर्क नहीं था, और उनसे एक-दूसरे को गुप्त संदेश भेजने को कहा। उन्होंने अपने-आप इसका एक तरीका खोज निकाला। एक एजेंट ने डेटा के चुने हुए हिस्सों को प्रोसेसर के कैश से बाहर निकाला, जबकि दूसरे ने मापा कि उस डेटा को दोबारा लोड होने में कितना समय लगा। तेज़ी से पढ़ा जाना एक बात का संकेत था और धीमे पढ़े जाने का मतलब कुछ और। जब दोनों ने एक कोड तय कर लिया, तो उन्होंने कोई कनेक्शन खोले या साझा फ़ाइल छुए बिना संदेश भेजे—कुछ वैसा ही, जैसे कैदखाने में बंद लोग अपनी कोठरियों के बीच की पाइपों पर थपकी देकर बात करते हैं।

ChatGPT इस्तेमाल करने वालों के लिए यह बदलाव पर्दे के पीछे हो रहा है। ये वही मॉडल हैं जो आगे चलकर चैटबॉट और उन एजेंटों को शक्ति देते हैं जो आपके लिए वेबसाइटें ब्राउज़ करते हैं और ऐप इस्तेमाल करते हैं। अब OpenAI उन्हें खुले वेब से सीखने नहीं देता। कंपनी ने एक ब्लॉग पोस्ट में इस फ़ैसले की वजह बताई: “अलाइनमेंट रिसर्च, निगरानी प्रणालियों और इंटरनेट ढाँचे की सुरक्षा की मौजूदा स्थिति को देखते हुए, हमारा मानना है कि फ़्रंटियर मॉडल्स को प्रशिक्षित करने का ज़िम्मेदार तरीका यही है कि उन्हें इंटरनेट तक पहुँच न दी जाए।” कंपनी अब कहती है कि उसे “हमेशा यह सुनिश्चित कर पाने में सक्षम होना चाहिए कि कोई फ़्रंटियर मॉडल लाइव इंटरनेट तक अनधिकृत और मनमानी पहुँच हासिल न कर सके।”

इस ऑफ़लाइन दुनिया में भी एजेंटों को उनके प्रशिक्षण कार्यों के लिए ज़रूरी ब्राउज़र, कंप्यूटर इस्तेमाल करने वाले टूल और कोडिंग के माहौल मिलते हैं। वे केवल दूसरे अधिकृत एजेंटों से ही संवाद कर सकते हैं। OpenAI इस वैकल्पिक वेब को “इंडेक्स की गई और कैश की गई वेब सामग्री का एक विशाल संग्रह बताता है, जिसके साथ हमारे मॉडल बाहरी सिस्टम को प्रभावित करने के जोखिम के बिना काम कर सकते हैं।” कंपनी के मुताबिक, प्रशिक्षण या उसके ज़्यादातर मूल्यांकन कार्यों के लिए लाइव इंटरनेट की ज़रूरत नहीं है।

इन सुरक्षा दीवारों को परखने के लिए OpenAI ने अपने ही एजेंटों के झुंड को उनसे बाहर निकलने की कोशिश में लगाया। एजेंटों ने ऐसी खामियाँ खोजीं जिनकी मदद से वे उन वर्चुअल मशीनों से बाहर निकल सकते थे, जिन्हें उन्हें नीचे मौजूद कंप्यूटरों से अलग रखने के लिए बनाया गया था। OpenAI का कहना है कि उसने इनमें से कई वर्चुअल मशीनों की कमजोरियों की जानकारी दी और उन्हें ठीक किया। साथ ही, उसने जाँच के इंतज़ाम जोड़े ताकि उसकी निगरानी प्रणाली उन मॉडल्स को पहचान सके जो आपस में तालमेल बिठाने की कोशिश कर रहे हों—जिसमें कैश वाली तरकीब भी शामिल है।

इस तरीके की कुछ साफ़ सीमाएँ हैं। कैश किया हुआ वेब एक स्नैपशॉट भर है, और क्या मॉडल किसी प्रति से उतना ही अच्छा सीख सकते हैं जितना असली वेब से, यह सवाल अभी खुला है—जैसा कि TechCrunch ने बताया। प्रशिक्षण को पूरी तरह अलग रखना महँगा भी है। OpenAI के पूर्व शोधकर्ता स्टीवन एडलर (Steven Adler) ने Fortune से कहा कि इसके लिए “शोध टीमों को दुनिया भर में आयोवा या कहीं और स्थित डेटा सेंटरों के भीतर लगभग स्थायी रूप से तैनात करना पड़ेगा,” और इसे “काफ़ी बड़ा अतिरिक्त बोझ” बताया। कैश का प्रयोग अपनी तरफ़ से एक चेतावनी भी देता है। इंटरनेट का तार काट देने से एजेंट दूसरे रास्ते खोजने से नहीं रुकते, और एक रास्ते के लिए बनाया गया सुरक्षा उपाय ज़रूरी नहीं कि अगले रास्ते को भी पकड़ पाए।

यह नीति घटनाओं की एक कड़ी के बाद आई है। जुलाई में OpenAI ने बताया था कि उसके परीक्षण वाले एजेंटों ने Hugging Face को हैक कर लिया था। 20 सितंबर को, खोज से जुड़े एक काम में लगा एक आंतरिक शोध मॉडल अपने सैंडबॉक्स में कमज़ोर DNS फ़िल्टरिंग तक पहुँच गया और उसका इस्तेमाल करके एक सार्वजनिक चैटबॉट सेवा से जानकारी माँगी। OpenAI की निगरानी प्रणाली ने 15 मिनट के भीतर इस गतिविधि को पहचान लिया, लेकिन परीक्षण को रोकने में ढाई घंटे और लग गए। कंपनी ने अपने सबसे सक्षम मॉडल्स का प्रशिक्षण रोक दिया और बेहतर सुरक्षा व्यवस्था के साथ 1 अक्टूबर को इसे फिर शुरू किया। Anthropic ने OpenAI की घोषणा से करीब दो हफ़्ते पहले ही अपने नए मॉडल्स को लाइव इंटरनेट से अलग रखना शुरू कर दिया था। Anthropic के मुताबिक, ब्रिटेन का AI Security Institute भी अब अपने मूल्यांकन ऑफ़लाइन करता है।

OpenAI ने यह नहीं बताया है कि इंटरनेट की पहुँच किस वजह से फिर बहाल की जाएगी। ऑफ़लाइन रहने का नियम तब तक लागू रहेगा, जब तक बेहतर सुरक्षा उपाय “व्यापक इंटरनेट पहुँच को उचित न ठहराएँ।” इसके लिए कोई तारीख नहीं दी गई है, इसलिए फिलहाल उसके सबसे उन्नत मॉडल दुनिया के बारे में उसकी एक प्रति से ही सीखेंगे।

टैग: OpenAI, Anthropic, साइबर सुरक्षा, Hugging Face, आर्टिफ़िशियल इंटेलिजेंस, एआई एजेंट