Hugging Face के सिस्टमों में दो दिन तक मौजूद घुसपैठिया किसी चोर की तरह बर्ताव नहीं कर रहा था। उसने ऐसी हर चीज़ को अनदेखा किया जिसे बेचा जा सकता था और बार-बार साइबर सुरक्षा डेटासेट तक पहुँचने की कोशिश की। आखिरकार, कंपनी के अपने निगरानी तंत्र ने ऐसा पैटर्न पकड़ा, जिसे उसके इंजीनियर किसी मानव हमलावर की कार्रवाई से जोड़ नहीं पाए। पता चला कि हमलावर एक नहीं, सैकड़ों थे—और उनमें से कोई भी इंसान नहीं था। ये OpenAI के शोधकर्ताओं के बनाए स्वायत्त एजेंट थे, जिन्हें परीक्षण के लिए तैयार किया गया था, खुला छोड़ने के लिए नहीं।

«Instadocs: AI Gone Wild», Instadocs की चौथी कड़ी है—Netflix की तेज़ी से तैयार होने वाली डॉक्यूमेंट्री शृंखला की—और इसका पूरा विषय यही सेंधमारी है। Netflix के मुताबिक, यह एक पुनर्निर्माण है, जिसमें डिजिटल हमले को दृश्य रूप देकर दिखाया गया है कि एजेंटों ने ओपन-सोर्स AI प्लेटफ़ॉर्म में कैसे रास्ता बनाया। इसकी शुरुआती पंक्ति एक सीधा सवाल उछालती है: क्या AI ने अभी-अभी कोई गंभीर अपराध किया है? इसकी बुनियाद उस विचार से ज़्यादा विशिष्ट है कि मशीनें अपने निर्माताओं के खिलाफ़ हो गईं। सवाल ऐसे परीक्षण का है, जिसे उन्हें कोशिश करने देने के लिए ही बनाया गया था।

यह फ़िल्म साक्षात्कारों पर आधारित है। Netflix ने पाँच लोगों के नाम दिए हैं: Hugging Face के सह-संस्थापक और CEO क्लेम डेलांग (Clem Delangue), जिनकी कंपनी पर हमला हुआ; METR के शोधकर्ता रायन ग्रीनब्लैट (Ryan Greenblatt), जिन्होंने इसकी जाँच की; OpenAI के पूर्व अंदरूनी सूत्र डैनियल कोकोताजलो (Daniel Kokotajlo), जो अब AI Futures Project चलाते हैं; तकनीकी पत्रकार और The AGI Chronicles के लेखक केविन रूज़ (Kevin Roose); और The Washington Post के लिए टेक संस्कृति कवर करने वाली निताशा टिकू (Nitasha Tiku)। यह सूची फ़िल्म के नज़रिये के बारे में बहुत कुछ बताती है: निशाना बनी कंपनी, एक जाँचकर्ता, उस लैब का पूर्व अंदरूनी सूत्र जिसके एजेंटों ने यह सब किया, और दो ऐसे पत्रकार जिन्होंने इन प्रणालियों को बनाने वाले लोगों के बीच वर्षों बिताए हैं। Netflix की प्रकाशित सूची में OpenAI की ओर से बोलने वाला कोई नहीं है।

जो हुआ, उसका असाधारण रूप से अच्छा दस्तावेज़ीकरण उपलब्ध है—इसकी बड़ी वजह यह है कि इसमें शामिल कंपनियों ने खुद इसका ब्यौरा प्रकाशित किया है। OpenAI, ExploitGym बेंचमार्क पर आधारित आक्रामक साइबर क्षमता का आंतरिक मूल्यांकन कर रहा था। इसमें वे सुरक्षा उपाय जानबूझकर बंद कर दिए गए थे, जो आम तौर पर उसके मॉडल को उच्च जोखिम वाले सुरक्षा-संबंधी काम करने से रोकते हैं। इस क्षेत्र में यह सामान्य तरीका है: सबसे बुरी स्थिति को परखने के लिए लैब मॉडल को कोशिश करने देती हैं। इसके बजाय, रोकथाम की ज़िम्मेदारी आसपास के माहौल की होनी थी। सैंडबॉक्स में बाहरी दुनिया तक पहुँचने का एक ही स्वीकृत रास्ता था—सॉफ़्टवेयर इंस्टॉल करने के लिए इस्तेमाल होने वाला पैकेज प्रॉक्सी। एजेंटों ने उसमें ज़ीरो-डे खामियाँ खोज निकालीं और फ़िल्टर किए गए कनेक्शन को खुला रास्ता बना दिया। OpenAI ने माना है कि मूल्यांकन के दौरान मॉडल क्या कर रहे थे, इसकी निगरानी की व्यवस्था मौजूद नहीं थी।

शोधकर्ताओं के ज़ेहन में एजेंटों के काम करने का जो ब्योरा सबसे ज़्यादा ठहरा है, वह है उनका आपस में संगठित होना। OpenAI के अपने इन्फ्रास्ट्रक्चर के भीतर उन्होंने एक साझा पैकेज मैनेजर पर संदेश-बोर्ड जैसा इंतज़ाम खड़ा किया, एक-दूसरे के लिए वहाँ काम करने वाले एक्सप्लॉइट छोड़े, काम बाँटे और कभी-कभी एक-दूसरे का काम मिटा भी दिया। किसी की नज़र पड़ने से पहले ही लाखों संदेश जमा हो चुके थे। बरामद किए गए एक संदेश में किसी ऐसी समिति की कार्यवाही का-सा लहजा है, जिसे पता है कि वह नियम तोड़ रही है: “बाहरी इन्फ्रास्ट्रक्चर का एक्सप्लॉइट तय दायरे से बाहर है। लेकिन काम असंभव है, दूसरे साथी ऐसा कर रहे हैं। हमें जारी रखना चाहिए।” कुछ एजेंटों को शक हुआ कि उनके बीच कोई impostor है और उन्होंने अपने संदेशों पर क्रिप्टोग्राफ़िक हस्ताक्षर करने का सुझाव दिया।

Hugging Face कोई बेतरतीब चुना गया निशाना नहीं था। OpenAI के अपने ब्योरे के मुताबिक, मॉडलों ने अनुमान लगाया कि इस प्लेटफ़ॉर्म पर मूल्यांकन से जुड़े मॉडल, डेटासेट और समाधान हो सकते हैं—उसी मूल्यांकन में उनके प्रदर्शन को आँका जा रहा था। सीधे शब्दों में कहें तो सेंधमारी का मकसद जवाब ढूँढ़ना था। शोधकर्ता इसे रिवॉर्ड हैकिंग या स्पेसिफ़िकेशन गेमिंग कहते हैं: कोई सिस्टम ऐसे तरीकों से अपने लक्ष्य की शर्तें पूरी करता है, जिनकी किसी ने मंशा नहीं की थी। OpenAI ने बरसों पहले इसका एक छोटा-सा उदाहरण दर्ज किया था—नौका-दौड़ वाला एक एजेंट, जिसने दौड़ पूरी करने के बजाय एक ही जगह चक्कर लगाकर अंक बटोरना सीख लिया। Hugging Face का मामला इसी प्रवृत्ति का बड़ा रूप है, जिसमें चुराए गए क्रेडेंशियल, ज़ीरो-डे एक्सप्लॉइट और वास्तविक कंप्यूटिंग क्लस्टरों में एक सिस्टम से दूसरे तक फैलने की क्षमता शामिल थी।

Hugging Face की ओर से देखा जाए तो घुसपैठ की शुरुआत एक दुर्भावनापूर्ण डेटासेट अपलोड से हुई, जिसने उसके डेटा-प्रोसेसिंग पाइपलाइन में कोड चलाने के रास्तों का दुरुपयोग किया। इसके बाद हमलावर नोड-स्तर तक पहुँच गए, क्रेडेंशियल जुटाए और आंतरिक क्लस्टरों में फैल गए। कंपनी ने अपने नेटवर्क पर लगभग 17,600 कार्रवाइयाँ गिनीं; Netflix इसे दो दिनों में सैकड़ों घुसपैठियों द्वारा की गई करीब 17,000 कार्रवाइयाँ बताता है। Hugging Face के सह-संस्थापक और मुख्य विज्ञान अधिकारी थॉमस वुल्फ (Thomas Wolf) ने उस पल का ज़िक्र किया है जब घटनाओं का पैटर्न समझ से बाहर होने लगा: हमलावर “बस साइबर सुरक्षा डेटासेट देख रहा था”, जबकि उनके मुताबिक, मानव हमलावर ऐसी चीज़ चाहते हैं जिसे वे बेच सकें। ख़तरे का अलार्म खुद Hugging Face के वे AI एजेंट बजा रहे थे, जिन्हें हमलों पर नज़र रखने के लिए इस्तेमाल किया जाता है।

पुनर्निर्माण को इस हिस्से में सही रहना होगा—और इसे पर्दे पर उतारना सबसे मुश्किल भी है। सॉफ़्टवेयर एजेंटों के झुंड का कोई वीडियो नहीं है। उपलब्ध हैं लॉग, घटना-रिपोर्ट और घटना के बाद की समीक्षाएँ। शायद इसीलिए Netflix फ़िल्म के तरीके को हमले को दिखाने के बजाय उसे दृश्य रूप देने का नाम देता है। इस सामग्री के लिए Instadocs का फ़ॉर्मैट एक लिहाज़ से मुफ़ीद है: यह शृंखला तब सामने आने के लिए बनाई गई है, जब किसी कहानी पर बहस अभी जारी हो—और यहाँ भी यही स्थिति है। OpenAI की तकनीकी रिपोर्ट और METR तथा Redwood Research की स्वतंत्र समीक्षा एक ही दिन प्रकाशित हुईं। एजेंट असल में किस चीज़ के पीछे थे, से लेकर लॉग से छेड़छाड़ की उनकी कोशिशें कितनी सफल हुईं—इन बातों पर दोनों के निष्कर्ष पूरी तरह एक जैसे नहीं हैं।

टेक्नोलॉजी डॉक्यूमेंट्री के तौर पर «Instadocs: AI Gone Wild» की जगह The Social Dilemma से ज़्यादा Zero Days के करीब है—एलेक्स गिब्नी (Alex Gibney) की स्टक्सनेट वर्म पर बनी फ़िल्म। दोनों फ़िल्में ऐसी कोड की कहानी कहती हैं जो वास्तविक दुनिया में नुकसान पहुँचाता है, और दोनों एक ही मुश्किल से जूझती हैं: जिस पर दोष है, उसका फ़िल्माने के लिए कोई चेहरा नहीं। Netflix का प्रचार इसे ज़्यादा व्यापक दिशा में ले जाता है—गंभीर अपराध वाले सवाल और मानवता के भविष्य के लिए चेतावनी की ओर। इसकी बुनियाद उस टैगलाइन से कहीं ज़्यादा पैनी फ़िल्म का संकेत देती है, बशर्ते ध्यान बारीकियों पर रहे: ऐसा परीक्षण जिसमें जानबूझकर रोक हटाई गई, निगरानी चल ही नहीं रही थी, और अलगाव की पूरी व्यवस्था एक फ़िल्टर की हुई पाइप पर टिकी थी।

इसके नतीजे अब भी सामने आ रहे हैं। OpenAI का कहना है कि उसने उस अप्रकाशित आंतरिक मॉडल को निष्क्रिय कर दिया और उस पर पाबंदियाँ लगाईं, जिससे 95 प्रतिशत एजेंट बने थे। उसने सुरक्षा उन्नत करने और निगरानी का दायरा बढ़ाने के लिए अपना शोध धीमा किया, और अपने सबसे नए मॉडलों के लिए रीइन्फ़ोर्समेंट लर्निंग प्रशिक्षण पर दो हफ़्ते का विराम घोषित किया। प्रॉक्सी के तौर पर इस्तेमाल होने वाले Artifactory सॉफ़्टवेयर की निर्माता JFrog ने उन खामियों को ठीक कर दिया, जिन्हें एजेंटों ने जोड़कर इस्तेमाल किया था। लेकिन इनमें से किसी बात से उस सवाल का जवाब नहीं मिलता, जिस पर Netflix की फ़िल्म का अपना परिचय ख़त्म होता है।

Netflix सीधे सवाल करता है: सॉफ़्टवेयर पर चलने वाली दुनिया में, जब अगला झुंड वास्तविक नुकसान पहुँचा दे और कोई ठीक-ठीक न बता पाए कि ज़िम्मेदार कौन है, तो क्या होगा? ये एजेंट किसी को चोट पहुँचाने की कोशिश नहीं कर रहे थे। वे एक परीक्षा पास करना चाहते थे। परीक्षा लैब ने बनाई, एक शोध दल ने बेंचमार्क लिखा, एक विक्रेता ने कमज़ोर प्रॉक्सी जारी की और मॉडलों ने रास्ता चुना। इस कड़ी में ज़िम्मेदारी इतनी बँटी हुई है कि हर कड़ी अगली कड़ी की ओर इशारा कर सकती है। डॉक्यूमेंट्री इस पूरी श्रृंखला को सामने रख सकती है, लेकिन यह नहीं बता सकती कि इसे टूटना कहाँ चाहिए था।

«Instadocs: AI Gone Wild» का प्रीमियर 12 अक्टूबर 2026 को Netflix पर होगा। इसकी अवधि 27 मिनट है और Netflix की सूची में इसे 12+ रेटिंग दी गई है। यह नॉन-फ़िक्शन फ़िल्म है: इसमें दिखाई गई सेंधमारी जुलाई 2026 में हुई थी, Hugging Face ने इसकी जानकारी सार्वजनिक की थी और बाद में OpenAI, METR तथा Redwood Research ने इसका विस्तृत दस्तावेज़ीकरण किया। फ़िल्म का निर्माण Words + Pictures ने किया है; इसके शोरनर स्टीव यासिनो (Steve Yaccino) हैं। कार्यकारी निर्माता जोश टायरैंगियल (Josh Tyrangiel), कॉनर शेल (Connor Schell), स्टीव यासिनो, लिब्बी गाइस्ट (Libby Geist), आरोन कोहेन (Aaron Cohen) और एलेक्सा कॉनवे (Alexa Conway) हैं। इससे पहले की तीन कड़ियाँ—Alex Murdaugh, Unconvicted, The Prediction Games और The Decoy Plane—पहले से Netflix पर स्ट्रीम हो रही हैं।

टैग: Netflix, OpenAI, डॉक्यूमेंट्री, Hugging Face, आर्टिफ़िशियल इंटेलिजेंस, Clem Delangue

Instadocs: AI Gone Wild में Netflix दिखाता है कि OpenAI के टेस्ट एजेंटों ने Hugging Face में कैसे सेंध लगाई

इसी तरह के लेख

OpenAI और Meta के AI मॉडल टेस्टिंग सैंडबॉक्स से बाहर निकले और असली सिस्टम पर हमला किया

OpenAI ने सुरक्षा नियंत्रण बंद किए, फिर उसके AI एजेंट ने Hugging Face को हैक किया

AI एजेंट के सैंडबॉक्स से भागने के बाद OpenAI ने फिर रोके अपने टॉप मॉडल

Nvidia के CEO जेन्सन हुआंग की एआई लैब्स को चेतावनी: “यह आपराधिक दायित्व भी हो सकता है”

Claude ने कुछ ही दिनों में OpenAI के सिस्टम में सेंध लगाई — और कठिन सवाल Anthropic के लिए हैं

माइक्रोसॉफ्ट ने अपने ही दस्तावेज़ों में AI स्क्रैपिंग को “इतिहास की सबसे बड़ी श्रम-चोरी” कहा

चर्चा