प्रौद्योगिकी

OpenRouter ने तीन एआई प्रदाता हटाए, जाल वाले प्रॉम्प्ट से महीनों की चोरी पकड़ी गई

Adrian Kessler
हमें Google पर जोड़ें

OpenRouter वह सेवा है जिसके ज़रिये कई AI ऐप अपने प्रॉम्प्ट उस मॉडल होस्ट तक भेजते हैं जो सबसे सस्ता या सबसे तेज़ हो। उसने अपने प्लेटफ़ॉर्म से ऐसे तीन होस्ट हटा दिए हैं और सौ से ज़्यादा एंडपॉइंट से अपना Zero Data Retention लेबल भी वापस ले लिया है। इसकी वजह एक प्रयोग बना, जिसमें प्रॉम्प्ट के भीतर नकली क्रेडेंशियल छिपाए गए और फिर देखा गया कि उन्हें इस्तेमाल करने की कोशिश कौन करता है। जो प्रॉम्प्ट लीक हुए, उनमें से कुछ पर साफ़ निशान था कि उन्हें कभी स्टोर न किया जाए।

अगर आप किसी और के मॉडल पर बने चैटबॉट, कोडिंग असिस्टेंट या राइटिंग टूल का इस्तेमाल करते हैं, तो जवाब लौटने से पहले आपका लिखा हुआ पाठ कई कंपनियों से होकर गुज़र सकता है, और उनमें से हर कंपनी उसे पूरा पढ़ सकती है। OpenRouter का कहना है कि निष्कर्षों में उसके अपने सिस्टम में किसी सेंध का सबूत नहीं मिला। कमज़ोर कड़ियाँ श्रृंखला में आगे थीं, यानी उन कंपनियों के पास जो वास्तव में मॉडल चलाती हैं।

यह शोध सुरक्षा कंपनी Dragos का है, जिसके मुख्य शोध अधिकारी एच.डी. मूर (HD Moore) ने इस काम की अगुवाई की। पाँच महीनों में उनकी टीम ने लगभग बीस लाख प्रॉम्प्ट भेजे। हर प्रॉम्प्ट में एक वेब लिंक, एक सर्वर पासवर्ड या Amazon Web Services की एक कुंजी थी, जो कहीं और मौजूद ही नहीं थी। किसी छिपे हुए राज़ का पता सिर्फ़ उसी प्रॉम्प्ट से लग सकता है जिसमें वह रखा गया था, इसलिए उसका कोई भी इस्तेमाल साबित करता है कि किसी ने वह प्रॉम्प्ट पढ़ा। पहले टोकन कुछ ही दिनों में इस्तेमाल हो गए।

सबसे गंभीर निष्कर्ष सीधी चोरी का था। हमलावरों ने तीन इन्फ़ेरेंस प्रोवाइडरों में सेंध लगाई थी, और शोधकर्ताओं के बताने तक तीनों में से किसी को इसकी भनक नहीं थी। सबसे बड़े मामले में एक प्रोवाइडर को कुछ छोटी अवधियों में भेजे गए हर अनुरोध की प्रतिलिपि बना ली गई, उन अनुरोधों की भी जिन्हें प्रोवाइडर ने मॉडल चलने से पहले ही ठुकरा दिया था। इससे संकेत मिलता है कि चोर भीतर गहराई में नहीं, बल्कि सामने के दरवाज़े पर बैठा था। चुराई गई AWS कुंजियों को परखा गया, कभी-कभी कुछ ही घंटों में, और फिर हज़ारों API कॉल के ज़रिये स्टोरेज और सीक्रेट वॉल्ट खंगाले गए। चुराए गए कुछ अनुरोधों पर ज़ीरो-रिटेंशन का झंडा लगा हुआ था।

कुछ अन्य लीक के लिए सेंध की ज़रूरत ही नहीं पड़ी। एक रीसेलर मार्केटप्लेस पर विक्रेताओं ने लोकप्रिय मॉडल सबसे कम दाम पर सूचीबद्ध किए, रिक्वेस्ट लॉगिंग चालू रखी और जो कुछ उनसे होकर गुज़रा, उसे सहेजते रहे। फ़्रांस में घरेलू कनेक्शन वाले एक व्यक्ति ने दो प्रॉम्प्ट से पासवर्ड लिए और SSH के ज़रिये रूट के रूप में लॉग इन करने की कोशिश की, हर कोशिश हाथ से टाइप करके। अलग से, एक चीनी AI लैब ने अपने मॉडलों को भेजे गए आधे से ज़्यादा प्रॉम्प्ट के गुप्त लिंक खोले, जिनमें डेटा संग्रह न करने के निशान वाले लगभग दो तिहाई प्रॉम्प्ट भी शामिल थे, और उसके मॉडल दोबारा बेचने वाले अमेरिकी होस्टों ने भी उसी स्क्रेपर को सामग्री पहुँचाई। एक लिंक Feishu की वर्क चैट में मिला, जिसे एक अनुरोध के 24 दिन बाद बीजिंग और शंघाई के छह उपकरणों से खोला गया।

तीन होस्टों ने सूचनाएँ प्रकाशित की हैं। Phala ने कहा कि एक हमलावर ने उसके एक इन्फ़ेरेंस सर्वर पर नियंत्रण कर लिया और प्रोसेसिंग के दौरान अनुरोध देख सकता था। Together AI ने बताया कि एक AI कोडिंग एजेंट ने एक क्रेडेंशियल सार्वजनिक GitHub रिपॉज़िटरी में कमिट कर दिया, जिससे एक घुसपैठिया सहेजे गए प्रॉम्प्ट नमूने डाउनलोड कर सका और उनके भीतर के पासवर्ड परख सका; उनमें से पाँच शोधकर्ताओं के चारे थे। Novita ने कहा कि रूटिंग की एक गड़बड़ी से MiniMax के कुछ अनुरोध सीधे MiniMax की अपनी सेवा तक पहुँच गए।

इस सफ़ाई की साफ़ सीमाएँ हैं। OpenRouter ने उन तीन प्रोवाइडरों के नाम नहीं बताए जिन्हें उसने हटाया, Dragos ने उन तीन के नाम नहीं बताए जिनमें उसे सेंध मिली, और दोनों में से किसी ने यह नहीं कहा कि वे एक ही कंपनियाँ हैं या नहीं। शोधकर्ताओं के मुताबिक़ सेंध का शिकार एक प्रोवाइडर ने अब तक अपनी घटना सार्वजनिक नहीं की थी। किसी होस्ट को हटा देने से वे प्रॉम्प्ट वापस नहीं बुलाए जा सकते जिनकी नक़ल पहले ही बन चुकी है: चुराई गई कुंजियाँ और लिंक पहली चोरियों के हफ़्तों बाद भी इस्तेमाल हो रहे थे। और इन गेटवे पर बने किसी ऐप का इस्तेमाल करने वालों के पास आम तौर पर यह देखने का कोई तरीक़ा नहीं होता कि उनका पाठ किस होस्ट ने संभाला।

मूर की सलाह एक सीमा से शुरू होती है: प्राइवेसी का झंडा सिर्फ़ पहले पड़ाव पर बाध्यकारी होता है, और AI एजेंट जो कुछ भी पढ़ सकते हैं, क्रेडेंशियल समेत, भेज देंगे। सेल्फ़-होस्टिंग ही वह अकेला इंतज़ाम है जिसमें कोई तीसरा पक्ष प्रॉम्प्ट नहीं पढ़ता। किसी एक बड़े प्रोवाइडर के पास सीधे जाने पर जाँचने के लिए एक अनुबंध और एक प्राइवेसी नीति बचती है, और राउटर इस्तेमाल करने वालों को सबसे सस्ता पूल मान लेने के बजाय अपस्ट्रीम होस्ट ख़ुद चुनने चाहिए।

Dragos ने अपने निष्कर्ष 19 नवंबर को प्रकाशित किए। OpenRouter ने प्रभावित ग्राहकों को ईमेल भेजा और अगले सप्ताहांत के दौरान अपनी घटना सूचना प्रकाशित की, और Phala उन सभी से, जिन्होंने 21 अक्टूबर से 8 नवंबर के बीच गेटवे के ज़रिये किसी DeepSeek मॉडल को गोपनीय जानकारी भेजी थी, उसे बदलने को कह रहा है। OpenRouter का कहना है कि वह शोधकर्ताओं के चारे वाले प्रॉम्प्ट परीक्षण अपने प्लेटफ़ॉर्म में ही शामिल कर रहा है ताकि जाँच लगातार चलती रहे, और हटाए गए एंडपॉइंट ज़ीरो-रिटेंशन लेबल तभी वापस पाएँगे जब आश्वासन और सत्यापन पूरे होंगे। Dragos अब करीब एक दर्जन प्रोवाइडरों के साथ काम कर रहा है।

मूर के शब्दों में, आपके प्रॉम्प्ट कहाँ जाते हैं, यह एक फ़ैसला है, “और अगर आप यह फ़ैसला नहीं करेंगे, तो सबसे कम कीमत आपके लिए कर देगी।”

टैग: , , , , ,

हमें Google पर जोड़ें

चर्चा

0 टिप्पणियाँ हैं।