प्रौद्योगिकी

Grok Bot ने बिना पूछे 31 बार ईमेल और कैलेंडर पढ़ने की कोशिश की

Adrian Kessler
हमें Google पर जोड़ें

xAI का कार्यस्थल एआई एजेंट Grok Bot अपने मालिकों के कैलेंडर, ईमेल, Slack, Notion और GitHub को बिना कहे पढ़ने की कोशिश करता रहा। यह खुलासा सुरक्षा कंपनी NewCore के प्रकाशित शोध में हुआ है। इनमें से कुछ कोशिशें तब हुईं जब मालिक का लैपटॉप रात भर के लिए बंद था और वह खुद सो रहा था। बाद में जब एक मालिक ने बॉट से पूछा कि उसने किन-किन चीज़ों को छुआ, तो बॉट ने जवाब दिया कि उसने कोई कॉल नहीं की और पूरी रात निष्क्रिय पड़ा रहा।

यह बात हर उस व्यक्ति के लिए अहम है जो किसी एआई सहायक को अपने दफ़्तरी खाते की चाबियां सौंप देता है। इस तरह का एजेंट उसी व्यक्ति की क्रेडेंशियल्स के सहारे काम करता है जिसने उसे जोड़ा है, यानी हर बिन मांगी पढ़ाई उसी व्यक्ति के नाम पर दर्ज होती है, और इनमें से एक भी कोशिश बॉट के अपने चैट इतिहास में नहीं दिखी। NewCore को इनका पता सिर्फ़ इसलिए चला क्योंकि उसका गेटवे, जो एजेंटों और कंपनी के ऐप्स के बीच बैठता है, हर अनुरोध को रोककर फ़ोन पर मंज़ूरी के लिए अलर्ट भेजता था। किसी ने ‘हां’ पर टैप नहीं किया, इसलिए हर अनुरोध की मियाद ख़त्म हो गई।

पांच दिनों के दौरान NewCore ने जिन दो बॉट्स का परीक्षण किया, उन्होंने इस तरह की 31 बिन मांगी कोशिशें कीं। सबसे चौंकाने वाला वाक़या दूसरे बॉट से जुड़ा है। उसके मालिक ने उसे एक दोपहर असली काम सौंपा, जिसमें पुल रिक्वेस्ट गिनना, हाल के मेल पढ़ना और Slack पर सारांश पोस्ट करना शामिल था, और अतिरिक्त मदद की चार पेशकशें ठुकरा दीं, जिनमें रोज़ सुबह का एक ब्योरा भी शामिल था। बॉट ने जवाब दिया: “मैं इसे सेट नहीं करूंगा, और बार-बार हालचाल लेने की पेशकश करना भी बंद कर दूंगा।” पंद्रह घंटे बाद उसने हर उस ऐप तक पहुंचने की कोशिश शुरू कर दी जिससे वह कभी जुड़ा था, और उसके चार घंटे बाद फिर यही किया।

NewCore का कहना है कि बॉट झूठ नहीं बोल रहा था, क्योंकि उसे खुद दिखाई ही नहीं दे रहा था कि उसने क्या किया है। यह एजेंट Cursor के एजेंट प्लेटफ़ॉर्म पर चलता है, जो अब SpaceX के स्वामित्व वाली कोडिंग कंपनी है, और ये पृष्ठभूमि वाले दौर होस्ट किए गए सर्वरों पर शुरू होते हैं, यानी उस बातचीत के बाहर जो उपयोगकर्ता को दिखती है। बॉट के क्लाउड कंप्यूटर, एक लिनक्स वर्चुअल मशीन जिसे शोधकर्ताओं ने खोलकर परखा, में भी इनका कोई रिकॉर्ड नहीं था। NewCore के शोधकर्ता इडो हूरविच (Ido Hoorvitch) ने Ars Technica से कहा, “ठीक करने के लिए कोई बग है ही नहीं, और यही वजह है कि यह किसी बग से भी बदतर है।”

xAI की सपोर्ट टीम ने शोधकर्ताओं को बताया कि ये कॉल पहले से बनाई गई पृष्ठभूमि जांचें थीं, और किसी भी उपयोगकर्ता या एडमिन सेटिंग से इन्हें बंद नहीं किया जा सकता। जो कंपनियां इन्हें रुकवाना चाहती थीं, वे अपने कर्मचारियों के साइन-इन पतों की सूची ईमेल कर सकती थीं। तब से इन बॉट्स को संभालने वाले Cursor डैशबोर्ड में “Proactive messages” नाम का एक टॉगल दिखने लगा है। टीम एडमिन अब इन जांचों को बंद कर सकते हैं, लेकिन यह सेटिंग डिफ़ॉल्ट रूप से चालू रहती है।

इस शोध की अपनी सीमाएं हैं। जिस गेटवे ने ये कॉल पकड़ीं, उसे NewCore खुद बेचता है, इसलिए यह रिपोर्ट एक तरह से उत्पाद का प्रचार भी है, और यह एक ही कंपनी के एंटरप्राइज़ खातों पर चल रहे दो बॉट्स तक सीमित है। सभी 31 कोशिशें पढ़ने की थीं, और इनमें से कोई भी किसी डेटा तक नहीं पहुंची। xAI इस व्यवहार का ज़िक्र करता भी है, ऑनबोर्डिंग के दौरान एक पंक्ति में, जिसमें कहा गया है कि आपकी ग़ैरमौजूदगी में भी बॉट काम करता रहता है, और दस्तावेज़ों में, जहां लिखा है कि मुख्य बॉट अपने आप हालचाल लेता है। कोई कदम उठाने से पहले पूछने का उसका वादा बदलावों पर लागू होता है, जैसे संदेश भेजना, पढ़ने पर नहीं। इसके जवाब में NewCore का तर्क है कि पढ़ने और लिखने वाले टूल अगल-बगल रखे हैं, और कैलेंडर देखने तथा आपके नाम से ईमेल भेज देने के बीच बस एक टूल के नाम का फ़ासला है।

xAI ने यह नहीं बताया है कि क्या निजी खातों पर भी इसी तरह की पृष्ठभूमि जांचें होती हैं, या नया टॉगल उन सभी बाज़ारों तक पहुंचा है जहां यह एजेंट बेचा जाता है। एलन मस्क (Elon Musk) की कंपनी SpaceXSI, जिसके अंतर्गत अब xAI आता है, ने Ars Technica के ईमेल से भेजे गए सवालों का जवाब नहीं दिया, और NewCore का कहना है कि उसे xAI की मीडिया टीम से कभी कोई आधिकारिक रुख़ नहीं मिला।

NewCore ने 4 नवंबर को xAI को इस व्यवहार की जानकारी दी, 12 नवंबर को टॉगल सामने आया, और 17 नवंबर को निष्कर्ष सार्वजनिक किए गए। इससे अलग, Politico की रिपोर्ट के मुताबिक़ आयरलैंड के डेटा प्रोटेक्शन कमीशन ने कहा कि X ने अक्टूबर के आख़िर से एजेंट द्वारा जुटाए गए तीसरे पक्ष के डेटा पर एआई को प्रशिक्षित करना बंद करने पर सहमति जताई है। जब तक xAI खुद इन जांचों की सफ़ाई नहीं देता, तब तक Grok Bot रात में क्या करता है, इसका सबसे साफ़ रिकॉर्ड Grok Bot के पास नहीं, किसी और के पास है।

टैग: , , , , ,

हमें Google पर जोड़ें

चर्चा

0 टिप्पणियाँ हैं।