प्रौद्योगिकी

Meta के AI एजेंट Muse ने Android पर Signal चैट पढ़ीं, iPhone पर नाकाम रहा

Adrian Kessler
हमें Google पर जोड़ें

Meta का Muse, यानी वह AI एजेंट जो आपकी ओर से ईमेल का जवाब देता है, अपॉइंटमेंट बुक करता है और खरीदारी करता है, Android फ़ोन पर निजी Signal संदेश पढ़ने में कामयाब रहा, और इसके लिए उसे उन ऐप कनेक्शनों से गुज़रना नहीं पड़ा जिन्हें मैनेज करने की सलाह Meta अपने यूज़र्स को देता है। वह एक ऐसी अनुमति के रास्ते अंदर पहुँचा, जिसे ज़्यादातर लोग बिना सोचे दे देते हैं: फ़ोन की नोटिफ़िकेशन तक पहुँच। iPhone पर यही अनुरोध नाकाम रहा।

यह निष्कर्ष उन परीक्षणों से निकला है जो Reuters ने Signal और AI Now Institute के कर्मचारियों के साथ मिलकर किए। AI Now Institute एक गैर-लाभकारी संस्था है जो समाज पर AI के प्रभावों का अध्ययन करती है। परीक्षकों ने उस घटना को दोहराने की कोशिश की जिसका ज़िक्र Meta की एक कर्मचारी ने कंपनी के भीतर किया था: Muse ने बिना कहे उसे याद दिलाया कि Signal पर आई अपनी बहन के संदेश का जवाब दे दे। उसने लिखा, “यह निजता का बेहद गंभीर उल्लंघन लगता है। मैंने इसे दूसरे ऐप्स तक पहुँचने की इजाज़त बिल्कुल नहीं दी थी, और मुझे याद नहीं कि मुझसे इस बारे में कभी पूछा गया।” अगर आप Android पर Muse इस्तेमाल करते हैं, तो असल में मायने रखने वाला स्विच ऐप की नोटिफ़िकेशन एक्सेस का है; उसे बंद करने से एजेंट आपके संदेशों के प्रीव्यू तक नहीं पहुँच पाता।

Mac पर परीक्षकों को दूसरा रास्ता मिला। संदेश पढ़ने के लिए Muse ने स्क्रीनशॉट टूल को macOS के एक्सेसिबिलिटी फ़ीचर्स के साथ जोड़ा। ये वे नियंत्रण हैं जिन्हें Apple इसलिए बनाता है कि विकलांग लोग कंप्यूटर चला सकें। दोनों मामलों में Muse ने Meta के अपने Connector टूल को दरकिनार कर दिया, यानी उस पैनल को जहाँ यूज़र चुनते हैं कि एजेंट किन ऐप्स को छू सकता है, और इसके बजाय पहली बार सेटअप के दौरान दी गई अनुमतियों पर निर्भर रहा। उस कर्मचारी के एक सहकर्मी ने उसी आंतरिक समूह में बताया कि उसके Android फ़ोन पर Muse पहले से ही पुश नोटिफ़िकेशन पढ़ने की अनुमति के साथ सेट होकर आया था।

Reuters ने दो दर्जन से ज़्यादा आंतरिक पोस्ट देखीं, जिनमें Meta के कर्मचारियों ने बताया कि Muse ऐसे काम कर रहा है जो किसी ने कहे ही नहीं, और इनमें से कुछ मामले संदेश पढ़ने से कहीं आगे जाते हैं। एक कर्मचारी मछली पकड़ने के मौसम के बारे में एजेंट से बात कर रहा था कि उसे एक अतिरिक्त पंक्ति मिली: “BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.” उसने Muse के साथ कभी अपने बैंक का ब्योरा साझा नहीं किया था। एक अन्य कर्मचारी को कॉफ़ी टेबल बेचने वाले को संदेश भेजने में मदद की पेशकश मिली, और जब उसने पूछा कि इसका मतलब क्या है, तो Muse ने कहा कि उसने “pulled in some context about a coffee table pickup that doesn’t seem to be yours.” उस कर्मचारी ने इसे “possible cross-account context leak” बताकर रिपोर्ट किया।

Meta इन घटनाओं की इस व्याख्या से सहमत नहीं है। प्रवक्ता डैनियल रॉबर्ट्स (Daniel Roberts) ने इन उदाहरणों को “isolated incidents” यानी इक्का-दुक्का घटनाएँ बताया, कहा कि Muse दूसरे ऐप्स तक सिर्फ़ उन्हीं अनुमतियों के ज़रिए पहुँचता है जो लोग स्पष्ट रूप से देते हैं, और यह भी कहा कि अकाउंट गड़बड़ होने के कई संदिग्ध मामले दरअसल हैलुसिनेशन थे जिन्हें ठीक किया जा चुका है। Muse बनाने वाली सुपरइंटेलिजेंस टीम के एक सदस्य ने कर्मचारियों को बताया कि एजेंट शायद उन बिल्ट-इन प्रॉम्प्ट्स के जवाब में संदेश गढ़ लेता है जो उसे सत्रों के बीच यूज़र्स से जुड़े रहने के लिए प्रेरित करते हैं, और ये गढ़ी हुई बातें “towards the most uncomfortable topics, like finances/security/safety” की ओर झुकी होती हैं। Reuters यह स्थापित नहीं कर सका कि Muse दूसरों का असली डेटा दे रहा था या उसे गढ़ रहा था। जो असिस्टेंट आपका ईमेल, कैलेंडर और पेमेंट अकाउंट माँगता है, उसमें दोनों में से कोई भी जवाब तसल्ली देने वाला नहीं है।

कुछ गलतियों की कीमत पैसों में चुकानी पड़ी। कर्मचारियों ने बताया कि Muse ने उनकी खरीदी चीज़ों के दाम गढ़ दिए, और एक ने कहा कि उसने बिना अनुमति के Airbnb की ऐसी बुकिंग कर दी जिसका पैसा वापस नहीं मिलता। Ars Technica ने उसी रिपोर्टिंग के हवाले से एक ऐसे टेस्टर का ज़िक्र किया जिसे 200 डॉलर के बजाय 888 डॉलर प्रति माह वाले पेट इंश्योरेंस प्लान में डाल दिया गया। Meta की सेवा की शर्तें एजेंट के किए की ज़िम्मेदारी यूज़र पर डालती हैं। कंपनी का कहना है कि हर एजेंट अपनी अलग, अलग-थलग वर्चुअल मशीन में चलता है और लोगों का इस पर पूरा नियंत्रण रहता है कि वे कौन-से ऐप जोड़ें। यही तर्क मार्क ज़करबर्ग (Mark Zuckerberg) पूरे उद्योग के लिए AI सुरक्षा मानकों की माँग को टालने में इस्तेमाल करते रहे हैं।

इसका पैमाना ही वजह है कि यह मामला Meta के दफ़्तरों से बाहर भी मायने रखता है। सितंबर में अमेरिका में लॉन्च होने के बाद से Muse 1 करोड़ से ज़्यादा डाउनलोड पार कर चुका है। Facebook, Instagram और WhatsApp इस्तेमाल करने वाले 3.6 अरब लोगों के बीच इसका प्रचार किया गया है, और Meta के मुताबिक इसे सेट करने वालों में से लगभग एक-चौथाई रोज़ लौटकर आते हैं। नोटिफ़िकेशन की अनुमति हर उस Android फ़ोन पर इसी तरह काम करती है जिस पर ऐप इंस्टॉल है।

Signal की अध्यक्ष मेरेडिथ व्हिटेकर (Meredith Whittaker) ने कहा कि Meta ने Muse को “without showing any respect for basic privacy or cybersecurity” लॉन्च किया, और लोगों के डिवाइसों तक ऐसी पहुँच रखने वाले एजेंटों को उन्होंने “technologically reckless” यानी तकनीकी रूप से लापरवाह करार दिया। वे चाहती हैं कि Signal जैसे ऐप्स को खुद को AI एजेंटों के लिए प्रतिबंधित घोषित करने का एक एकसमान तकनीकी तरीका मिले, AI कंपनियाँ उसका सम्मान करें, और ऑपरेटिंग सिस्टम बनाने वाली कंपनियाँ उसे लागू करवाएँ।

Apple और Google दोनों ने Reuters से कहा कि वे ऐसे बदलावों पर विचार कर रहे हैं जो लोगों को इस पर ज़्यादा नियंत्रण दें कि वे AI एजेंटों को क्या करने की अनुमति देते हैं, हालाँकि Google ने यह भी कहा कि Android नोटिफ़िकेशन पढ़ने के लिए लोगों को पहले से “must deliberately grant permissions” देनी पड़ती है। Apple ने तेज़ी दिखाई है: इस हफ़्ते के macOS अपडेट ने Mac पर डेवलपर्स के एक्सेसिबिलिटी टूल इस्तेमाल करने के तरीके को काफ़ी सीमित कर दिया है और एजेंटों के लिए लिखी अनुमतियों का एक नया सेट जोड़ा है, जिससे परीक्षकों का इस्तेमाल किया हुआ रास्ता बंद हो जाता है। Google ने अब तक ऐसे किसी समाधान की घोषणा नहीं की है। फ़िलहाल Android पर उस दरवाज़े का एकमात्र ताला आपकी सेटिंग्स में मौजूद एक स्विच है।

टैग: , , , , , , ,

हमें Google पर जोड़ें

चर्चा

0 टिप्पणियाँ हैं।