विज्ञान

Meredith Whittaker: Signal की अध्यक्ष, जो AI एजेंटों को आपकी चैट से दूर रखना चाहती हैं

Penelope H. Fritz
हमें Google पर जोड़ें
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
जन्म2000
पेशाSignal Foundation की अध्यक्ष
पुरस्कारहेलमुट श्मिटे फ्यूचर पुरस्कार

शुक्रवार को Signal ने एक ऐसी सेटिंग चालू की, जिस पर उसके ज़्यादातर यूज़र्स का कभी ध्यान भी नहीं जाएगा। नए iPhone पर ऐप अब Apple के Siri AI को चैट के भीतर स्क्रीन पर दिख रही चीज़ें पढ़ने से रोकता है और डिफ़ॉल्ट रूप से स्क्रीनशॉट भी ब्लॉक कर देता है, जबकि Android पर जैसे ही Google का Gemini झाँकने की कोशिश करता है, ऐप अपनी विंडो बंद कर लेता है। Signal की प्रेसिडेंट मेरेडिथ व्हिटेकर (Meredith Whittaker) ने इस बदलाव की घोषणा ख़ुद की, और उसी पोस्ट में यह भी माना कि यह काफ़ी नहीं है। Apple, Google और Microsoft अपने ऑपरेटिंग सिस्टम में जो एजेंट जोड़ रहे हैं, वे अब भी डिवाइस पर सहेजी गई चीज़ों तक पहुँच सकते हैं, और Mac पर Signal उन्हें रोक ही नहीं सकता। उन्होंने इसे अपने चलाए जा रहे ऐप के लिए अस्तित्व का ख़तरा बताया।

यह लड़ाई उन्हें रास आती है, और साथ ही उनके करियर के केंद्र में बैठी उलझन को भी उजागर करती है। व्हिटेकर ने Google के भीतर एक दशक से ज़्यादा बिताया, फिर उसी बिज़नेस मॉडल की सबसे तीखी आलोचकों में गिनी जाने लगीं, जिसने उस नौकरी का ख़र्च उठाया था। आज वे एक ग़ैर-लाभकारी मैसेंजर की कमान सँभालती हैं, जो डेटा इकट्ठा करने से इनकार करता है, कुछ बेचता नहीं और दानदाताओं पर टिका है, फिर भी उसे उन्हीं कंपनियों के बनाए फ़ोन पर चलना पड़ता है जिनके AI उत्पादों को वे लापरवाह कहती हैं। Signal किसी संदेश को एंड-टू-एंड एन्क्रिप्ट कर सकता है। ऑपरेटिंग सिस्टम को एन्क्रिप्ट नहीं कर सकता।

टेक्नोलॉजी की दुनिया में उनका रास्ता अप्रत्याशित था। व्हिटेकर ने यूनिवर्सिटी ऑफ़ कैलिफ़ोर्निया, बर्कली में रेटरिक और अंग्रेज़ी साहित्य पढ़ा और 2006 में Google से जुड़ीं, जहाँ वे तेरह साल रहीं। उन्होंने उसका Open Research ग्रुप खड़ा किया, जो नेट न्यूट्रैलिटी की माप, प्राइवेसी और सिक्योरिटी पर शिक्षाविदों और ओपन-सोर्स डेवलपर्स के साथ काम करता था, और उन्होंने M-Lab (Measurement Lab) की सह-स्थापना की, जो एक खुला नेटवर्क है और इंटरनेट के प्रदर्शन से जुड़े डेटा का सबसे बड़ा सार्वजनिक स्रोत बन चुका है।

माप-जोख के काम ने उन्हें सिखाया कि बिना सबूत के आने वाले दावों पर भरोसा न किया जाए। 2017 में उन्होंने व्हाइट हाउस द्वारा आयोजित एक संगोष्ठी के बाद शोधकर्ता केट क्रॉफ़ोर्ड (Kate Crawford) के साथ न्यूयॉर्क यूनिवर्सिटी में AI Now Institute की सह-स्थापना की। इस संस्थान ने यह अध्ययन किया कि आर्टिफ़िशियल इंटेलिजेंस जिन लोगों पर आज़माया जाता है, उन पर क्या असर डालता है, न कि यह कि वह किसी डेमो में क्या कर दिखा सकता है, और उसकी रिपोर्टें बार-बार एक ही तर्क पर लौटती रहीं: कि असली समस्या पक्षपाती कोड से कम और इस बात से ज़्यादा जुड़ी है कि इन सिस्टमों का मालिक कौन है और इन्हें किस पर तानकर रखा गया है। बाद में वे NYU में Minderoo रिसर्च प्रोफ़ेसर रहीं और AI Now की फ़ैकल्टी डायरेक्टर के रूप में काम किया; आज वे उसकी चीफ़ एडवाइज़र हैं।

इस तर्क ने उन्हें अपने नियोक्ता से टकराव के रास्ते पर ला खड़ा किया। 2018 में उन्होंने प्रोजेक्ट मेवेन के ख़िलाफ़ एक याचिका लिखी, जो पेंटागन का एक कॉन्ट्रैक्ट था और जिसके तहत Google अमेरिकी ड्रोन कार्यक्रम के लिए मशीन-विज़न टूल विकसित कर रहा था। तीन हज़ार से ज़्यादा कर्मचारियों ने उस पर दस्तख़त किए और Google ने कॉन्ट्रैक्ट का नवीनीकरण नहीं किया। कुछ महीने बाद वे Google वॉकआउट के मुख्य आयोजकों में से एक थीं, जब ख़बरें आईं कि कंपनी ने यौन दुराचार के आरोपी एक एक्ज़िक्यूटिव एंडी रुबिन (Andy Rubin) को 9 करोड़ डॉलर का एग्ज़िट पैकेज दिया था, और बीस हज़ार से ज़्यादा कर्मचारी अपनी डेस्क छोड़कर निकल गए। व्हिटेकर ने बाद में कहा कि Google ने बदले की कार्रवाई करते हुए उनसे AI Now का काम छोड़ने को कहा। उन्होंने जुलाई 2019 में कंपनी छोड़ दी।

उसी गर्मी में उन्होंने अमेरिकी हाउस साइंस कमेटी से कहा कि AI सिस्टम पूर्वाग्रह को और गहरा कर सकते हैं, और टेक कर्मचारियों के लिए व्हिसलब्लोअर सुरक्षा की माँग की। 2020 की शुरुआत में वे हाउस ओवरसाइट कमेटी के सामने और आगे बढ़ गईं और तर्क दिया कि फ़ेशियल रिकग्निशन की समस्या सिर्फ़ उसकी सटीकता नहीं, बल्कि उन लोगों की ताक़त है जो उसे अपने से कमज़ोर लोगों पर लागू करते हैं, और उसका इस्तेमाल बंद करने की अपील की। नवंबर 2021 से वे फ़ेडरल ट्रेड कमीशन की चेयर लीना ख़ान (Lina Khan) की आर्टिफ़िशियल इंटेलिजेंस पर वरिष्ठ सलाहकार रहीं।

Signal ने उन्हें सितंबर 2022 में अपना पहला प्रेसिडेंट नियुक्त किया, यह पद ऐप के नेतृत्व के साथ मिलकर बनाया गया था। Signal में कोई विज्ञापन नहीं है और बेचने लायक कोई यूज़र डेटा भी नहीं, और व्हिटेकर खुलकर कह चुकी हैं कि इसे चलाने में हर साल लगभग 5 करोड़ डॉलर लगते हैं। उनके शुरुआती कार्यकाल का बड़ा हिस्सा यह समझाने में गया कि जो मैसेंजर अपने यूज़र्स के बारे में लगभग कुछ नहीं रखता, उसे भी बड़ी इंजीनियरिंग टीम और नियमित दानदाताओं की ज़रूरत क्यों है, और इसका विकल्प यह है कि भुगतान निगरानी के रूप में किया जाए।

उनके आलोचक इस मॉडल की सीमाओं की ओर इशारा करते हैं। Signal का एन्क्रिप्शन प्रोटोकॉल पहले से WhatsApp की बातचीत की हिफ़ाज़त करता है, फिर भी ऐप ख़ुद उस Meta उत्पाद के आकार का एक छोटा-सा हिस्सा भर है जो उसी की क्रिप्टोग्राफ़ी पर बना है, और सरकारों पर व्हिटेकर का दबाव मोटे तौर पर एक ही धमकी पर टिका है: कि Signal एन्क्रिप्शन कमज़ोर करने के बजाय उस देश को छोड़ देगा। यह धमकी वे यूरोपीय संघ की ओर तान चुकी हैं और जून में फिर यूनाइटेड किंगडम की ओर। धमकी विश्वसनीय इसलिए है कि दान से चलने वाले ऐप को शेयरधारकों को मनाना नहीं पड़ता, लेकिन इससे नियामकों को Signal का जवाब बातचीत से ज़्यादा निर्वासन जैसा बन जाता है। जिस घटना ने ऐप को सबसे ज़्यादा सुर्ख़ियाँ दिलाईं, उसमें भी ऐसा ही अंतर दिखा। मार्च 2025 में जब पता चला कि अमेरिकी वरिष्ठ अधिकारियों ने एक Signal ग्रुप में सैन्य योजनाओं पर चर्चा की थी, जिसमें ग़लती से एक पत्रकार भी जुड़ गया था, तो व्हिटेकर ने एन्क्रिप्शन को निजी संचार का गोल्ड स्टैंडर्ड बताकर उसका बचाव किया और याद दिलाया कि कोई भी ऐप लोगों को चैट में ग़लत व्यक्ति जोड़ने से नहीं रोक सकता। इतने बड़े पैमाने की चर्चा को ठुकराना मुश्किल है और उसे क़ाबू में रखना और भी मुश्किल।

तब से उनका ध्यान सरकारों से हटकर डिवाइस बनाने वाली कंपनियों पर आ गया है। जनवरी में दावोस में उन्होंने ऑपरेटिंग-सिस्टम के AI एजेंटों को एन्क्रिप्टेड सेवाओं के लिए ख़तरनाक बताया और चेताया कि जिस सिस्टम को रूट एक्सेस दे दिया जाए, उसे हाइजैक किया जा सकता है। जून में Bloomberg को दिए इंटरव्यू में उन्होंने कहा कि चैटबॉट आपके दोस्त नहीं हैं, और ऐसे असिस्टेंट को एक तरह का बैकडोर बताया जिसकी पहुँच उनके पेमेंट विवरण और उनके Signal अकाउंट तक हो। इस हफ़्ते Signal और AI Now के कर्मचारियों के साथ Reuters द्वारा किए गए परीक्षणों में पाया गया कि Meta का Muse एजेंट नोटिफ़िकेशन एक्सेस के ज़रिए Android पर Signal चैट पढ़ रहा था, और व्हिटेकर ने इतनी पहुँच वाले एजेंटों को तकनीकी रूप से लापरवाह क़रार दिया।

2023 में TIME ने उन्हें आर्टिफ़िशियल इंटेलिजेंस के सबसे प्रभावशाली लोगों की अपनी पहली सूची में शामिल किया। मई 2024 में उन्हें हैम्बर्ग में हेल्मुट श्मिट फ़्यूचर प्राइज़ मिला, जो Die Zeit और उसके सहयोगियों ने लोकतंत्र और टेक्नोलॉजी से जुड़े काम के लिए दिया, और जुलाई 2025 में वे जर्मन मीडिया समूह Hubert Burda Media के निदेशक मंडल में शामिल हुईं।

आगे क्या होगा, यह Signal से कम और Apple, Google और Microsoft पर ज़्यादा निर्भर है। व्हिटेकर ने तीनों से ऐसा दस्तावेज़ी तरीक़ा माँगा है जिससे ऐप अपनी स्क्रीन और अपने डेटा को AI एजेंटों से दूर रख सकें, और Signal का कहना है कि उसे सतर्क उम्मीद है कि Google और Apple इस पर बात कर रहे हैं। अगर वे इसे बना देते हैं, तो इस हफ़्ते उनके चालू किए ब्लॉक का रूप पूरे उद्योग का डिफ़ॉल्ट बन जाएगा। अगर नहीं बनाते, तो बाज़ार का सबसे निजी मैसेंजर जिन फ़ोनों पर चलता है, उन्हीं के ख़िलाफ़ वर्कअराउंड भेजता रहेगा, और उसकी प्रेसिडेंट यह बात सार्वजनिक रूप से कहती रहेंगी।

टैग: , , , , , , ,

हमें Google पर जोड़ें

चर्चा

0 टिप्पणियाँ हैं।