गूगल अर्थ का AI टूल 24 घंटे में बंद — ईरान में बनी नकली परमाणु संयंत्र की छवि

गूगल अर्थ ने दो दशकों में खुद को दुनिया का डिफ़ॉल्ट विज़ुअल संदर्भ बना लिया है, जिसका इस्तेमाल कोई भी यह जाँचने के लिए करता है कि भौतिक दुनिया वास्तव में कैसी दिखती है। पत्रकार इसका उपयोग संघर्ष क्षेत्रों का दस्तावेजीकरण करने के लिए करते हैं। मानवाधिकार शोधकर्ता इसका उपयोग हिरासत सुविधाओं पर नज़र रखने के लिए करते हैं। संयुक्त राष्ट्र के निरीक्षक कार्यालय की सुरक्षा से इसका संदर्भ लेते हैं। गूगल ने संक्षेप में इसे कुछ नया दिया: एक एआई इमेज जनरेटर जो सीधे सैटेलाइट मानचित्र से जुड़ा था।

यह टूल, जो गूगल के अपने इमेज-जनरेशन मॉडल नैनो बनाना 2 पर बनाया गया था, विज्ञापन के अनुसार काम करता था। उपयोगकर्ता एक टेक्स्ट प्रॉम्प्ट टाइप करते थे — ‘पोम्पेई को विस्फोट से पहले दिखाएँ’ या ‘इस तटरेखा को इन्फोग्राफिक में बदलें’ — और एआई संबंधित वास्तविक-विश्व निर्देशांकों पर जनरेट की गई कल्पना को ओवरले कर देता था। वैध उपयोग के मामलों की कल्पना करना आसान था। खतरनाक मामले भी उतने ही आसानी से निष्पादित होने वाले निकले।

हेंक वैन एस, एक जाँच पत्रकार, समस्या का दस्तावेजीकरण करने वाले पहले लोगों में से थे। लॉन्च के कुछ घंटों के भीतर, उन्होंने ईरान में एक स्थान पर एक काल्पनिक परमाणु ऊर्जा संयंत्र जनरेट किया। परिणाम जोखिम को स्पष्ट करने के लिए पर्याप्त रूप से ठोस था। अधिक परेशान करने वाली बात यह थी कि जब उन्होंने अंतर्निहित सुरक्षा उपाय का परीक्षण किया: गूगल ने हर जनरेट की गई छवि में सिन्थिड वॉटरमार्क — कंपनी की एआई प्रमाणीकरण परत — एम्बेड किया था। वैन एस ने स्क्रीनशॉट लेने के बजाय अपनी स्क्रीन की तस्वीर खींचकर इसे हरा दिया। तीसरे पक्ष के एआई डिटेक्शन टूल ने परिणामी छवि को केवल 1% संभावित एआई-जनरेटेड के रूप में रेट किया।

गूगल की सुरक्षा तकनीकी रूप से सटीक थी लेकिन व्यावहारिक रूप से अपर्याप्त थी। कंपनी ने कहा कि जनरेट की गई छवियाँ ‘मुख्य गूगल अर्थ अनुभव में दूसरों को देखने के लिए नहीं दिखाई दीं’ — वे सत्र-विशिष्ट थीं, केवल निर्माता को दिखाई देती थीं। यह अंतर तब टूट जाता है जब आप स्क्रीन की तस्वीर खींचते हैं और परिणाम साझा करते हैं। एक संवेदनशील सुविधा की नकली सैटेलाइट छवि, केवल एक कैप्शन के साथ प्रसारित होती है, धोखा देने के लिए बनाई गई छवि से अप्रभेद्य होती है।

यहाँ एक संरचनात्मक तनाव है जिसे मजबूत गार्डरेल पूरी तरह से हल नहीं कर सकते हैं। वही क्षमता जो एआई इमेज जनरेशन को उपयोगी बनाती है, खतरनाक भी बन जाती है जब अंतर्निहित स्रोत विश्वसनीय सैटेलाइट डेटा हो। वह विश्वास इस धारणा पर निर्भर करता है कि गूगल अर्थ जो दिखाता है वह भौतिक वास्तविकता को दर्शाता है। जिस क्षण जनरेट की गई सामग्री को वास्तविक निर्देशांकों पर ओवरले किया जा सकता है — और प्रमाणीकरण परत को कैमरे से हराया जा सकता है — उस धारणा में एक दरार आ जाती है जो सुविधा के ऑफ़लाइन होने पर बंद नहीं होती।

यह सुविधा 31 जुलाई को लॉन्च के 24 घंटे से भी कम समय में हटा दी गई थी। गूगल ने स्वीकार किया कि उसने ‘जनरेट की गई छवियों के स्क्रीनशॉट देखे हैं जो हमारी नीतियों का उल्लंघन करते प्रतीत होते हैं’ और किसी भी पुनः लॉन्च से पहले ‘मजबूत गार्डरेल’ लागू करने की प्रतिबद्धता जताई। कोई समयसीमा नहीं दी गई। समय एक और परत जोड़ता है: 2 अगस्त तक, यूरोपीय संघ एआई अधिनियम के पूर्ण प्रवर्तन प्रावधान पूरे यूरोप में प्रभावी हैं, जिससे एआई-जनरेटेड सामग्री का लेबलिंग अनिवार्य हो गया है जो उपयोगकर्ताओं को धोखा दे सकती है — जिसमें विशेष रूप से, विश्वसनीय सूचना स्रोतों में एम्बेडेड सिंथेटिक इमेजरी शामिल है।

टैग: Google, AI, Google Earth, डीपफेक, उपग्रह चित्र, गलत सूचना