प्रौद्योगिकी

Wells Fargo की नई शर्तों में AI एजेंट की गलतियों का बोझ ग्राहक पर

Susan Hill
हमें Google पर जोड़ें

Wells Fargo अपने ऐप और वेबसाइट से जुड़े समझौते को नए सिरे से लिख रहा है, ताकि किसी बाहरी AI एजेंट द्वारा ग्राहक के खाते में किया गया हर काम ग्राहक का अपना कृत्य माना जाए। बैंक का कहना है कि वह एजेंट के निर्देशों को बिना जाँचे मानेगा, एजेंट की गतिविधि पर नज़र नहीं रखेगा, और एजेंट की गलतियों को ग्राहक की गलती मानेगा। नई शर्तों में बड़े अक्षरों में लिखा है, “Your use of any AI Agent is AT YOUR OWN RISK।”

जिसने भी अपना बैंकिंग पासवर्ड किसी शॉपिंग बॉट या बजट बनाने वाले असिस्टेंट को सौंपा है, उसके लिए यह बदलाव तय करता है कि सॉफ़्टवेयर के गलती करने पर भुगतान कौन करेगा। दोहरा भुगतान, एक ही ऑर्डर दस बार लग जाना, या किसी जाल बिछे वेब पेज से शुरू हुआ ट्रांसफ़र, इन सबका बोझ खाताधारक पर आएगा, बैंक पर नहीं, जब तक कि कोई कानून अलग न कहे। किसी को कुछ साइन करने की ज़रूरत नहीं है: बदलाव के बाद जो ग्राहक ऑनलाइन बैंकिंग का इस्तेमाल जारी रखते हैं, उन्हें शर्तें स्वीकार करने वाला मान लिया जाता है। उपभोक्ता व्यवहार पर शोध करने वाली ब्रायंट यूनिवर्सिटी (Bryant University) में मार्केटिंग की प्रोफ़ेसर केसी किम (Kacy Kim) ने Wired से कहा, “उपभोक्ता लक्ष्य को अधिकृत करते हैं, हर क्लिक को नहीं।”

परिभाषा काफ़ी व्यापक है। Wells Fargo किसी भी ऐसे सॉफ़्टवेयर को “AI Agent” कहता है जो किसी की ओर से “autonomous, semi-autonomous, or non-autonomous action” लेता है, यानी यह दायरा निजी सहायक के रूप में बिकने वाले चैटबॉट से कहीं आगे तक जाता है। एजेंट के निर्देश गलत समझने, ऐसे काम करने जो किसी ने कहे ही नहीं, “manipulated inputs” पर कार्रवाई करने, या उसे दिए गए अधिकार से आगे बढ़ जाने की कीमत ग्राहक चुकाता है। ग्राहक जिन लोगों को अपने खाते में आने देता है, उनके एजेंट भी इन्हीं नियमों के दायरे में आते हैं, और 18 साल से कम उम्र का कोई व्यक्ति एजेंट जोड़ ही नहीं सकता।

एजेंट को बंद करना भी ग्राहक की ही ज़िम्मेदारी है। शर्तों के मुताबिक ग्राहकों को उसकी पहुँच खुद रद्द करनी होगी, ऐसा करने का सबूत रखना होगा और बैंक माँगे तो वह सबूत सौंपना होगा। जब तक वे Wells Fargo को सूचित नहीं करते, एजेंट जो कुछ भी करे, उसकी ज़िम्मेदारी उन्हीं की रहती है। यह इलेक्ट्रॉनिक ट्रांसफ़र पर अमेरिकी नियम, Regulation E, के तर्क के अनुरूप है, जिसमें अपना कार्ड या लॉगिन देने वाले व्यक्ति के किए ट्रांसफ़र तब तक अधिकृत माने जाते हैं जब तक आप बैंक को उन्हें रोकने के लिए न कह दें।

Wells Fargo अब भी एजेंटों को आने देता है, यानी वह उस उद्योग के उदार छोर पर है जो दरवाज़े बंद कर रहा है। Wired के अनुसार, JPMorgan Chase ने अपनी शर्तें बदलकर ग्राहक के क्रेडेंशियल से लॉग इन करने वाले थर्ड-पार्टी एजेंटों पर रोक लगा दी, Bank of America ने ग्राहकों को चेताया कि वे अपने लॉगिन एजेंटों के साथ साझा न करें, और Citibank तथा PNC ने भी अपनी चेतावनियाँ जोड़ीं। Axios ने बताया कि Morgan Stanley ने थर्ड-पार्टी एजेंटों को अपने प्लेटफ़ॉर्म से रोक दिया है। Wells Fargo ने एजेंटों के इस्तेमाल वाले कनेक्शन काट देने या किसी भी एजेंट को पूरी तरह रोक देने का अधिकार अपने पास रखा है।

यह विरोध बैंकिंग से बाहर भी फैला है। Amazon ने Meta के Muse एजेंट को अपने स्टोर पर खरीदारी करने से रोक दिया है, और United Airlines ने कहा है कि निजी बॉट यात्रियों के लिए उड़ानें नहीं खरीद सकेंगे। Wired की रिपोर्ट में American Express दुर्लभ अपवाद है: उसने कहा कि एजेंट की कुछ गलतियाँ, जैसे किसी चीज़ की ज़रूरत से ज़्यादा मात्रा मँगवा लेना, भविष्य में भरपाई के योग्य हो सकती हैं, बशर्ते खरीदार को रिटेलर से पैसे वापस न मिल पाएँ।

व्यवहार में नई भाषा से कितना फ़र्क पड़ेगा, यह साफ़ नहीं है। इसके खंड बार-बार “law or regulation” का हवाला देते हैं, और किसी अदालत ने यह तय नहीं किया है कि जब ग्राहक का चालू किया हुआ एजेंट ऐसा कुछ कर दे जो ग्राहक ने कभी चाहा ही नहीं था, तो नुकसान किसके सिर जाएगा। उपयोगकर्ताओं की संख्या भी कम है। Forrester की विश्लेषक सुचरिता कोडाली (Sucharita Kodali) ने Wired से कहा, “हमारा सारा डेटा बताता है कि ज़्यादातर लोग यह भी नहीं जानते कि एजेंट क्या होते हैं, उनका इस्तेमाल करना तो दूर की बात है।” और बैंक एजेंटों के खिलाफ़ नहीं हैं। यूनिवर्सिटी ऑफ़ वर्जीनिया (University of Virginia) में उपभोक्ता मनोविज्ञान और AI का अध्ययन करने वाले प्रोफ़ेसर लूका चियान (Luca Cian) ने कहा, “वे बाहरी एजेंटों के लिए दरवाज़ा बंद कर रहे हैं और अपने खुद के एजेंट बना रहे हैं।” Wells Fargo का अपना जेनरेटिव AI असिस्टेंट एक अरब से ज़्यादा इंटरैक्शन संभाल चुका है।

नई शर्तें सिर्फ़ Wells Fargo की अमेरिकी ऑनलाइन और मोबाइल बैंकिंग के ग्राहकों पर लागू होती हैं, और अब तक जिन बैंकों का नाम आया है, वे सभी अमेरिकी हैं। यूरोपीय संघ में भुगतान नियम पहले ही उन ऐप्स को, जो पैसे देखते या भेजते हैं, साझा पासवर्ड के बजाय बैंक की ओर से दिए गए लाइसेंस-प्राप्त कनेक्शनों की ओर धकेलते हैं, जिससे ग्राहक बनकर लॉग इन करने वाले एजेंटों के लिए गुंजाइश कम रह जाती है।

Wells Fargo का अद्यतन समझौता मंगलवार, 24 नवंबर से लागू होगा और उस दिन के बाद बैंक की वेबसाइट या ऐप का इस्तेमाल जारी रखने वाले हर व्यक्ति पर लागू होगा। क्रेडेंशियल आधारित एजेंटों पर JPMorgan की रोक अक्टूबर के आखिर में आई, उसी दिन जब Bank of America ने अपनी चेतावनी भेजी। Wells Fargo ने ग्राहकों से अपने एजेंट बैंक में पंजीकृत कराने का विकल्प भी अपने पास रखा है, जिससे उसके पास उन बॉट्स की एक सूची होगी जिन पर, उसके अनुसार, वह नज़र नहीं रखता।

टैग: , , , , ,

हमें Google पर जोड़ें

चर्चा

0 टिप्पणियाँ हैं।