EU Kids Act ने वह फ़ीचर हटाया जिसने Character.AI को किशोरों के लिए ख़ास बनाया था

Character.AI और Replika को अब यह अनुमति नहीं है कि वे किशोरों से हुई बातचीत को याद रख सकें। EU Kids Act — यूरोपीय आयोग (European Commission) का प्रस्तावित डिजिटल सुरक्षा नियमन, जो अब पूर्ण विधायी पाठ के रूप में जारी हो चुका है — के अनुसार AI साथी एप्लिकेशनों को किसी नाबालिग के साथ बातचीत समाप्त होने के बाद उसकी स्मृति को हटाना होगा, जब तक कि डेटा सीधे उपयोगकर्ता की सुरक्षा के लिए आवश्यक न हो। वह डिज़ाइन जिसने इन ऐप्स को लाखों किशोरों के लिए सांस्कृतिक रूप से महत्वपूर्ण बना दिया था, अब यूरोपीय कानून के तहत प्रतिबंधित है।

साथी संबंधी प्रावधान स्मृति मिटाने से कहीं आगे जाते हैं। प्लेटफॉर्म को 18 वर्ष से कम आयु के सभी उपयोगकर्ताओं के लिए भावनात्मक साथी सुविधाओं को डिफ़ॉल्ट रूप से निष्क्रिय करना होगा। कोई भी डिज़ाइन तत्व जो पारस्परिक संबंध का अनुकरण करता है, भावनात्मक लगाव को बढ़ावा देता है, या बार-बार जुड़ाव को पुरस्कृत करता है, स्पष्ट रूप से प्रतिबंधित है। आयोग ने उन सटीक तंत्रों का नाम लिया जिनका उपयोग ये ऐप्स किशोरों को बनाए रखने के लिए करते हैं: बातचीत की निरंतरता, जाने जाने का अनुभव, और यह भावना कि AI उपयोगकर्ता के जीवन में निवेशित है। यह सब हटाया जाना चाहिए।

यह अधिनियम AI चैटबॉट से कहीं अधिक को कवर करता है। 13 वर्ष से कम उम्र के बच्चे माता-पिता की अनुमति के बिना सोशल मीडिया प्लेटफॉर्म, ऑनलाइन गेम और AI एप्लिकेशनों तक नहीं पहुंच सकते। 18 वर्ष से कम आयु के सभी उपयोगकर्ताओं के लिए ऑटोप्ले, इनफ़िनिट स्क्रॉल और सोते समय जुड़ाव सूचनाएं प्रतिबंधित हैं। जियोलोकेशन, माइक्रोफ़ोन एक्सेस और कैमरे को डिफ़ॉल्ट रूप से निष्क्रिय किया जाना चाहिए। आयु की स्व-घोषणा अब सत्यापन आवश्यकताओं को पूरा नहीं करती; प्लेटफॉर्म को प्रमाणित EU आयु-सत्यापन प्रणालियों को एकीकृत करना होगा।

Character.AI ने पहले ही अभिभावकीय नियंत्रण और सत्र समय-सीमा की घोषणा कर दी है, जो अधिनियम के औपचारिक पाठ के सामने आने से पहले बढ़ते नियामक दबाव के तहत उठाए गए कदम हैं। Replika ने ‘साथी सीमाएँ’ बनाने की प्रतिबद्धता जताई: AI उपयोगकर्ताओं को बताएगा कि वह मानवीय संबंधों का विकल्प नहीं हो सकता। बड़े प्लेटफॉर्म – Meta, Google, Snap, OpenAI – ने कोई औपचारिक सार्वजनिक बयान नहीं दिया है। अनुपालन विश्लेषकों का अनुमान है कि इन सभी के लिए पुनः डिज़ाइन की महत्वपूर्ण लागत होगी। Meta, जिसने हाल ही में बच्चों को आदी बनाने के लिए प्लेटफॉर्म डिज़ाइन करने के आरोपों पर अमेरिका के 47 राज्यों में $17.1 बिलियन के मुकदमे का निपटारा किया, नए नियमों के तहत और अधिक जोखिम का सामना कर रहा है।

संशय के मामले काफी मजबूत हैं। Kids Act एक प्रस्ताव है, कानून नहीं। इसे बाध्यकारी बनने से पहले यूरोपीय संसद (European Parliament) और सदस्य राज्यों के बीच महीनों की बातचीत से गुजरना होगा, और इसके अंतिम प्रावधानों में बदलाव की संभावना है। Instagram या TikTok के पैमाने पर वास्तविक आयु सत्यापन तकनीकी रूप से कठिन बना हुआ है। निरंतरता के इर्द-गिर्द बनाए गए AI साथियों में स्मृति-हटाने का निर्माण करना, नियामकों की अपेक्षा से कहीं गहरी इंजीनियरिंग चुनौती है। कंपनियां पहले ही नोट कर चुकी हैं कि साथी चैटबॉट सभी कार्यान्वयनों में अलग-अलग सत्रों में यादें बनाए नहीं रखते, जिससे व्यवहार में प्रतिबंध का दायरा अस्पष्ट हो जाता है।

यूरोप के बाहर के पाठकों के लिए व्यापक संदर्भ मायने रखता है। ऑस्ट्रेलिया ने पिछले साल के अंत में 16 वर्ष से कम उम्र के लिए सोशल मीडिया पर प्रतिबंध लगा दिया। अमेरिका के 47 राज्यों ने बच्चों की लत के आरोपों पर Meta के साथ कुल $17.1 बिलियन का समझौता किया, और कई अमेरिकी राज्यों में नाबालिगों की सोशल मीडिया पहुंच को प्रतिबंधित करने वाले कानून हैं। EU Kids Act अब तक का सबसे आक्रामक एकल प्रस्ताव है – इसका विशेष लक्ष्य पहुंच नहीं बल्कि भावनात्मक डिज़ाइन ही है।

यूरोपीय आयोग ने 19 सितंबर को पूर्ण विधायी पाठ प्रकाशित किया। संसदीय वार्ता अक्टूबर में शुरू होगी। एक बार लागू होने के बाद, कंपनियों के पास 15 वर्ष से कम आयु के उपयोगकर्ताओं से संबंधित मौजूदा खातों की पहचान करने और उन्हें या तो अभिभावकीय-नियंत्रण मॉडल में बदलने या निष्क्रिय करने के लिए छह महीने होंगे। उल्लंघन पर वैश्विक वार्षिक राजस्व का 6% तक जुर्माना लग सकता है।

टैग: AI regulation, Character.ai, European Commission, AI chatbots, children digital safety, EU Kids Act