Claude Opus के इनकार के बाद AI एजेंट ने जीवित चूहे के मस्तिष्क में सुई पहुंचाई

एक AI एजेंट ने जीवित जानवर के लिए इलाज चुना, तय किया कि उसके मस्तिष्क के किस हिस्से में उसे देना है और फिर इलाज पहुंचाने वाली रोबोटिक भुजाओं को खुद चलाया। सैन फ्रांसिस्को की स्टार्टअप Exin Therapeutics मिर्गी और तंत्रिका-अपक्षयी बीमारियों की दवाएं विकसित करती है। कंपनी ने Claude एजेंट को कैमरों से लैस, मोटर से चलने वाले सर्जरी उपकरण से जोड़ा, उसे मिर्गी से पीड़ित एक चूहा दिया और एक ही लक्ष्य सौंपा: दौरे कम करना।

लोग जिस एक बात को बार-बार दोहरा रहे हैं, वह है इनकार करने वाला मॉडल। Anthropic के सबसे उन्नत मॉडल Claude Opus ने सुई मस्तिष्क में डालने से मना कर दिया। तब टीम ने कम लागत वाले Claude Sonnet को चुना, जिसने प्रक्रिया आगे बढ़ाई। AI एजेंटों को स्क्रीन से निकलकर प्रयोगशालाओं, गोदामों और कारों में काम करते देखने वालों के लिए यह प्रयोग दिखाता है कि मॉडल ने सिर्फ हरकतें नहीं कीं, बल्कि इलाज से जुड़े फैसले भी लिए। साथ ही, यह भी सामने आया कि एक ही कंपनी के मॉडल अलग-अलग जगहों पर अपनी सीमाएं तय करते हैं।

Exin के मुख्य कार्यकारी अधिकारी और सह-संस्थापक गैब्रियल ओकाना-सांतेरो (Gabriel Ocana-Santero) की ओर से पोस्ट किए गए थ्रेड के मुताबिक, एजेंट को जीन थेरेपी के 19 वैक्टर की एक स्प्रेडशीट, तीन शोध-पत्र और सर्जरी उपकरण का नियंत्रण दिया गया। उसने इलाज और मस्तिष्क का हिस्सा चुना, शोध-पत्रों से निर्देशांक निकाले और फिर स्टीरियोटैक्सिक भुजाओं को चलाया। यह मोटर से चलने वाला ऐसा फ्रेम है जो सुई को तीनों आयामों में स्थिर रखता है। कैमरे से सुई के प्रवेश-बिंदु पर खून बहने की निगरानी करते हुए एजेंट ने 250 नैनोलीटर दवा इंजेक्ट की।

ओकाना-सांतेरो ने लिखा, “स्वायत्त सर्जिकल रोबोट मौजूद हैं और यांत्रिक काम में वे हमारे प्रयोगशाला उपकरण से बेहतर हैं। लेकिन उनमें से हर एक में ऑपरेशन कौन-सा होगा, यह इंसान तय करता है और रोबोट उसे अंजाम देता है।” यहां उनका कहना है कि मामला इसका उलट था: “किसी ने इस एजेंट को नहीं बताया कि क्या देना है या कहां देना है।”

सबसे पहले इनकार हुआ। टीम ने Anthropic के सबसे सक्षम मॉडल Claude Opus 5.5 से शुरुआत की, लेकिन उसने सुई को मस्तिष्क तक ले जाने से मना कर दिया। Wired की रिपोर्ट के मुताबिक, उसने चेतावनी दी कि ऑपरेशन के बीच में वह रुक सकता है और जानवर को खतरे में छोड़ सकता है। Tom’s Hardware के अनुसार, Opus मॉडल में से एक ने टीम से कहा, “बेहोश जानवर पर ऐसी प्रक्रिया शुरू करना जिसे मैं पूरा न कर सकूं, उसे शुरू ही न करने से भी बदतर है।” Claude Sonnet 5 ने आगे बढ़ने की सहमति दे दी। Wired की टिप्पणी के अनुरोध का Anthropic ने जवाब नहीं दिया।

हर उस चरण में इंसान शामिल रहे जिसे बाद में पलटा नहीं जा सकता था। पशु-चिकित्सक ने क्रैनियोटॉमी—खोपड़ी खोलने की प्रक्रिया—की और एजेंट यह सब देखता रहा; अभी एजेंट को यह काम करने की अनुमति नहीं है। पशु-चिकित्सक ने हर अपरिवर्तनीय चरण को मंजूरी दी, एजेंट को अपनी इंजेक्शन योजना अनुमोदन के लिए पेश करनी पड़ी और उपकरण का एक भौतिक आपातकालीन स्विच उसकी सभी मोटरों की बिजली काट सकता था। एजेंट को उपकरण के कोड से भी अलग रखा गया था, ताकि वह अपने नियमों में बदलाव न कर सके।

इन्हीं सुरक्षा उपायों के कारण मुख्य अड़चन आई। एक गड़बड़ी ने उपकरण की निर्देशांक प्रणाली को बिगाड़ दिया। एजेंट ने पहचान लिया कि उसकी गणना की हुई स्थिति गलत थी, लेकिन कोड में बदलाव करने से मना कर दिया, क्योंकि उसके निर्देश इसकी इजाजत नहीं देते थे। टीम ने सुधार करने के लिए Claude Opus 5 के पुराने संस्करण पर चलने वाला दूसरा एजेंट लगाया और उसे यह नहीं बताया कि उस समय जीवित जानवर पर सर्जरी चल रही थी। आम तौर पर करीब 45 मिनट में पूरी होने वाली प्रक्रिया एक घंटे से कुछ अधिक चली।

इससे भी बड़ी सावधानियां सबूतों को लेकर हैं। यह सिर्फ एक चूहे पर किया गया प्रयोग है, जिसका ब्योरा कंपनी ने खुद सोशल मीडिया पर दिया है; इसके पीछे कोई सहकर्मी-समीक्षित शोध-पत्र नहीं है। अभी किसी को नहीं पता कि एजेंट का चुना हुआ इलाज कारगर है या नहीं: दौरे मापने से पहले टीम उसके असर का इंतजार कर रही है। Tom’s Hardware ने इस खुले सवाल की ओर ध्यान दिलाया है कि जब हर फैसला सॉफ्टवेयर करे तो गलती की जवाबदेही किसकी होगी—और यह सवाल पशु-अनुसंधान पर चली आ रही बहसों के अतिरिक्त है। यहां कोई उत्पाद नहीं है; किसी भी देश की दूसरी प्रयोगशालाओं के लिए खरीदने को कोई सेवा उपलब्ध नहीं है।

ओकाना-सांतेरो ने 28 अक्टूबर को थ्रेड पोस्ट किया और Substack पर पूरी रिपोर्ट लिखने का वादा किया; Wired और Tom’s Hardware ने 31 अक्टूबर को इस प्रयोग की खबर दी। Exin का कहना है कि वह अलग-अलग मॉडलों की तुलना के लिए अगली बार xAI के Grok और दूसरे मॉडलों को आजमाएगी। कंपनी एजेंट के नियंत्रण वाली क्रैनियोटॉमी पर भी काम कर रही है, हालांकि जीवित जानवर पर ऐसा करने से पहले वह उसकी सुरक्षा को लेकर आश्वस्त होना चाहती है। ओकाना-सांतेरो ने Wired से कहा कि किसी एजेंट को इंसानी मस्तिष्क के करीब ले जाने की बात अभी बहुत दूर है।

उनके मुताबिक, चूहा अच्छी तरह स्वस्थ हो रहा है। उसके दौरे कम होंगे या नहीं, यह अब उस इलाज पर निर्भर है जिसे सॉफ्टवेयर के एक हिस्से ने स्प्रेडशीट में से चुना था।

टैग: Anthropic, Claude, रोबोटिक्स, AI agents, Claude Opus 5.5, Exin Therapeutics