प्रौद्योगिकी

एलन मस्क: Grok 4.8 में देरी की वजह xAI का पूरा सॉफ्टवेयर C/C++ में नए सिरे से लिखना

नया Grok इसलिए देरी से आया है क्योंकि xAI ने उन ओपन-सोर्स टूल्स को बाहर निकाल दिया जिनके साथ उसने मॉडल को प्रशिक्षित और संचालित किया था। मस्क इस परिणाम को "अभी तक अविश्वसनीय नहीं" कहते हैं और दांव लगा रहे हैं कि यह पुनर्लेखन Grok 5 में सफल होगा।
Adrian Kessler
हमें Google पर जोड़ें

Grok पर एलन मस्क (Elon Musk) के ताज़ा अपडेट का दिलचस्प पहलू प्रोग्रामिंग भाषा नहीं है। अहम बात है उसमें छिपी स्वीकारोक्ति: अगला मॉडल इसलिए देर से आ रहा है क्योंकि उसे बनाने वाली टीम ने मॉडल्स को प्रशिक्षित करने और उन्हें उपयोगकर्ताओं तक पहुँचाने के लिए इस्तेमाल होने वाले ओपन-सोर्स सॉफ़्टवेयर ढाँचे को हटाकर अपना सॉफ़्टवेयर नए सिरे से लिखा।

लॉन्च की झलक के तौर पर देखें तो पोस्ट का लहजा उत्साहजनक है: प्रशिक्षण पूरा, मूल्यांकन के नतीजे बेहतर हो रहे हैं और सप्ताह ख़त्म होने से पहले सीमित स्तर पर उपलब्धता। लेकिन इसे सिस्टम की कहानी की तरह पढ़ें, तो इसमें इससे बड़ी बात कही गई है। अब SpaceX का हिस्सा बन चुकी xAI ने तय किया है कि साझा सॉफ़्टवेयर ढाँचे उसकी रफ़्तार रोक रहे थे। अब वह इस मॉडल और इसके बाद आने वाले मॉडल को अपने शोधकर्ताओं और GPUs के बीच की सॉफ़्टवेयर की हर परत पर ख़ुद का नियंत्रण रखने के दाँव पर लगा रही है।

Grok 4.8 कब आने की उम्मीद की जाए, यह पूछने वाले एक यूज़र को X पर जवाब देते हुए मस्क ने लिखा, “हमने JAX/SGLang को छोड़ दिया है और पूरा RL तथा inference stack C/C++ में बिल्कुल नए सिरे से लिखा है। इसमें थोड़ा अतिरिक्त समय लगा।” JAX, Python पर आधारित वह न्यूमेरिकल लाइब्रेरी है जिसके साथ xAI ने मॉडल को प्रशिक्षित किया था; SGLang बड़े भाषा मॉडल्स को उपयोगकर्ताओं तक पहुँचाने वाला ओपन-सोर्स सॉफ़्टवेयर ढाँचा है। उन्होंने कहा कि प्री-ट्रेनिंग पूरी हो चुकी है, लेकिन “SFT डेटा”—यानी सुपरवाइज़्ड फ़ाइन-ट्यूनिंग सेट—की “काफ़ी सफ़ाई करनी पड़ी।” उन्होंने आगे लिखा, “अब 4.8 का RL चल रहा है और मूल्यांकन के नतीजे ऊपर जाने लगे हैं।”

यह बात उस देरी की वजह बताती है जिसका संकेत ख़ुद मस्क ने दिया था। सितंबर के मध्य में उन्होंने इस मॉडल को “हमारे नए C++ सॉफ़्टवेयर स्टैक पर प्रशिक्षित 2.5T मॉडल” बताया था, जो “इसी हफ़्ते प्रशिक्षण पूरा करके RL शुरू करेगा।” उसी दौरान, Analytics India Magazine की रिपोर्ट के मुताबिक, उन्होंने कहा था कि रीइन्फ़ोर्समेंट लर्निंग वाला हिस्सा “अब भी कई अलग-अलग थर्ड-पार्टी सॉफ़्टवेयर सिस्टमों का कुछ हद तक पुराना ढेर” है, जिसे “समय आने पर” ठीक किया जाएगा। अक्टूबर के आख़िर तक उन्होंने लिखा: “मुझे पता है कि इसमें उम्मीद से ज़्यादा समय लगा है, लेकिन Grok 4.8 निराश नहीं करेगा।” आख़िरकार, उसे ठीक करने का काम ही देरी की वजह निकला। प्री-ट्रेनिंग का कोड पहले से नया था; मॉडल को व्यवहार करना सिखाने वाला हिस्सा और यूज़र्स को जवाब देने वाला हिस्सा—दोनों को आगे बढ़ने से पहले फिर से बनाना पड़ा।

सुर्खियों में जिस “C++ rewrite” की बात हो रही है, उसमें असल में ज़्यादातर काम C में हुआ है। भाषा के बारे में पूछे जाने पर मस्क ने जवाब दिया: “C, थोड़े-से C++ के साथ, लेकिन बहुत ज़्यादा नहीं।” उनके मुताबिक, यह सॉफ़्टवेयर स्टैक उस सॉफ़्टवेयर से विकसित हुआ है जिसे SpaceX के इंजीनियरों ने Starlink के लिए लिखा था (“SpaceX में हम अपने headers ख़ुद लिखते हैं और अपना समय ख़ुद निकालते हैं,” उन्होंने यह भी कहा)। सितंबर में उन्होंने बताया था कि प्री-ट्रेनिंग कोड Starlink की टीम ने लिखा था और “इसे AI ने नहीं लिखा,” क्योंकि “बेहद उच्च प्रदर्शन वाले सॉफ़्टवेयर के मामले में AI अभी इतना अच्छा नहीं है (लेकिन होगा)।”

इस फ़ैसले के पीछे की दलील वसंत से ही सार्वजनिक है। मई के आख़िर में मस्क ने कहा था कि SpaceX ने C में अपना ट्रेनिंग स्टैक लगभग पूरा कर लिया है, जो 220,000 Nvidia GB300 चिप्स वाले क्लस्टर से “बिल्कुल मेल खाता” है। बड़े ट्रेनिंग रन में JAX के मुक़ाबले संभावित रफ़्तार बढ़ने का उनका अनुमान “दस गुने से भी ज़्यादा” था। जून के अंत में उन्होंने वादा किया कि करीब तीन महीने में “वाक़ई बड़े फ़ायदे” दिखेंगे—तब तक ट्रेनिंग और inference का पूरा स्टैक फिर से लिखा जा चुका होगा और “सॉफ़्टवेयर की ज़्यादातर परतें पूरी तरह हटा दी जाएँगी।” उस समय-सीमा से तुलना करें तो यह नया सॉफ़्टवेयर लगभग छह हफ़्ते देर से तैयार हुआ। कंपनी के बाहर इन रफ़्तार संबंधी दावों को अब तक किसी ने मापा नहीं है।

अपने सॉफ़्टवेयर स्टैक का मालिक होना दोनों तरह से असर डालता है। JAX और SGLang को छोड़ने से xAI दूसरे लोगों के बनाए अमूर्त ढाँचों और उनके रिलीज़ शेड्यूल पर निर्भर नहीं रहती, और उसके इंजीनियर सॉफ़्टवेयर को सीधे एक ख़ास हार्डवेयर के मुताबिक़ ढाल सकते हैं। इसकी क़ीमत यह है कि ट्रेनिंग लूप और मॉडल को उपयोगकर्ताओं तक पहुँचाने की प्रक्रिया में होने वाली हर गड़बड़ी की ज़िम्मेदारी अब सिर्फ़ xAI की है—ऐसे कोड में, जिसे यूज़र्स तक पहुँचने से पहले किसी बाहरी समुदाय ने आज़माया नहीं है।

मस्क उम्मीदें भी काफ़ी कम कर रहे हैं। उन्होंने लिखा, “Grok 4.8 का 4.7 से कोई मेल नहीं होगा (शुक्र है),” यह उस मॉडल की सार्वजनिक रूप से आलोचना थी जिसे xAI ने 21 सितंबर को जारी किया था। उन्होंने आगे कहा, “यह अभी शानदार नहीं है, लेकिन इस बार इसकी बुनियाद सही ढंग से रखी गई है, इसलिए मुझे उम्मीद है कि यह आगे चलकर कुछ ख़ास बनेगा।” एक घंटे से भी कम समय बाद, जब उनसे पूछा गया कि 4.8 की तुलना Anthropic के Opus 5.5 से कैसी होगी, तो उन्होंने जवाब दिया: “इतना अच्छा नहीं। Opus 5.5 एक उत्कृष्ट कृति है।” उनका असल वादा इससे आगे का है: “Grok 5 को Opus 5.5 से बेहतर होना चाहिए और शायद ऐसा दो या तीन महीने में हो जाए।”

बाक़ी सारी जानकारी अब भी नहीं आई है। उन ट्रैकर्स के मुताबिक़ जो xAI के न्यूज़ पेज और डेवलपर दस्तावेज़ों पर नज़र रखते हैं, वहाँ इसका कोई ज़िक्र नहीं है; न मॉडल कार्ड है, न बेंचमार्क, न कीमत और न ही API की कोई सूची। 2.5 ट्रिलियन पैरामीटर वाला आँकड़ा सिर्फ़ मस्क का दावा है, और मूल्यांकन के नतीजे बेहतर होने की बात भी उन्हीं ने कही है। Grok Bot यूज़र्स के लिए सीमित उपलब्धता “इसी हफ़्ते के आख़िर में” शुरू होगी, लेकिन कोई दिन नहीं बताया गया। अक्टूबर में मस्क ने कहा था कि ऐसे ज़्यादातर अनुरोधों को “Grok 4.8 का बेहद तेज़ संस्करण” संभालेगा।

इसलिए इस हफ़्ते की शुरुआत मॉडल से ज़्यादा उसके पीछे की तकनीकी व्यवस्था की परीक्षा होगी। अगर Grok Bot के असली ट्रैफ़िक के बीच मॉडल ठीक से काम करता है, तो यही नया सॉफ़्टवेयर स्टैक Grok 5 को प्रशिक्षित करने का आधार बनेगा। अगर इसमें लड़खड़ाहट हुई, तो दोष देने के लिए कोई पुराना बाहरी सॉफ़्टवेयर ढाँचा बचा ही नहीं होगा।

टैग: , , , ,

हमें Google पर जोड़ें

चर्चा

0 टिप्पणियाँ हैं।