एप्पल ने TinyGPU को मंजूरी दी, Mac Mini बना AI का पावरहाउस

एप्पल ने जॉर्ज होट्ज़ (George Hotz) की कंपनी Tiny Corp द्वारा बनाए गए ड्राइवर TinyGPU को आधिकारिक रूप से साइन और सर्टिफाई कर दिया है। 2020 में Apple Silicon चिप्स पर आने के बाद पहली बार, Mac यूजर्स बाहरी Nvidia या AMD ग्राफिक्स कार्ड को अपने Mac से जोड़कर AI कंप्यूटिंग के लिए इस्तेमाल कर सकते हैं — और यह सब सिस्टम की सुरक्षा को बंद किए बिना। 699 डॉलर का एक Mac Mini अब 27 अरब पैरामीटर वाले बड़े AI मॉडल को लोकल स्तर पर चला सकता है।

2020 में Apple Silicon पर शिफ्ट होने के बाद से Apple के नए Macs पर बाहरी GPU का इस्तेमाल करना व्यावहारिक रूप से असंभव था। पहले के प्रयासों में macOS की मुख्य सुरक्षा परत “System Integrity Protection” (SIP) को बंद करना पड़ता था, जिसे Apple ने कभी आधिकारिक समर्थन नहीं दिया। TinyGPU Apple के DriverKit फ्रेमवर्क के जरिए macOS की सामान्य सुरक्षा सीमाओं के भीतर काम करता है और System Settings से आसानी से चालू किया जा सकता है।

असली परफॉर्मेंस क्या है

आपको यह भी पसंद आ सकता हैसिलिकॉन को अलविदा: चीन ने पेश किया ‘LightGen’, वो प्रोसेसर जो रोशनी से चलता है और Nvidia की बादशाहत को चुनौती देता है

Tiny Corp के टेस्ट के मुताबिक, थंडरबोल्ट (Thunderbolt) के जरिए AMD Radeon RX 7900 XTX से जुड़ा Mac Mini, Qwen 2.5 27B मॉडल को हर सेकंड 18.5 टोकन की रफ्तार से चला सका। बाहरी RTX 4090 के साथ, Q4 क्वांटाइजेशन में Llama मॉडल्स के लिए कम्युनिटी बेंचमार्क 45 से 50 टोकन प्रति सेकंड रिकॉर्ड करते हैं — यह वो परफॉर्मेंस लेवल है जो पहले कहीं ज्यादा महंगे डेडिकेटेड हार्डवेयर पर ही मिलता था।

जो यूजर्स पहले से Ollama या Llama.cpp के जरिए Mac Mini को लोकल AI इन्फेरेंस सर्वर की तरह इस्तेमाल कर रहे हैं, उनके लिए यह बदलाव तुरंत असर दिखाएगा। Unified Memory की सीमा से बाहर के मॉडल अब बाहरी GPU के VRAM में पूरी तरह लोड हो सकते हैं, जिससे प्रोसेसिंग स्पीड काफी बढ़ जाती है।

सीमाएं भी जानना जरूरी

TinyGPU सिर्फ AI कंप्यूटिंग के लिए है। यह स्क्रीन आउटपुट को तेज नहीं करता, गेमिंग परफॉर्मेंस नहीं बढ़ाता और वीडियो एडिटिंग या ग्राफिक्स काम के लिए Apple Silicon के बिल्ट-इन GPU की जगह नहीं ले सकता। AMD के RDNA3 और उससे नए कार्ड्स को इंस्टॉल करना अपेक्षाकृत आसान है, लेकिन Nvidia के Ampere और उससे नए कार्ड्स के लिए Docker Desktop की जरूरत होती है, जिसके लिए डेवलपमेंट एनवायरनमेंट की जानकारी होनी चाहिए। Thunderbolt 4 की बैंडविड्थ भी एक फिजिकल सीमा बनाती है — वही ग्राफिक्स कार्ड नेटिव PCIe स्लॉट में कहीं बेहतर परफॉर्म करता है।

Mac Pro बंद, Mac Mini आगे

सामने आया है कि एप्पल ने इसी महीने Mac Pro को बिना किसी आधिकारिक घोषणा और बिना किसी उत्तराधिकारी के चुपचाप बंद कर दिया। Mac Pro एप्पल का एकमात्र मॉड्यूलर डेस्कटॉप था, जो प्रोफेशनल यूजर्स को अपने हार्डवेयर कॉम्पोनेंट्स के जरिए कंप्यूटिंग पावर बढ़ाने की सुविधा देता था। TinyGPU की मंजूरी और Mac Pro की विदाई का एक साथ होना महज संयोग नहीं लगता। एप्पल का यह इशारा साफ दिखता है: जिन्हें Mac पर हाई-इंटेंसिटी AI कंप्यूटिंग चाहिए, उन्हें अब एप्पल का खुद का टावर PC नहीं मिलेगा — बल्कि Mac Mini के साथ बाहरी हार्डवेयर जोड़ने का रास्ता मिलेगा।

Tom’s Hardware और TechRadar के मुताबिक, यह पहली बार है जब एप्पल ने DriverKit के जरिए Apple Silicon पर किसी थर्ड-पार्टी बाहरी GPU कंप्यूट ड्राइवर को आधिकारिक मंजूरी दी है — जो परंपरागत रूप से बंद एप्पल इकोसिस्टम के लिए एक उल्लेखनीय मिसाल है।

भारत में भी जो डेवलपर्स और AI रिसर्चर्स क्लाउड सर्विसेज पर निर्भरता कम करके अपने डिवाइस पर ही AI मॉडल चलाना चाहते हैं, उनके लिए यह डेवलपमेंट काफी अहमियत रखता है। TinyGPU के लिए न्यूनतम जरूरत है macOS 12.1 या इससे नया वर्शन, Thunderbolt 3, 4 या USB4 पोर्ट, और पर्याप्त पावर सप्लाई वाले eGPU एनक्लोजर में कम्पेटिबल GPU। यह Tiny Corp की आधिकारिक डॉक्युमेंटेशन और GitHub रिपॉजिटरी पर उपलब्ध है।

इस तरह की और सामग्री

टेक दिग्गज उन आवाज़ों को खरीद रहे हैं जो किसी की नहीं थीं

बुद्धिमत्ता की नई भौतिकी: थर्मोडायनामिक कंप्यूटिंग और डिजिटल नियतिवाद का अंत

डेस्टिनी 2 (Destiny 2) ने ‘रेनिगेड्स’ विस्तार में लुकासफिल्म गेम्स के साथ सहयोग का खुलासा किया

एल्गोरिद्मिक प्रेत-संवाद: शोक, ‘डेटावाद’ और नश्वरता का अंत

DJI Osmo Pocket 4 लॉन्च: 4K/240fps की नई ऊंचाई, लेकिन अमेरिका में खरीदना नामुमकिन

StoneHold की घोषणा: एक्शन MOBA और कार्ड गेम का एक हाइब्रिड