प्रौद्योगिकी

Apple का Mac mini M6 ऑफ़लाइन AI चलाता है, कीमत 899 डॉलर

Susan Hill

अपना खुद का AI मॉडल चलाने का मतलब अब तक ऐसे हार्डवेयर का मालिक होना था जिसे ज़्यादातर लोग कभी देखते भी नहीं: सर्वर रैक, GPU कार्ड जिनकी कीमत लैपटॉप से ज़्यादा होती है, रिमोट कंप्यूट के लिए सब्सक्रिप्शन। M6 Mac mini, एक मोटी किताब के आकार का छोटा ग्रे बॉक्स, अब वही काम एक डेस्क पर, $899 में करता है।

यह कीमत इसलिए मायने रखती है क्योंकि यह लोकल AI — वह इन्फ़रेंस जो डेटा को रिमोट सर्वर पर भेजे बिना चलता है — को उन उपकरणों की रेंज में ला देती है जिनका बजट कई प्रोफ़ेशनल पहले से रखते हैं। Apple के बेंचमार्क बताते हैं कि M6, LM Studio में मापे गए LLM प्रॉम्प्ट प्रोसेसिंग स्पीड में, इसके पिछले M4 मॉडल से 4.8 गुना तेज़ है। व्यावहारिक रूप में: एक बड़ा लैंग्वेज मॉडल जिसे पहले विशेष हार्डवेयर की ज़रूरत थी, अब इस एक मशीन पर पूरी तरह ऑफ़लाइन चलता है।

मशीन के अंदर M6 चिप में एक डुअल 16-कोर न्यूरल इंजन है — दो न्यूरल एक्सेलरेटर जो एक साथ काम करते हैं — जिसके बारे में Apple का कहना है कि यह न्यूरल कम्प्यूटेशन को पिछली पीढ़ी से दोगुना तेज़ बनाता है। यह इंजन 12-कोर CPU और 12-कोर GPU के साथ जोड़ा गया है, जिसे 170 GB/s की यूनिफ़ाइड मेमोरी बैंडविड्थ का समर्थन प्राप्त है। स्टैंडर्ड कॉन्फ़िगरेशन में 16 GB यूनिफ़ाइड मेमोरी होती है, जिसे 32 GB तक कॉन्फ़िगर किया जा सकता है।

यह डिवाइस पर जो वर्कलोड संभालता है उनमें इमेज जनरेशन के लिए डिफ़्यूज़न मॉडल, रियल-टाइम फ़ोटो स्टाइल ट्रांसफ़र, मल्टी-स्टेप AI एजेंट और पूर्ण LLM इन्फ़रेंस शामिल हैं — सब लोकल, बिना किसी सब्सक्रिप्शन के। macOS 27 में Apple Intelligence इनमें से कई को ऑपरेटिंग सिस्टम के ज़रिए ही उपलब्ध कराता है, जबकि LM Studio जैसे टूल्स यूज़र्स को अपनी पसंद का कोई भी ओपन मॉडल लोड करने की सुविधा देते हैं।

यह समझने के लिए कि कितना कुछ बदल गया है: Apple के आंकड़े M6 को पाँच साल पहले बेचे गए M1 Mac mini से LLM प्रोसेसिंग स्पीड में 13.5 गुना तेज़ बताते हैं। M1 किसी भी व्यावहारिक अर्थ में अधिकांश लोकल AI वर्कलोड नहीं चला सकता था। M6 चला सकता है।

M5 Pro चिप वाला Mac mini भी उन यूज़र्स के लिए $1,699 में उपलब्ध है जिन्हें अधिक मेमोरी सीमा या उच्च मल्टी-कोर परफ़ॉर्मेंस की ज़रूरत है। प्री-ऑर्डर अब खुले हैं; दोनों मॉडल 22 सितंबर को शिप होंगे।

एक पकड़ असली है। $899 की मशीन के लिए अभी भी एक मॉनिटर, कीबोर्ड और माउस चाहिए, जो एंट्री कॉस्ट को बढ़ा देते हैं। और लोकल AI इन्फ़रेंस क्लाउड AI से सरल नहीं है — इसमें मॉडल्स को सोर्स करना, अपडेट्स मैनेज करना और इन्फ़्रास्ट्रक्चर संभालना शामिल है जिसे क्लाउड सामान्यतः एब्सट्रैक्ट कर देता है। जिन लोगों के लिए यह अभी सबसे ज़्यादा मायने रखता है वे हैं प्राइवेसी-सेंसिटिव प्रोफ़ेशनल जो नहीं चाहते कि डेटा उनकी बिल्डिंग से बाहर जाए, डेवलपर जो बिना प्रति-टोकन बिलिंग के तेज़ इन्फ़रेंस चाहते हैं, और शोधकर्ता जिन्हें एक स्थायी लोकल एंडपॉइंट की ज़रूरत है।

यह समूह ऐसे हार्डवेयर का इंतज़ार कर रहा था जिसकी कीमत एक टूल की हो, सर्वर की नहीं। M6 के साथ, Apple आखिरकार उनके लिए बना रहा है।

टैग: , , , , ,

चर्चा

0 टिप्पणियाँ हैं।