स्थानीय एआई को दूर की संभावना के रूप में परिभाषित करने के बजाय, सत्र ने दिखाया कि कैसे डेवलपर्स अपने संपूर्ण एआई वर्कफ़्लो को क्लाउड से स्थानांतरित कर सकते हैं, इसे निजी रख सकते हैं, और इसे एक बैग में ले जाने के लिए पर्याप्त छोटे डिवाइस से चला सकते हैं।
एक तकनीकी प्रदर्शन के रूप में डिजाइन किए गए, मास्टरक्लास ने डीजीएक्स स्पार्क, ब्लैकवेल आर्किटेक्चर पर निर्मित एनवीआईडीआईए के डेस्कटॉप-क्लास एआई कंप्यूट सिस्टम को पेश किया, और दिखाया कि कैसे एक स्थानीय रूप से होस्ट किया गया मॉडल ब्राउज़र एजेंटों और कोडिंग सहायकों से लेकर दस्तावेज़ खोज और चैट इंटरफेस तक, डिवाइस से कोई भी डेटा छोड़े बिना कई रोजमर्रा के एआई अनुप्रयोगों को शक्ति प्रदान कर सकता है।
पुनर्विचार करना कि AI वास्तव में कहाँ चलता है
गंभीर एआई वर्कलोड लंबे समय से क्लाउड इंफ्रास्ट्रक्चर और डेटा सेंटरों से जुड़ा हुआ है। प्रभावी होते हुए भी, वह मॉडल लागत, विलंबता, निरंतर कनेक्टिविटी और डेटा गोपनीयता के आसपास बढ़ती चिंताओं के साथ आता है। यह वह जगह है जहां सत्र विशेष रूप से डेवलपर्स और नियंत्रण के साथ क्षमता को संतुलित करने की कोशिश करने वाली छोटी टीमों पर केंद्रित था।
जैसा कि महाडिक ने समझाया, “स्थानीय सिस्टम पर्याप्त मेमोरी प्रदान नहीं करते हैं, और वे सॉफ़्टवेयर स्टैक प्रदान नहीं करते हैं।” इन दो सीमाओं ने स्थानीय एआई के साथ काम करना कठिन बना दिया है। NVIDIA DGX स्पार्क दोनों को संबोधित करता है, NVIDIA के CUDA-आधारित पारिस्थितिकी तंत्र के लिए पूर्ण समर्थन के साथ 128 जीबी की एकीकृत मेमोरी का संयोजन करता है, डेटा सेंटर-स्तरीय क्षमता को एक कॉम्पैक्ट, डेस्क-रेडी सिस्टम में लाता है।
लैपटॉप और डेटा सेंटर के बीच एक नई श्रेणी
मास्टरक्लास का एक महत्वपूर्ण हिस्सा यह समझना था कि NVIDIA DGX स्पार्क NVIDIA के व्यापक हार्डवेयर स्टैक में कहां फिट बैठता है। एक छोर पर ट्रिलियन-पैरामीटर मॉडल को संभालने वाले डेटा सेंटर हैं। दूसरी ओर, डेवलपर मशीनें मामूली आकार के कार्यभार के साथ भी संघर्ष करती हैं। NVIDIA DGX स्पार्क बीच में बैठता है, जो उन डेवलपर्स और शोधकर्ताओं के लिए बनाया गया है जो बड़े पैमाने के बुनियादी ढांचे की लागत या जटिलता के बिना स्वतंत्र रूप से मॉडल चलाना चाहते हैं।
ब्लैकवेल आर्किटेक्चर द्वारा संचालित, NVIDIA स्पार्क FP4 परिमाणीकरण का समर्थन करता है, जिससे मॉडलों को बड़े प्रदर्शन हानि के बिना संपीड़ित किया जा सकता है। इससे लगभग 200 बिलियन पैरामीटर तक के मॉडल को संभालना संभव हो जाता है। दो स्पार्क इकाइयों को आगे के पैमाने से जोड़ा जा सकता है, जबकि एकीकृत जीबी 10 चिप, सीपीयू और जीपीयू का संयोजन, संचार ओवरहेड को कम करता है और दक्षता में सुधार करता है। ट्रेड-ऑफ निश्चित मेमोरी है, जिसके लिए उपयोग के मामले के आधार पर योजना की आवश्यकता होती है।
एक सिस्टम, एकाधिक एआई वर्कफ़्लोज़
सत्र का सबसे सम्मोहक हिस्सा महादिक ने सत्र से पहले जो स्थापित किया था उसका लाइव प्रदर्शन था, जिसमें महादिक ने NVIDIA DGX स्पार्क पर स्थानीय रूप से GPT-OSS 120B पैरामीटर ओपन-सोर्स मॉडल की मेजबानी की और एक साथ कई अनुप्रयोगों को पावर देने के लिए इसका उपयोग किया। इनमें ब्राउज़र ओएस के माध्यम से जुड़ा एक ब्राउज़र एजेंट, वीएस कोड एक्सटेंशन के माध्यम से एक कोडिंग एजेंट, जटिल दस्तावेज़ खोज के लिए एक ज्ञान ग्राफ और अधिकांश लोगों द्वारा दैनिक उपयोग किए जाने वाले चैट इंटरफ़ेस के समान शामिल है।
जो बात सामने आई वह सिर्फ अनुप्रयोगों की संख्या नहीं थी, बल्कि यह तथ्य था कि वे सभी डिवाइस पर एक ही मॉडल से चलते थे, उन टूल की जगह लेते थे जिन्हें डेवलपर्स आमतौर पर अलग-अलग सदस्यता और एपीआई के माध्यम से एक्सेस करते हैं।
महादिक ने इसे सरल शब्दों में वर्णित किया: “हर चीज जिसके लिए मैं एआई का उपयोग करता हूं, हर चीज जिसके लिए मैं बहुत सारा पैसा चुकाता हूं, सदस्यता के मामले में, एपीआई के मामले में, मैं बस इसे अपने एक बहुत शक्तिशाली मॉडल का उपयोग करके होस्ट कर सकता हूं,” ब्राउज़र स्वचालन, कोड सहायता, दस्तावेज़ खोज और संवादात्मक इंटरफेस जैसे उपकरण डिवाइस पर एक ही मॉडल से कैसे चल सकते हैं, यह कैप्चर करते हुए।
सॉफ़्टवेयर परत और गोपनीयता लाभ
मास्टरक्लास में डीजीएक्स स्पार्क पर चलने वाले एनवीआईडीआईए सॉफ्टवेयर स्टैक को भी शामिल किया गया है, जिसमें अनुमान के लिए टेन्सोरआरटी-एलएलएम, मल्टी-जीपीयू संचार के लिए एनसीसीएल, त्वरित डेटा विज्ञान वर्कलोड के लिए आरएपीआईडीएस और तेजी से शुरुआत करने के लिए एआई वर्कबेंच, एनवीआईडीआईए का कम-कोड प्लेटफॉर्म शामिल है। उन डेवलपर्स के लिए जो गैर-सीयूडीए सिस्टम पर संगतता समस्याओं से निपट चुके हैं, एनवीआईडीआईए डीजीएक्स स्पार्क का पूर्ण सीयूडीए समर्थन एक प्रमुख घर्षण बिंदु को हटा देता है।
पूरे सत्र में गोपनीयता का मुद्दा चलता रहा। प्रदर्शित प्रत्येक एप्लिकेशन पूरी तरह से डिवाइस पर चलता है। कोई बाहरी सर्वर नहीं, कोई सदस्यता नहीं, कोई डेटा साझाकरण नहीं। संवेदनशील डेटा के साथ काम करने वाली टीमों के लिए, यह अंतर मायने रखता है।
डेवलपर्स के लिए इसका क्या मतलब है
स्थानीय AI अब सैद्धांतिक नहीं है। हार्डवेयर, सॉफ्टवेयर और पारिस्थितिकी तंत्र पहले से ही मौजूद हैं, जिससे डेस्क पर फिट होने वाले डिवाइस पर उन्नत एआई सिस्टम बनाना और चलाना संभव हो गया है।
जैसा कि महादिक ने कहा, “आप अनिवार्य रूप से इसे अपने हाथों में ले सकते हैं, विभिन्न एआई सुविधाओं के लिए आप जो भी सदस्यता लेते हैं, आप वास्तव में इसे स्वयं होस्ट कर सकते हैं,” एक ऐसे बदलाव की ओर इशारा करते हुए जहां डेवलपर्स अब हर दिन उपयोग की जाने वाली एआई क्षमताओं तक पहुंचने के लिए बाहरी सेवाओं पर निर्भर नहीं हैं।
उपस्थित लोगों को इस बात की स्पष्ट समझ थी कि बुद्धिमान अनुप्रयोगों के निर्माण से लेकर वर्कफ़्लो को स्वचालित करने और निजी एआई वातावरण बनाने तक, वास्तविक दुनिया के उपयोग के मामलों में इस दृष्टिकोण को कैसे लागू किया जा सकता है। बदलाव स्पष्ट है: एआई डेवलपर के करीब जा रहा है, जिससे उन्हें प्रदर्शन, लागत और डेटा पर अधिक नियंत्रण मिल रहा है।
Discover more from News Link360
Subscribe to get the latest posts sent to your email.
