वास्तविक दुनिया में AI चलाने के लिए क्या आवश्यक है: अकामाई डिजिटल लीडरशिप समिट से सबक

भारत अपनी एआई कहानी में एक दिलचस्प मोड़ पर है। फाउंडेशन मॉडल की बहस, कितने बड़े, कितने पैरामीटर और इसे कौन बनाता है, काफी हद तक सुलझ चुकी है। कठिन सवाल यह है कि आप वास्तव में भारत के पैमाने पर, भारत की लागत बाधाओं के तहत, समस्याओं के अनुरूप बुनियादी ढांचे के बजट के बिना, उत्पादन में एआई को कैसे चलाएंगे? यही सवाल था अकामाई डिजिटल लीडरशिप शिखर सम्मेलन पता लगाने के लिए निकल पड़े, और बेंगलुरु में शुक्रवार की शाम को, कमरे में 125 वरिष्ठ प्रौद्योगिकी नेताओं के साथ, इसे कुछ ईमानदार उत्तर मिले।

शिखर सम्मेलन के तीसरे संस्करण को शुरू से ही एक उत्पाद कार्यक्रम के अलावा कुछ और के रूप में डिजाइन किया गया था। “यह वास्तव में एक तटस्थ मंच बनाने का प्रयास है,” कहा सुमंत नारायणनभारत और सार्क के लिए अकामाई के क्षेत्रीय बिक्री निदेशक ने अपने स्वागत भाषण में कहा।

संदर्भ निर्धारित करना

नारायणन ने एक बदलाव देखा जिसे कमरे में मौजूद अधिकांश लोगों ने पहचान लिया होगा। “पिछले लगभग 12 महीनों में, एआई के बारे में ज्यादातर बातचीत फाउंडेशन मॉडल के बारे में रही है, जिससे उन्हें बड़ा और बड़ा बनाया जा रहा है। लेकिन अब, बातचीत इस ओर स्थानांतरित हो गई है कि उद्यम इन फाउंडेशनल मॉडल का उपयोग कैसे करते हैं और वास्तव में अपने ग्राहकों को मूल्य प्रदान करते हैं।” उन्होंने समीकरण के दूसरे पक्ष को भी पहले ही उजागर कर दिया था: “हमलावर बनने के लिए इससे बेहतर समय कभी नहीं रहा। विशेष रूप से एआई टूल के साथ, यह शायद हमलावर होने का सबसे अच्छा समय है।”

डॉ रॉबर्ट ब्लूमोफ़ेअकामाई के सीटीओ, ने 2012 की गहन शिक्षण सफलता से एआई के साथ कंपनी के इतिहास का पता लगाया।

नवंबर 2022 के चैटजीपीटी क्षण के माध्यम से “एलेक्सनेट गहरी शिक्षा का जन्म था, और अकामाई के लिए गहरी शिक्षा हमारे साइबर सुरक्षा व्यवसाय के लिए एकदम सही उपकरण थी”, जिसे उन्होंने पहली बार बताया कि अधिकांश लोगों ने एआई के साथ कोई सीधा संपर्क किया था।

कमरे में उनकी चेतावनी: “बहुत सी कंपनियां जो इसमें देर से आई हैं, वे खुद को एलएलएम वन-ट्रिक टट्टू बनती हुई पाती हैं। एआई से वास्तविक मूल्य प्राप्त करने के लिए, आपको न केवल यह जानना होगा कि एलएलएम का उपयोग कैसे करें, बल्कि आपको यह भी जानना होगा कि गहन शिक्षा के अन्य रूपों और एमएल के अन्य रूपों का उपयोग कैसे करें।”

NVIDIA के साथ अकामाई की साझेदारी, एक वितरित नेटवर्क पर आरटीएक्स प्रो 6000 जीपीयू को तैनात करना, इसकी प्रतिक्रिया है कि अनुमान कहाँ जा रहा है।

भारत की बुनियादी ढांचा परत

जिगर हलानी NVIDIA की समाधान वास्तुकला टीम ने बुनियादी ढांचे के संदर्भ का पालन किया जो शाम के दौरान चर्चा की गई बाकी सभी चीजों के नीचे बैठता है। उन्होंने तर्क दिया कि भारत की चुनौती मूल रूप से पश्चिम से अलग है: बढ़ती आबादी या श्रम की कमी नहीं, बल्कि प्रति लेनदेन लगभग शून्य लागत पर जनसंख्या पैमाने पर सेवाएं देने की आवश्यकता है।

उन्होंने पहले से ही चल रही तैनाती की ओर इशारा किया; भाषिनी प्लेटफॉर्म 36 भारतीय भाषाओं में एक दिन में 20 मिलियन एपीआई कॉल संभालता है, एक एआई पाइपलाइन आधार पर बायोमेट्रिक प्रमाणीकरण विफलता दर को 50% तक कम करती है, और एक आरएजी प्रणाली प्रासंगिक मिसालों और लागू कानून को सामने लाकर पांच मिलियन लंबित अदालती मामलों को सुलझाने में मदद करती है। एनपीसीआई धोखाधड़ी का पता लगाने वाली प्रणाली पर, उनका कहना स्पष्ट था: “एक स्टैंडअलोन उपयोग के मामले के रूप में धोखाधड़ी, जीपीयू का उपयोग करके 100 गुना अधिक शक्तिशाली बुनियादी ढांचे पर चल रही है, जैसा कि हम आज बोलते हैं।” भारत के लिए एआई का क्या मतलब है, इस बारे में उनका कहना था: “भारत के लिए एआई, मनुष्यों का प्रतिस्थापन नहीं है। यह जनसंख्या के पैमाने पर कुछ ऐसा समाधान कर रहा है जिसे मनुष्य लंबे समय से हल करने में सक्षम नहीं हैं।”

उत्पादन में एआई स्केलिंग

शाम का पहला पैनल, द्वारा संचालित हृषिकेश वर्माअकामाई में उत्पाद प्रबंधन के निदेशक, वृहद तस्वीर से हटकर तीन अलग-अलग संगठनों के अंदर बड़े पैमाने पर चलने वाला एआई वास्तव में कैसा दिखता है, इसकी बारीकियों की ओर बढ़े।

सनथ मोगुलुरीरिलायंस जियो में वॉयस एआई इंजीनियरिंग के उपाध्यक्ष ने स्मार्टफोन, टेलीविजन और ऑटोमोटिव सिस्टम में करोड़ों उपयोगकर्ताओं को सेवा प्रदान करने की विलंबता चुनौती का वर्णन किया। “टेलीकॉम नेटवर्क पर, 500 मिलीसेकंड हासिल करना बहुत चुनौतीपूर्ण है। हमारे अनुभव में, जब उपयोग का मामला विशिष्ट और डोमेन-केंद्रित होता है, तो लोगों के लिए एजेंटों के साथ बातचीत करने के लिए लगभग एक सेकंड की विलंबता काफी होती है।” जियो एक हाइब्रिड मॉडल चलाता है: “हर चीज को एलएलएम में जाने की जरूरत नहीं है। हमारे पास किनारे से क्लाउड तक हाइब्रिड तैनाती है, और यहां तक ​​कि क्लाउड के भीतर भी छोटे और बड़े मॉडल ऑर्केस्ट्रेशन कर रहे हैं।”

सागर गांवकरएलोएलो के सीटीओ ने लाइव कंटेंट मॉडरेशन के लिए अपनी टीम के दृष्टिकोण का वर्णन किया, जिसमें सीमा संबंधी मामलों के लिए मानवीय समीक्षा को आरक्षित करते हुए, क्लाउड निर्णयों से किनारे के निर्णयों को अलग किया गया। “80% मामले बहुत काले और सफेद होते हैं। आखिरी 20% वह है जहां आप चाहते हैं कि इंसान लूप में हो।” शुरू से अंत तक का चक्र 10 सेकंड से कम समय में चलता है।

प्रणव तिवारीपोस्टमैन में इंजीनियरिंग एपीएसी के प्रमुख ने एजेंटिक एआई कनेक्टिविटी परत पर क्या कर रहा है, इस पर एक व्यापक लेंस की पेशकश की। “एप्लिकेशनों को बहुत निश्चित रूप से जोड़ने के लिए जो उपयोग किया जाता था वह मौलिक रूप से बदल रहा है। कनेक्टिविटी दो अनुप्रयोगों के बीच प्लंबिंग से लेकर बीच में अनुमान के साथ कुछ में बदल रही है, व्यापार तर्क मिश्रित है, और बातचीत की एक श्रृंखला है जो अंततः एक कार्य पूरा करती है।” हाथ दिखाने से पुष्टि हुई कि कमरे के एक महत्वपूर्ण हिस्से में पहले से ही एजेंट-लिखित कोड उत्पादन में चल रहा है।

भारत की लागत बाधाओं पर निर्माण

यदि पैनल ने संबोधित किया कि एआई उत्पादन में कैसे चलता है, तो फायरसाइड चैट के साथ मोहित सक्सैनाInMobi और GlanceAI के सह-संस्थापक और CTO, द्वारा संचालित एडम कैरनअकामाई के सीओओ ने बताया कि इसकी लागत क्या है – और उस लागत को उस बिंदु तक लाने के लिए क्या करना पड़ता है जहां व्यवसाय समझ में आता है।

भारत क्या मांग करता है, इस बारे में सक्सेना स्पष्ट थे। “जब हम अमेरिका में कोई उत्पाद लॉन्च करते हैं, तो हमारा मूल्य बिंदु बहुत अलग होता है। हम जो चाहें जीपीयू खरीद सकते हैं, सभी प्रकार के बुनियादी ढांचे लगा सकते हैं। लेकिन जब हम भारत में वही सेवा लॉन्च करते हैं, तो हमें अपनी इंजीनियरिंग पर पुनर्विचार करना पड़ता है।” जब Glance ने पहली बार AI छवियां बनाना शुरू किया, तो लागत प्रति छवि 30 डॉलर थी, जो मूल्य-संवेदनशील बाजार के लिए अव्यवहार्य थी। टीम ने इसे घटाकर $1.50 और फिर कुछ सेंट कर दिया। “यदि आप इसे तीन सेंट में बनाते हैं, वही उत्पाद जो आप अमेरिका में लॉन्च करते हैं, तो भारत का समाधान हो जाता है।”

विधि: “लगभग 60% प्रश्न दोहराव वाले होते हैं। आपको उनमें से प्रत्येक के लिए एलएलएम को कॉल करने की आवश्यकता नहीं है।” बैच प्रोसेसिंग और कई विशिष्ट मॉडलों के साथ मिलकर, Glance ने अपने प्रभावी मॉडल आह्वान को काफी हद तक कम कर दिया। इंजीनियरिंग प्रतिभा के मामले में, सक्सेना ने आसान निष्कर्षों का विरोध किया। “एआई ने एक औसत इंजीनियर होने के मानक को कम कर दिया है। लेकिन इसने वास्तव में एक अच्छे इंजीनियर के स्तर को ऊपर उठा दिया है। औसत अब पर्याप्त अच्छा नहीं है।” आज, Glance में लगभग 70% कोड IDE में AI द्वारा लिखा जाता है, लेकिन उन्होंने कहा कि एकीकरण कार्य के लिए अभी भी सर्वश्रेष्ठ इंजीनियरों की आवश्यकता है।

भारत पैमाने के लिए इंजीनियरिंग

किरण कुमार कात्रेड्डीमीशो में प्लेटफ़ॉर्म इंजीनियरिंग के उपाध्यक्ष ने लागत वार्तालाप को और भी अधिक सीमित क्षेत्र में विस्तारित किया। विक्रेताओं के लिए शून्य कमीशन का मीशो मॉडल, पूरी तरह से विज्ञापन द्वारा संचालित राजस्व केवल तभी काम करता है जब एआई व्यवसाय की हर परत में परिचालन लागत कम रखता है।

200 मिलियन से अधिक उपयोगकर्ताओं के साथ, जिनमें से कई टियर-III और टियर-IV शहरों में पहली बार इंटरनेट उपयोगकर्ता हैं, इंजीनियरिंग बाधाएं विशिष्ट हैं: 14 एमबी ऐप आकार, आठ भारतीय भाषाओं में आवाज और छवि खोज, वैयक्तिकरण जो 500-मिलीसेकंड सत्र विंडो के भीतर अपडेट होता है, और “पिछले सरपंच के घर के सामने” के रूप में वर्णित स्थानों पर डिलीवरी के लिए एआई-समर्थित पता रिज़ॉल्यूशन। दिवाली बिक्री की चरम मात्रा के दौरान, जब ऑर्डर की मात्रा सामान्य से 3-4 गुना तक पहुंच गई, वाणिज्यिक अनुमान प्लेटफॉर्म टूटते रहे। मीशो ने अपना खुद का भारत एमएल स्टैक बनाया, जिसे 18 महीने के विकास के बाद 2025 में ओपन-सोर्स किया गया। कैटरेड्डी ने कहा, “हमारे अधिकांश नवाचार पिछले चार या पांच वर्षों में हमारे द्वारा किए गए एआई निवेश के कारण मौजूद हैं।” प्लेटफ़ॉर्म अब अकेले मॉडल अनुमान पर 3-4 ट्रिलियन अनुमान और प्रति सेकंड 10 लाख प्रश्नों को संभालता है।

सुरक्षा चित्र

विजय कोल्लीएंटरप्राइज सिक्योरिटी के लिए अकामाई के क्षेत्रीय उपाध्यक्ष ने शाम का ध्यान लागत और पैमाने से हटाकर इस पर केंद्रित कर दिया कि जब एआई सिस्टम हमले की सतह का विस्तार करता है तो क्या होता है। वह संख्या जिसने कमरे का ध्यान आकर्षित किया: अकामाई के नेटवर्क पर एपीआई वृद्धि अब 100% वार्षिक नहीं है। “यह वस्तुतः 1,000% और अधिक है।” एआई एजेंट आंतरिक डेटाबेस तक पहुंच रहे हैं और बिना निर्णय के अनुमतियां प्राप्त कर रहे हैं, उन्होंने खतरे के मॉडल को उन तरीकों से बदल दिया है जिनके लिए विरासत आर्किटेक्चर को डिज़ाइन नहीं किया गया था।

पैनल की विशेषता मुकेश सोलंकीक्रेडिटबी पर सीआईएसओ, और सुजाता अय्यरज़ोहो कॉर्प में एआई सिक्योरिटी के प्रमुख ने हमलावर पक्ष के साथ-साथ रक्षक पक्ष को भी कवर किया। सोलंकी, जिनकी कंपनी प्रति माह दस लाख ऋणों की प्रक्रिया करती है, ने स्पष्ट रूप से कहा था: “हैकर्स जेनेरिक एआई टूल के साथ और अधिक परिष्कृत हो जाएंगे, और डेटा को जहर देने के बेहतर तरीके ढूंढ लेंगे ताकि जो व्यक्ति ऋण के लिए पात्र नहीं है उसे ऋण मिल जाए।” अय्यर ने नियतिवादी मॉडल के लिए मामला बनाया जहां व्याख्यात्मकता गैर-परक्राम्य है: “यदि आपका निगरानी समाधान आपको बता रहा है कि 80% संभावना है कि आपके सर्वर को आउटेज का सामना करना पड़ेगा, तो इसे स्पष्टीकरण के साथ आना होगा।” उनकी समापन पंक्ति स्पष्ट थी: “सुरक्षा – सॉफ्टवेयर विकास के पहले दिन से ही इसे आत्मसात कर लें। यह अब कोई बाद का विचार नहीं है।”

सॉवरेन एआई और आवाज की समस्या

गणेश गोपालनGnani.ai के सीईओ ने संप्रभु एआई पर जमीनी विचार के साथ औपचारिक सत्र का समापन किया। उन्होंने कहा कि वाणिज्यिक तर्क सीधा है: उद्यम अपने सिस्टम में अंतर्निहित खुफिया जानकारी का स्वामित्व बनाए रखना चाहते हैं। ज्ञानी की प्रतिक्रिया अपने वॉयस स्टैक, एएसआर, टीटीएस, टर्न-टेकिंग, डीनोइजिंग और आवाज के लिए ट्यून किए गए एक छोटे भाषा मॉडल की हर परत का मालिक होना है। उन्होंने कहा, “जब तक आप वह तकनीक विकसित नहीं कर लेते, आपको संघर्ष करना पड़ेगा – पहला अपने ग्राहकों के डेटा की सुरक्षा के मामले में, दूसरा बेहतर अनुभव के बारे में, और तीसरा लागत के बारे में।”

उन्होंने तर्क दिया कि वर्तमान वॉयस पाइपलाइनों के साथ संरचनात्मक समस्या यह है कि आवाज को टेक्स्ट में परिवर्तित करना और फिर से भावनात्मक जानकारी खोना जो मायने रखती है। ज्ञानी एक वॉयस-टू-वॉयस मॉडल बना रहा है जो इसे संरक्षित करता है। कंपनी वर्तमान में लगभग 30,000 समवर्ती वॉयस स्ट्रीम संसाधित करती है। रेलिंग पर, उनका अवलोकन इंगित किया गया था: “कुछ साल पहले, हमने बहुत गर्व से ग्राहकों को बताया था कि हमारी 55% प्रेरणा रेलिंग थी। आज, यदि आप किसी ग्राहक से ऐसा कहते हैं, तो वे आपको कमरे से बाहर निकाल देंगे। अब बेंचमार्क यह है कि न्यूनतम 75 से 80% तक रेलिंग की आवश्यकता है।”

वास्तविक दुनिया में AI चलाने के लिए क्या करना पड़ता है

जिस चीज़ ने शाम को बांधे रखा वह एक विषय कम और बड़े पैमाने पर एआई के बारे में सोचने का एक साझा तरीका अधिक था। चाहे चर्चा अनुमान अर्थशास्त्र, वॉयस एआई पाइपलाइन, एपीआई सुरक्षा, या नागरिक सेवाओं के बारे में थी, वक्ता अक्सर कड़ी मेहनत से प्राप्त अनुभव से सीख रहे थे।

जैसा कि विजय कोल्ली ने सुरक्षा सत्र खोलते समय कहा था – मार्वल से उधार लेते हुए, अपने स्वयं के प्रवेश द्वारा, “महान शक्ति के साथ बड़ी जिम्मेदारी आती है।” कमरा हँसा, लेकिन कोई भी असहमत नहीं हुआ।

बड़े पैमाने पर एआई सिस्टम बनाने वाले उद्यमों के लिए, यह जिम्मेदारी बुनियादी ढांचे के डिजाइन, लागत अनुकूलन और सुरक्षा वास्तुकला तक फैली हुई है। शिखर सम्मेलन में चर्चा से पता चला कि एआई अपनाने का अगला चरण केवल मॉडलों में प्रगति से परिभाषित नहीं होगा, बल्कि वास्तविक दुनिया में उन्हें विश्वसनीय रूप से चलाने के लिए आवश्यक इंजीनियरिंग अनुशासन द्वारा परिभाषित किया जाएगा।

और भारत जैसे बाज़ारों में, जहां प्लेटफ़ॉर्म को लागत दक्षता बनाए रखते हुए करोड़ों उपयोगकर्ताओं की सेवा करनी होती है, वह अनुशासन अंततः यह निर्धारित कर सकता है कि कौन सा AI सिस्टम उत्पादन में सफल होता है।