लोकल AI एजेंट: जब AI क्लाउड से बाहर आती है

क्या आपने कभी हिसाब लगाया कि हर महीने AI API पर कितना खर्च होता है? मैंने लगाया। एक क्लाइंट के यहाँ यह आँकड़ा छह हफ़्तों में 90 रियाल से 1,100 पर पहुँच गया। कुछ भी टूटा नहीं था। एजेंट बस पूरे दिन चलने लगा था, ईमेल जाँचता, ऑर्डर वर्गीकृत करता, स्प्रेडशीट अपडेट करता। हर जाँच पर कुछ सेंट। इसे हर दिन की 4 हज़ार जाँच से गुणा कीजिए और बिल सामने आ जाता है। यहीं से लोकल AI एजेंट सिर्फ़ गीक की बातचीत नहीं रह जाते, मैनेजमेंट का मुद्दा बन जाते हैं।

Meta ने Muse Glimmer की घोषणा की, 30 अरब पैरामीटर वाला एक मॉडल जो ठीक इसी काम के लिए बना है: हमेशा चालू रहने वाला एजेंट, आपकी अपनी मशीन पर। यह दुनिया का सबसे बुद्धिमान मॉडल नहीं है। इसे वैसा बनाया ही नहीं गया। इसे बनाया गया है ड्यूटी पर बने रहने के लिए, बिना घंटे के हिसाब से पैसा माँगे।

एजेंट आपकी मशीन पर चले तो क्या बदलता है

आज जब आप AI वाला कोई ऑटोमेशन इस्तेमाल करते हैं, सामान्य रास्ता यह है: आपकी जानकारी आपकी कंपनी से निकलती है, अमेरिका के किसी सर्वर पर जाती है, प्रोसेस होती है, वापस आती है। यह अच्छा काम करता है। पर इसमें तीन टोल हैं।

पहला है पैसा। आप इस्तेमाल के हिसाब से भुगतान करते हैं। जो ऑटोमेशन हर समय चलता है, वह हर समय पैसे भी लेता है।

दूसरा है लेटेंसी। हर आना-जाना आधे सेकंड से कुछ सेकंड लेता है। सुनने में कम लगता है। बारह चरणों वाले फ़्लो में यह आधे मिनट का इंतज़ार बन जाता है।

तीसरा है डेटा। क्लाइंट का कॉन्ट्रैक्ट, मरीज़ की फ़ाइल, पेरोल। यह सब बाहर जा रहा है। इसे सुरक्षित तरीके से किया जा सकता है, पर मेहनत लगती है, और नियंत्रित क्षेत्रों में यह लीगल टीम के साथ लंबी बातचीत बन जाती है।

लोकल चलाने पर तीनों टोल एक साथ गायब हो जाते हैं। लागत मशीन की लागत बन जाती है, जो तय है। जवाब मिलीसेकंड में आता है। और डेटा आपके नेटवर्क से बाहर नहीं जाता।

30 अरब पैरामीटर क्यों, 500 क्यों नहीं

मैं इस संख्या को आसान भाषा में समझाता हूँ। पैरामीटर लगभग मॉडल के "दिमाग का आकार" है। क्लाउड के विशाल मॉडलों में सैकड़ों अरब होते हैं। 30 अरब वाला मॉडल करीब 24 GB के ग्राफिक्स कार्ड में समा जाता है। ऐसा कंप्यूटर कॉन्फ़िगरेशन के हिसाब से 15 से 30 हज़ार रियाल के बीच पड़ता है।

स्वाभाविक सवाल: क्या छोटा मॉडल खराब नहीं होता?

होता है। जटिल तर्क, लंबे विश्लेषण, मुश्किल कोड में बड़े मॉडल आसानी से जीतते हैं। पर गौर कीजिए कि किसी कंपनी का ऑटोमेशन दिन भर असल में करता क्या है:

• एक ईमेल पढ़कर तय करना कि वह कोटेशन है, सपोर्ट है या स्पैम
• इनवॉइस PDF से टैक्स नंबर, राशि और देय तिथि निकालना
• जाँचना कि भरे हुए फ़ॉर्म में सब कुछ ज़रूरी है या नहीं
• कोई शर्त पूरी होने पर अगला चरण शुरू करना

इनमें से किसी काम के लिए प्रतिभा नहीं चाहिए। निरंतरता और उपलब्धता चाहिए। यह मेहनती इंटर्न का काम है, सीनियर कंसल्टेंट का नहीं। इसके लिए टॉप मॉडल इस्तेमाल करना ऐसा है जैसे यह जाँचने के लिए टैक्स वकील रखना कि बिल पर बारकोड है या नहीं।

अच्छा ऑटोमेशन वह नहीं जो सबसे बुद्धिमान हो। वह है जो चलने के लिए कभी इजाज़त न माँगे।

हाइब्रिड मॉडल, जहाँ बात असल में बनती है

यहाँ मेरी दो टूक राय है: लगभग किसी को भी लोकल और क्लाउड के बीच चुनाव नहीं करना चाहिए। सही जवाब है दोनों का इस्तेमाल, इस नियम के साथ कि कौन क्या करेगा।

व्यवहार में मैं ऐसे सेट करता हूँ:

लोकल एजेंट ड्यूटी पर रहता है। वह देखता है, फ़िल्टर करता है, वर्गीकृत करता है, रूटीन काम निपटाता है। दिन के 24 घंटे चलता है और चलते या रुके रहने पर लागत वही रहती है।

जब कुछ असामान्य आता है, वह उसे ऊपर भेजता है। सिर्फ़ वही मामला क्लाउड के किसी बड़े मॉडल के पास जाता है, जो मुश्किल हिस्सा हल करके लौटा देता है।

नतीजे के आँकड़े सुंदर हैं। ईमेल छँटाई के जिस फ़्लो को मैंने बनाया, उसमें 91% संदेश लोकल ही हल हो जाते थे। सिर्फ़ 9% ऊपर जाते थे। API का बिल 1,100 से गिरकर करीब 130 रियाल प्रति महीने रह गया। लोकल मशीन की लागत पाँच महीने में निकल आई और उसके बाद वह मुनाफ़ा बन गई।

और एक साइड इफ़ेक्ट है जिसकी कोई उम्मीद नहीं करता: सिस्टम ज़्यादा भरोसेमंद हो गया। जब एक मंगलवार को क्लाउड API बंद हुई, लोकल एजेंट छँटाई करता रहा। सिर्फ़ जटिल मामलों की कतार रुकी। बिज़नेस नहीं रुका।

यह कहाँ फायदेमंद नहीं है

मैं कोई जादू नहीं बेचूँगा। लोकल एजेंट तीन स्थितियों में खराब है।

कम वॉल्यूम। अगर आपका ऑटोमेशन दिन में 50 बार चलता है, तो आप API पर महीने के 8 रियाल खर्च करते हैं। 8 रियाल बचाने के लिए 20 हज़ार की मशीन खरीदना वह फ़ैसला है जिसे लोग बार में किस्से की तरह सुनाते हैं।

कोई टेक्नोलॉजी टीम न होना। लोकल का मतलब है किसी को देखभाल करनी होगी। अपडेट करना, मॉनिटर करना, अटकने पर दोबारा चालू करना। अगर वह व्यक्ति नहीं है, और ऐसा कोई पार्टनर भी नहीं है, तो ईमानदारी से क्लाउड बेहतर है। वह कम टूटती है और समस्या किसी और की होती है।

ऐसा काम जिसके लिए मौजूद सबसे मज़बूत मॉडल चाहिए। लंबे कॉन्ट्रैक्ट का कानूनी विश्लेषण, जटिल कोड बनाना, कई जुड़े चरणों वाला तर्क। यहाँ छोटा मॉडल गलती करता है, और ऑटोमेशन में गलती टोकन से महँगी पड़ती है।

मैं जो व्यावहारिक कसौटी इस्तेमाल करता हूँ: अगर आपका मासिक AI बिल 500 रियाल से ऊपर जाता है और 70% से ज़्यादा कॉल दोहराव वाला काम हैं, तो पढ़ाई करने लायक है। इससे नीचे है तो क्लाउड पर रहिए और चैन से सोइए।

बिना कुछ खरीदे टेस्ट कैसे करें

लोकल AI एजेंट की सबसे अच्छी बात यह है कि एक पैसा लगाने से पहले मुफ़्त में आज़माया जा सकता है।

पहला, अपना उपयोग लॉग देखिए। ज़्यादातर प्लेटफ़ॉर्म दिखाते हैं कि आपने कितनी कॉल कीं और हर एक पर कितना खर्च हुआ। अलग कीजिए: उनमें कितनी सरल और दोहराव वाली थीं?

दूसरा, किसी ठीक-ठाक लैपटॉप पर एक ओपन मॉडल इंस्टॉल कीजिए। Ollama या LM Studio जैसे टूल यह काम दो क्लिक में पंद्रह मिनट में कर देते हैं। 7 से 8 अरब पैरामीटर वाला छोटा मॉडल 16 GB के Mac पर भी चल जाता है।

तीसरा, अपने फ़्लो से गुज़र चुके सौ असली मामले लीजिए। सही जवाब आप पहले से जानते हैं। दोनों पर चलाइए, लोकल और क्लाउड, और तुलना कीजिए।

अगर लोकल सरल कामों में 90% या उससे ज़्यादा सही निकले, तो आपके पास आपका मामला है। अगर 60% सही निकले, तो आपने लैपटॉप पर यह पता लगाकर मशीन का पैसा बचा लिया।

यह टेस्ट एक दिन लेता है। न प्रोजेक्ट चाहिए, न कमेटी, न चार परिदृश्यों वाला PowerPoint।

इस सब पर मेरी असल राय

Muse Glimmer जैसे मॉडल उस दिशा की ओर इशारा करते हैं जिसकी वकालत मैं लंबे समय से कर रहा हूँ: AI इंफ्रास्ट्रक्चर बनती जा रही है, सर्विस नहीं।

सर्विस आप किराए पर लेते हैं। इंफ्रास्ट्रक्चर आप इंस्टॉल करते हैं। डेटाबेस से एक क्वेरी के लिए कोई पैसा नहीं देता, अपने ही फ़ाइल सर्वर पर एक रिक्वेस्ट के लिए कोई पैसा नहीं देता। किसी दिन "मैंने AI को एक ईमेल पढ़वाने के तीन सेंट दिए" उतना ही अजीब लगेगा जितना डायल-अप इंटरनेट के मिनट के हिसाब से पैसा देना।

इससे क्लाउड खत्म नहीं होती। हर चीज़ के लिए क्लाउड को डिफ़ॉल्ट जवाब मानना खत्म होता है। जो बचता है वह आर्किटेक्चर का चुनाव है, आँकड़ों के साथ लिया गया: जो रूटीन है वह पास रहे, जो मुश्किल है वह दूर जाए।

और यहाँ वह हिस्सा है जो आपके बिज़नेस के काम का है। यह चुनाव तकनीकी नहीं है, लागत और जोखिम का है। आज आप कितना खर्च करते हैं, उस खर्च का कितना हिस्सा दोहराव है, शुक्रवार दोपहर API बंद हो जाए तो क्या होगा, कौन सा डेटा आप चाहते हैं कि यहाँ से कभी बाहर न जाए। तकनीकी सवाल का जवाब एक डेवलपर देता है। बाकी चार के जवाब आप देते हैं।

अगर आपको यह नहीं पता कि आप कितना और किस पर खर्च करते हैं, तो पहला काम यही है। मशीन खरीदने से पहले, मॉडल चुनने से पहले, सबसे पहले। मापना उबाऊ है और यही वह चरण है जो सबसे ज़्यादा पैसा बचाता है।

अगर आप बात करना चाहते हैं कि आपके यहाँ क्या ऑटोमेट करना सही रहेगा, तो बताइए आपका समय किस काम में जा रहा है।

एक क्लाइंट का AI बिल छह हफ़्तों में 90 से बढ़कर 1,100 रियाल हो गया। कुछ भी टूटा नहीं था।

एजेंट बस पूरे दिन चलने लगा: ईमेल पढ़ता है, ऑर्डर वर्गीकृत करता है, स्प्रेडशीट अपडेट करता है। हर जाँच पर कुछ सेंट, हर दिन 4 हज़ार जाँच।

असहज सच्चाई: इनमें से 90% काम के लिए प्रतिभा नहीं चाहिए। निरंतरता चाहिए। यह मेहनती इंटर्न का काम है, सीनियर कंसल्टेंट का नहीं।

मैंने रूटीन काम के लिए एक लोकल मॉडल ड्यूटी पर लगाया और सिर्फ़ मुश्किल मामलों को क्लाउड पर जाने दिया। 91% मशीन पर ही हल हुए, बिल वापस 130 रियाल प्रति महीने पर आ गया।

और एक बोनस मिला जिसकी किसी को उम्मीद नहीं थी: जब मंगलवार को API बंद हुई, लोकल एजेंट छँटाई करता रहा। बिज़नेस नहीं रुका।

मशीन खरीदने या मॉडल चुनने से पहले, मापिए। आज आप कितना खर्च करते हैं और उसमें से कितना सिर्फ़ दोहराव है?

बताइए आपका समय किस काम में जा रहा है, मैं बताऊँगा कि उसे ऑटोमेट करना सही है या नहीं।

#आर्टिफिशियलइंटेलिजेंस #ऑटोमेशन #टेक्नोलॉजी #मैनेजमेंट #AI