लोकल AI: वह AI एजेंट जो आपकी कंपनी के भीतर चलता है

आप AI API का बिल खोलते हैं और चौंक जाते हैं। तीन हज़ार रियाल, उस महीने में जब किसी ने जानबूझकर "AI का इस्तेमाल" किया ही नहीं। वह छोटा रोबोट था जो रात भर ई-मेल छाँटता रहा, वह स्क्रिप्ट जो टिकट का सार बनाती है, वह फ़्लो जो हर दस मिनट में ऑर्डर जाँचता है। हर कॉल की कीमत चंद पैसे। पैसे गुणा एक लाख कॉल, और बन गई एक तनख़्वाह। ठीक यहीं से लोकल AI समझ में आने लगती है: एक छोटा मॉडल, आपकी अपनी मशीन पर, पूरे दिन चालू, बिना किसी मीटर के।

Meta ने जून में Muse Glimmer लॉन्च किया, 30 अरब पैरामीटर वाला एक ओपन मॉडल, ठीक इसी काम के लिए बना: ऐसे एजेंट जो हर वक़्त चालू रहें, आपके अपने इंफ़्रास्ट्रक्चर पर। यह दुनिया का सबसे बुद्धिमान मॉडल नहीं है। इसे होने की ज़रूरत भी नहीं। इसे किसी और काम के लिए बनाया गया है।

"हमेशा चालू" का असल मतलब क्या है

कंपनी में AI के दो तरह के इस्तेमाल होते हैं और लोग दोनों को मिला देते हैं।

पहला है कभी-कभार का इस्तेमाल। कोई एक टेक्स्ट माँगता है, कोई विश्लेषण, कोई प्रस्ताव। दिन में दस, बीस बार। यह अच्छा होना चाहिए। खर्च कम आता है क्योंकि वॉल्यूम कम है।

दूसरा है पृष्ठभूमि का इस्तेमाल। वह एजेंट जो हर आने वाला ई-मेल पढ़कर तय करता है कि यह कोटेशन है, शिकायत है या स्पैम। वह जो स्टॉक पर नज़र रखता है। वह जो सेल्स की हर कॉल लिखता और उसका सार बनाता है। यह हर वक़्त चलता है, बिना किसी की निगरानी के, और इसका वॉल्यूम पहले वाले मामले के मुक़ाबले बेतुका बड़ा होता है।

आम ग़लती यह है कि दोनों में महँगा मॉडल लगा दिया जाए। यह वैसा ही है जैसे काग़ज़ पर मुहर लगवाने के लिए सीनियर वकील रखना। काम तो चलता है, पर आप मुहर लगवाने के लिए वकील की फ़ीस चुका रहे हैं।

बड़ा मॉडल सोचने के लिए है। छोटा मॉडल काम करने के लिए है।

30B का मॉडल हिसाब क्यों बदल देता है

तीस अरब पैरामीटर सुनने में बहुत लगता है। 2023 में यह डेटा सेंटर की बात थी। आज यह लगभग 24 GB वाले एक अकेले ग्राफ़िक्स कार्ड पर चल जाता है, वैसा ही कार्ड जो किसी आर्किटेक्चर स्टूडियो की रेंडरिंग मशीन में पहले से पड़ा है।

इससे एक साथ तीन चीज़ें बदल जाती हैं।

खर्च तय हो जाता है। आप मशीन खरीदते या किराए पर लेते हैं, और बात ख़त्म। इससे फ़र्क नहीं पड़ता कि उस महीने एजेंट हज़ार बार चला या दस लाख बार। मेरे एक क्लाइंट के पास एक फ़्लो था जो WhatsApp मैसेज छाँटता था: महीने में करीब 40 हज़ार। क्लाउड पर यह लगभग R$ 900 पड़ता था। R$ 400 महीने वाली GPU VPS पर लोकल मॉडल में शिफ़्ट करने के बाद, उसी कीमत में तीन और ऑटोमेशन जोड़ने की जगह बच गई।

डेटा बाहर नहीं जाता। अकाउंटिंग फ़र्म, क्लिनिक, लॉ फ़र्म। अगर एजेंट क्लाइंट का दस्तावेज़ पढ़ता है, तो कोई न कोई पूछेगा कि वह दस्तावेज़ कहाँ गया। "वह कंपनी के सर्वर पर ही रहता है" कहना, किसी विदेशी वेंडर की डेटा रिटेंशन पॉलिसी पर पूरा पैराग्राफ़ पढ़ने से कहीं आसान जवाब है।

लेटेंसी ख़त्म हो जाती है। दूसरे महाद्वीप के सर्वर तक जाने की ज़रूरत नहीं। जवाब हमेशा एक सेकंड से कम में। जो एजेंट एक काम में बीस कदम उठाता है, उसके लिए यह दो सेकंड और तीस सेकंड का फ़र्क है।

लोकल AI कहाँ काम नहीं आती

मैं ईमानदार रहूँगा, क्योंकि यह हिस्सा लगभग कोई नहीं लिखता।

खुले-अंत वाले काम में छोटा मॉडल ज़्यादा ग़लतियाँ करता है। अगर आप कहें "इस कॉन्ट्रैक्ट का विश्लेषण करो और जोखिम बताओ", तो वह एक ठीक-ठाक जवाब दे देगा और आपको लगेगा सब सही है। सही नहीं है। ऐसे कामों में बड़े मॉडल से फ़र्क बहुत बड़ा होता है, और देर से पता चले तो महँगा पड़ता है।

लोकल मॉडल के दिमाग़ में इंटरनेट के पिछले कुछ महीने भी नहीं होते। उसे नहीं पता कि पिछले हफ़्ते कौन सा कानून बदला। उपयोगी होने के लिए उसे आपके डेटा तक पहुँच चाहिए, और यह इंटीग्रेशन का काम है, जादू नहीं।

और एक ज़ाहिर बात: मशीन की देखभाल भी किसी को करनी होगी। अगर आपकी कंपनी में कोई सर्वर चलाना नहीं जानता और वह शनिवार को बंद हो जाए, तो आपने एक बिल की जगह एक समस्या ले ली।

मैं जो नियम इस्तेमाल करता हूँ वह सीधा है। अगर काम दोहराव वाला है, उसका ढाँचा साफ़ है और कभी-कभार की ग़लती से कुछ नहीं टूटता, तो लोकल चुनिए। अगर काम खुला-अंत वाला है, कभी-कभी आता है और ग़लती महँगी पड़ती है, तो अच्छा मॉडल इस्तेमाल कीजिए और वे चंद पैसे चुकाइए।

एक उदाहरण जिसे आप कॉपी कर सकते हैं

पार्ट्स डिस्ट्रीब्यूटर, सेल्स में छह लोग। ई-मेल और WhatsApp मिलाकर रोज़ करीब 300 ऑर्डर आते थे, सब खुले टेक्स्ट में: "वही फ़िल्टर 20 भेज दो जो मैंने पिछले महीने लिया था"।

पुराना तरीका यह था कि एक इंसान पढ़कर ERP में टाइप करता था। रोज़ के चार घंटे।

हमने जो बनाया:

• एक लोकल एजेंट मैसेज पढ़ता है और तीन चीज़ें निकालता है: क्लाइंट, प्रोडक्ट, मात्रा।
• "वही फ़िल्टर" सुलझाने के लिए वह डेटाबेस में क्लाइंट का इतिहास देखता है।
• भरोसा ज़्यादा हो तो ERP में ऑर्डर का ड्राफ़्ट बना देता है।
• ज़रा भी शक हो तो जितना समझा वह भरकर इंसानी क़तार में डाल देता है।

कोई "स्वायत्त AI" नहीं। यह एजेंट एक तेज़ इंटर्न है जो फ़ॉर्म भरता है और न समझ आने पर हाथ उठा देता है। करीब 70% ऑर्डर बिना इंसानी दख़ल के निकल जाते हैं। बाकी 30% आधे भरे हुए आते हैं, इसलिए वे भी तेज़ी से निपटते हैं।

काम उबाऊ है, दोहराव वाला है और ढाँचे में बँधा है। 30B का मॉडल इसे आराम से संभाल लेता है। और चूँकि यह लोकल चलता है, किसी ने API कॉल नहीं गिनी।

बिना ढेर सारा पैसा फूँके इसे कैसे आज़माएँ

GPU मत खरीदिए। सच में। यही क्लासिक ग़लती है: मालिक उत्साहित होकर 15 हज़ार की मशीन ले आता है और वह सजावट बनकर रह जाती है।

क्रम से कीजिए:

1. सिर्फ़ एक काम चुनिए। जो सबसे ज़्यादा दोहराव वाला हो। अगर आप दो वाक्यों में नहीं बता सकते कि एजेंट क्या तय करेगा, तो वह काम अभी तैयार नहीं है।
2. पहले क्लाउड पर चलाइए, अच्छे मॉडल के साथ। दो हफ़्ते तक। यह महँगा है, और ठीक वही बिल आपको बताएगा कि शिफ़्ट करना फ़ायदेमंद है या नहीं। इसी तरह आपको पता चलेगा कि काम चलता भी है या नहीं।
3. सटीकता नापिए। इंसान के काम से तुलना कीजिए। अगर इंसान 97% सही है और AI 91%, तो तय कीजिए कि यह अंतर चुभता है या नहीं। कभी चुभता है। कभी बेमानी होता है।
4. तभी लोकल आज़माइए। महीने भर के लिए GPU वाली मशीन किराए पर लीजिए, वही टेस्ट चलाइए, आँकड़े मिलाइए। अगर बहुत गिर जाए, तो वापस लौट आइए।
5. अगर लगातार तीन महीने अच्छा चला, तब हार्डवेयर खरीदने की सोचिए।

इस रास्ते पर कुछ सौ रियाल खर्च होते हैं यह जानने के लिए कि आइडिया काम का है या नहीं। बाद में पता चलने से यह कहीं सस्ता है।

आपके लिए असल बात क्या है

अहम खबर यह नहीं कि "एक और मॉडल आ गया"। हर हफ़्ते नया मॉडल आता है और छह महीने बाद Muse Glimmer पुराना पड़ जाएगा।

बात यह है कि रोज़मर्रा के ऑटोमेशन के लिए जितनी क्वालिटी चाहिए, वह अब सिर्फ़ उनके पास नहीं रही जिनका किसी क्लाउड दिग्गज से कॉन्ट्रैक्ट है। आज एक अकेले डेवलपर का स्टूडियो भी ऐसा एजेंट बना सकता है जो क्लाइंट के अपने इंफ़्रास्ट्रक्चर पर चले, जिसका डेटा वहीं रहे, और जिसका मासिक खर्च दस लोगों की कंपनी के बजट में फिट हो जाए।

इससे वह सवाल ही बदल जाता है जो पूछने लायक है। अब सवाल यह नहीं कि "इस AI का महीने का खर्च कितना आएगा"। सवाल यह है कि "मेरे काम में कौन सा हिस्सा इतना दोहराव वाला है कि उसके लिए एक एजेंट रखना जायज़ हो"।

अगर आपके मन में पहले से कोई काम है और आप ईमानदार राय चाहते हैं कि उसे ऑटोमेट करना फ़ायदेमंद है या नहीं, तो मुझसे बात कीजिए। आधी बार मेरा जवाब होता है कि अभी इसकी ज़रूरत नहीं, और यह भी काम की जानकारी है।

मुझे एक AI API बिल का स्क्रीनशॉट मिला: उस महीने R$ 3 हज़ार, जिसमें किसी ने जानबूझकर "AI का इस्तेमाल" किया ही नहीं था।

वह एक छोटा रोबोट था जो रात भर ई-मेल छाँट रहा था। हर कॉल पर चंद पैसे, एक लाख कॉल, और बन गई एक पूरी तनख़्वाह।

ग़लती AI की नहीं है। ग़लती है बेवकूफ़ाना काम के लिए महँगा मॉडल लगाना। यह वैसा ही है जैसे मुहर लगवाने के लिए सीनियर वकील रखना।

बड़ा मॉडल सोचने के लिए है। छोटा मॉडल काम करने के लिए है। और आज एक छोटा मॉडल आपकी अपनी मशीन पर, आपके डेटा के साथ, तय खर्च में चल सकता है।

एक पार्ट्स डिस्ट्रीब्यूटर में 70% ऑर्डर बिना किसी इंसानी दख़ल के ERP में चले जाते हैं। महीने का खर्च: बस मशीन का किराया, और कुछ नहीं।

अगर आपके मन में पहले से कोई दोहराव वाला काम है और आप जानना चाहते हैं कि उसे ऑटोमेट करना फ़ायदेमंद है या नहीं, मुझे लिखिए। आधी बार मेरा जवाब होता है कि अभी इसकी ज़रूरत नहीं, और यह भी एक जवाब है।

#आर्टिफिशियलइंटेलिजेंस #ऑटोमेशन #लोकलAI #छोटेव्यवसाय #टेक्नोलॉजी