अपनी मशीन पर चलता AI: यह कब फ़ायदेमंद है

एक किस्म का काम है जो कोई करना नहीं चाहता और हर कंपनी रोज़ करती है: पचास PDF बिलों से सप्लायर, रकम और देय तारीख निकालना। सौ ग्राहक संदेश पढ़कर खरीदने वालों को शिकायत करने वालों से अलग करना। मीटिंग की कार्यवाही का सारांश बनाना।

यह काम आज आपकी अपनी मशीन पर चलने वाला AI कर सकता है, बिना मासिक शुल्क, बिना कुछ इंटरनेट पर भेजे। दो साल पहले यह तकनीकी लोगों का खेल था। अब ऐसे छोटे मॉडल हैं जो फ़ोन और सामान्य दफ़्तरी कंप्यूटर पर चलते हैं, और दोहराव वाले कामों के लिए पर्याप्त गुणवत्ता देते हैं।

क्या यह आपके लिए सही है? निर्भर करता है। ये रहे वे मानदंड जो मैं तय करने से पहले इस्तेमाल करता हूं।

"लोकल AI" क्या है, सीधे शब्दों में

यह आपके कंप्यूटर पर रहने वाला एक प्रोग्राम है जो खुद जवाब देता है, किसी के सर्वर से पूछे बिना। आप इंस्टॉल करते हैं, अपनी फ़ाइलों की ओर इशारा करते हैं, और वह वहीं काम करता है। इंटरनेट के बिना भी वैसा ही चलता है।

क्लाउड टूल से व्यावहारिक अंतर:

• इस्तेमाल का बिल नहीं। लागत वह कंप्यूटर है जो आपके पास पहले से है।
• डेटा घर से बाहर नहीं जाता। कोई ग्राहक अनुबंध विदेशी सर्वर तक नहीं जाता।
• क्षमता सीमित है। छोटा मॉडल बड़े जितना अच्छा नहीं लिखता और उतनी दूर नहीं सोचता।
• यह गायब नहीं होता। कोई इसे बंद नहीं करता, दाम नहीं बढ़ाता, आपके इस्तेमाल वाले संस्करण को "बंद" नहीं करता।

आपकी मशीन का छोटा मॉडल बुद्धि में बड़े से नहीं जीतता। वह अनुमेयता में जीतता है।

सचमुच कब फ़ायदेमंद है

मैं लोकल AI तब सुझाता हूं जब इनमें से कम से कम दो बातें सही हों:

काम दोहराव वाला और साफ़ तय है। दस्तावेज़ से फ़ील्ड निकालना, संदेश वर्गीकृत करना, श्रेणी लगाना, छोटा सारांश बनाना। ऐसा काम जो पैटर्न पर चलता है। छोटे मॉडल इसमें अच्छे हैं और उन्हें प्रतिभा की ज़रूरत नहीं।

मात्रा ज़्यादा है। अगर महीने में हज़ारों आइटम प्रोसेस होते हैं, तो पेड टूल की प्रति-कॉल लागत चुभने लगती है। लोकल में, सेटअप के बाद मात्रा मुफ़्त है।

डेटा संवेदनशील है। मेडिकल रिकॉर्ड, अनुबंध, वेतन, ग्राहक डेटा जो अनुबंध या कानून के कारण लीक नहीं हो सकता। यहां बात दाम की नहीं, यह जोखिम ही न रखने की है।

आपको स्थिरता चाहिए। प्रोडक्शन में चलने वाले ऑटोमेशन को यह पसंद नहीं कि सप्लायर बिना बताए मॉडल का व्यवहार बदल दे। लोकल में जो कल चलता था वह कल भी चलेगा।

कब फ़ायदेमंद नहीं

इस बारे में ईमानदारी आपका पैसा बचाती है:

• कम मात्रा। महीने में बीस काम हैं तो लोकल ढांचा खड़ा करना चिल्लर बचाने के लिए एक दोपहर खर्च करना है।
• वह टेक्स्ट जो आपके नाम से ग्राहक तक जाता है। यहां लेखन की गुणवत्ता मायने रखती है और बड़े मॉडल आराम से आगे हैं।
• जटिल तर्क, लंबा विश्लेषण, कोड। छोटे मॉडल भटक जाते हैं।
• देखभाल करने वाला कोई नहीं। लोकल का मतलब है किसी को संभालना पड़ेगा। वह व्यक्ति नहीं है तो अंत में पेड टूल सस्ता पड़ता है।

ध्यान दीजिए, जवाब लगभग कभी "सब लोकल" या "सब क्लाउड" नहीं होता। जवाब मिश्रण है: दोहराव वाले और संवेदनशील काम घर में, निखार मांगने वाला काम बड़े मॉडल के पास।

बिना खर्च किए परखिए कैसे

कुछ भी बनाने से पहले कॉपी-कलम वाला परीक्षण कीजिए। एक काम चुनिए, तीस असली उदाहरण जुटाइए और हाथ से कीजिए। नोट कीजिए कितना समय लगा और कितनी गलतियां हुईं। यही आपका मानक है।

फिर वही तीस लोकल AI से चलवाइए। गलती से गलती, समय से समय की तुलना कीजिए। अगर वह 85% सही करता है और गलती समीक्षा में आसानी से पकड़ में आती है, तो असली फ़ायदा है। अगर 85% सही करता है और गलती दिखती नहीं, तो आपके पास इंतज़ार करती हुई समस्या है।

यह परीक्षण एक दोपहर लेता है और एक महीने का दोबारा काम बचाता है। जब भी कोई इसे छोड़ता है, ऑटोमेशन वही चीज़ बन जाता है जो "कभी-कभी चलती है" और किसी को भरोसा नहीं होता।

एक उदाहरण जो जल्दी वसूल हो जाता है

ठीक-ठाक काम वाला दफ़्तर, महीने में करीब 400 दस्तावेज़ पढ़ने और दर्ज करने को। एक व्यक्ति महीने में करीब पंद्रह घंटे इसी में लगाता था। लोकल चलने वाली स्वचालित निकासी और सिर्फ़ संदिग्ध चिह्नित मामलों की मानवीय समीक्षा के बाद, करीब तीन घंटे की जांच बची।

महीने में बारह घंटे वापस। कोई दस्तावेज़ कंपनी के नेटवर्क से बाहर नहीं गया। कोई नई सदस्यता नहीं। पूरा काम था सेटअप करना, परखना और टीम को सही समीक्षा सिखाना।

यह जादू नहीं है, क्रांति भी नहीं। यह एक उबाऊ काम उस व्यक्ति की मेज़ से हटाना है जिसके पास बेहतर काम हैं।

असली बात

सवाल "लोकल AI या पेड AI" नहीं है। सवाल है "क्या इस ख़ास काम को महंगा मॉडल चाहिए?"। दफ़्तर का ज़्यादातर मैनुअल काम नहीं चाहता। उसे चाहिए निरंतरता, रोज़ चलना, और डेटा का बाहर न जाना।

जो यह समझता है वह कम खर्च करता है और कम निर्भर रहता है। जो नहीं समझता वह महंगी सदस्यता देकर वह करता है जो रिसेप्शन के कंप्यूटर पर एक साधारण प्रोग्राम कर देता।

अगर आप जानना चाहते हैं कि आपके दिन के कौन से काम इसमें आते हैं, प्रक्रिया साथ देखने के लिए मुझसे बात कीजिए।