AI पर ज़रूरत से ज़्यादा भरोसा: आपके SaaS के लिए पेंटागन का सबक

वह रिपोर्ट याद है जो AI ने बनाई थी? आपने सरसरी नज़र डाली, अच्छी लगी और बिना जांचे क्लाइंट को भेज दी। बस यही। AI पर ज़रूरत से ज़्यादा भरोसा एक ऐसी आदत है जो छोटी शुरू होती है और चुपचाप बढ़ती जाती है। इस हफ्ते इसका सबसे भारी उदाहरण सामने आया जिसकी कल्पना की जा सकती है।

Bloomberg की एक रिपोर्ट के मुताबिक, पेंटागन ने माना है कि आर्टिफिशियल इंटेलिजेंस पर ज़रूरत से ज़्यादा निर्भरता की वजह से एक मिसाइल हमला ईरान के एक स्कूल पर जा गिरा। मैं भू-राजनीति में नहीं जाऊंगा। यह मेरा क्षेत्र नहीं है और यहां का विषय भी नहीं। मेरी दिलचस्पी उस तंत्र में है जो इस गलती के पीछे है। क्योंकि यह बिल्कुल वैसा ही है जैसा मैं रोज़ AI इस्तेमाल करने वाली कंपनियों में देखता हूं।

क्या हुआ, आसान शब्दों में

एक ऐसी संस्था जिसके पास दुनिया के सबसे महंगे संसाधन हैं, प्रशिक्षित लोग हैं और सख्त प्रोटोकॉल हैं। उसने एक अहम फैसले को सिस्टम की बात पर ज़रूरत से ज़्यादा टिका दिया। कहीं न कहीं इस कड़ी में मशीन की सिफारिश बिना उस सवाल के सच मान ली गई जो पूछा जाना चाहिए था।

इसका एक नाम है। शोधकर्ता इसे ऑटोमेशन बायस कहते हैं: किसी ऑटोमैटिक सिस्टम की बात मान लेने की आदत, तब भी जब संकेत हों कि कुछ गड़बड़ है। सिस्टम जितना ज़्यादा सही होता है, हम उतना ढीले पड़ते हैं। और हम जितना ढीले पड़ते हैं, आखिरकार गलती होने पर वह उतनी ही महंगी पड़ती है।

जो बात मैं चाहता हूं कि आप यहां से ले जाएं: अगर ऐसा इतने नियंत्रण वाली जगह पर होता है, तो आपकी कंपनी में भी होता है। बस नतीजे बहुत छोटे होते हैं, और इसीलिए कोई ध्यान नहीं देता।

AI पर ज़रूरत से ज़्यादा भरोसा करना इतना आसान क्यों है

आधुनिक AI की एक दिक्कत है उसका अंदाज़। वह उसी आत्मविश्वास से गलती करती है जिससे वह सही होती है।

एक घबराया हुआ इंटर्न कहता है "मुझे लगता है यह सही है, पर एक बार देख लेना"। एक लैंग्वेज मॉडल साफ, फॉर्मैट किया हुआ, एक्सपर्ट जैसे लहजे वाला टेक्स्ट देता है। तब भी जब उसने आधी बातें गढ़ ली हों।

इसमें तीन बहुत इंसानी बातें जोड़िए:

• जल्दबाज़ी। AI समय बचाने के लिए है। जांचना ऐसा लगता है जैसे वह फायदा खत्म कर रहे हों।
• अच्छा रिकॉर्ड। पिछली 50 बार सही रही? 51वीं बार सीधे निकल जाती है।
• ज़िम्मेदारी का बिखर जाना। "सिस्टम ने सुझाया था।" कोई खुद को फैसले का मालिक नहीं मानता।

इनमें से कोई भी बेवकूफी नहीं है। यह थकान है, रूटीन है और गलत प्रोत्साहन है। इसलिए यह समस्या लोगों से "ज़्यादा ध्यान देने" को कहकर हल नहीं होती। यह प्रोसेस से हल होती है।

AI किसी की ज़िम्मेदारी नहीं छीनती। वह बस यह भूलना आसान कर देती है कि ज़िम्मेदारी किसकी है।

असली SaaS में यह कहां दिखता है

चलिए ज़मीन पर आते हैं। ये वे मामले हैं जो मैंने देखे हैं या जो क्लाइंट्स से बातचीत में बार-बार आते हैं।

सपोर्ट ट्राइएज। एक मैनेजमेंट SaaS टिकट्स को अर्जेंसी के हिसाब से छांटने के लिए AI लगाता है। यह अच्छा चलता है। फिर एक बड़ा ग्राहक शांत और विनम्र तरीके से लिखता है "मैं इनवॉइस जारी नहीं कर पा रहा", और AI उसे कम प्राथमिकता दे देती है। टिकट दो दिन कतार में पड़ा रहता है। ग्राहक सब्सक्रिप्शन रद्द कर देता है।

क्रेडिट या रिस्क एनालिसिस। एक बिलिंग सिस्टम एक मॉडल से पूछता है कि बकाया के कारण किसे ब्लॉक करना चाहिए। मॉडल ने पुराने डेटा से सीखा है और एक ऐसे ग्राहक को ब्लॉक कर देता है जिसने अभी-अभी भुगतान की नई शर्तें तय की थीं। फाइनेंस टीम सब एक साथ मंज़ूर कर देती है, क्योंकि हर हफ्ते 300 मामले होते हैं और "सिस्टम ने पहले ही छांट दिया है"।

ऑटोमैटिक जवाब। एक चैटबॉट प्लान और कीमत के सवालों के जवाब देता है। एक दिन वह ऐसा डिस्काउंट गढ़ देता है जो है ही नहीं। अब एक स्क्रीनशॉट घूम रहा है और एक ग्राहक उस वादे को पूरा करने की मांग कर रहा है।

जल्दी से हिसाब लगाइए। अगर आपकी AI 97% बार सही है और हर महीने 2,000 आइटम प्रोसेस करती है, तो 60 गलतियां होती हैं। हर महीने। सवाल यह नहीं है कि वह गलती करती है या नहीं। सवाल यह है कि उन 60 में से कौन सी गलतियां महंगी हैं और क्या कोई उन पर नज़र रख रहा है।

AI कब अकेले फैसला कर सकती है (और कब नहीं)

यहां मेरी साफ राय है: ज़्यादातर कंपनियां इंसानी जांच गलत जगह लगाती हैं। वे सस्ती चीज़ें जांचती हैं और महंगी चीज़ें निकल जाने देती हैं।

इन्हें अलग करने का एक आसान तरीका है। हर काम के बारे में दो सवाल पूछिए:

1. क्या गलती सुधारी जा सकती है? मार्केटिंग ईमेल में गलत कॉमा, हां। अकाउंट ब्लॉक, रिफंड से इनकार या गलत बिलिंग, उतनी आसानी से नहीं।
2. गलती का असर किस पर पड़ता है? अगर सिर्फ आप पर, अंदरूनी तौर पर, तो ज़्यादा बर्दाश्त किया जा सकता है। अगर ग्राहक पर, तो कीमत तुरंत बढ़ जाती है।

गलती सुधारी जा सकती है और अंदरूनी है? AI को अकेले चलने दीजिए और सैंपल लेकर जांचिए। गलती पलटना मुश्किल है या ग्राहक तक पहुंचती है? AI सुझाव दे, फैसला इंसान करे। बस इतना ही।

पेंटागन सबसे बुरे खाने में था: ऐसी गलती जो पलटी नहीं जा सकती, और असली पीड़ितों के साथ। आपका SaaS शायद कभी उसके करीब भी नहीं पहुंचेगा। लेकिन "पलटना मुश्किल और ग्राहक तक पहुंचने वाला" खाना हर बिज़नेस में होता है। और अक्सर यही वह जगह होती है जहां सबसे पहले ऑटोमेशन लगाया गया, क्योंकि वहीं सबसे ज़्यादा काम था।

नियंत्रण खोए बिना अपने SaaS में AI का इस्तेमाल कैसे करें

मैं यह नहीं कह रहा कि AI छोड़ दीजिए। मैं रोज़ इसी के साथ काम करता हूं और मानता हूं कि जो कंपनी AI को नज़रअंदाज़ करेगी, वह पीछे रह जाएगी। बात इसके इस्तेमाल को सही तरीके से डिज़ाइन करने की है। असल में, मैं आमतौर पर यह सेटअप करता हूं:

AI को अपना संदेह दिखाने दीजिए। सिर्फ "अर्जेंट" या "अर्जेंट नहीं" की जगह, भरोसे का स्तर मांगिए। एक सीमा से नीचे सब कुछ इंसानी जांच में जाए। इससे जांच का काम घटता है और ध्यान ज़रूरी चीज़ों पर रहता है।

महंगे पॉइंट्स पर ब्रेक लगाइए। ब्लॉक करना, रिफंड, कमर्शियल वादा, प्लान बदलना। इन पॉइंट्स पर AI सब तैयार करे और बटन एक इंसान दबाए। इसमें 20 सेकंड लगते हैं। हफ्तों का सिरदर्द बचता है।

सैंपल लेकर जांचिए, तब भी जब सब ठीक हो। हर हफ्ते 20 रैंडम मामले निकालिए और जांचिए। क्वालिटी गिरने का पता ग्राहक से पहले लगाने का यही एक तरीका है।

दर्ज कीजिए कि किसने मंज़ूरी दी। यह ब्यूरोक्रेसी लगती है। है नहीं। जब हर फैसले के साथ एक नाम होता है, तो लोग फिर से पढ़ने लगते हैं कि वे क्या मंज़ूर कर रहे हैं। दिलचस्प है कि यह कैसे काम करता है।

चैटबॉट क्या वादा कर सकता है, इसकी सीमा तय कीजिए। कीमत, समय-सीमा, डिस्काउंट और कैंसलेशन पॉलिसी एक तय स्रोत से आनी चाहिए, मॉडल की रचनात्मकता से नहीं। रचनात्मक AI पोस्ट के ड्राफ्ट के लिए बढ़िया है। प्राइस टेबल के लिए, सबसे नीरस AI चुनिए।

कुछ न करने की कीमत

एक जवाब मैं बहुत सुनता हूं: "पर अब तक तो कोई दिक्कत नहीं हुई"। यही चीज़ ऑटोमेशन बायस को खतरनाक बनाती है। यह कोई संकेत नहीं देता। सिस्टम चलता है, चलता है, चलता है। और जिस दिन वह फेल होता है, उस दिन कोई देख नहीं रहा होता। क्योंकि सबने सीख लिया था कि देखने की ज़रूरत नहीं है।

आपको AI एथिक्स कमेटी या छह महीने की कंसल्टिंग की ज़रूरत नहीं है। ऑटोमेशन चालू करने से पहले बस कुछ सवाल पूछने की ज़रूरत है: यह कहां गलती करता है, उस गलती की कीमत क्या है और जांचता कौन है। यह एक घंटे की मीटिंग में हो जाता है।

अगर आपके प्रोडक्ट या ऑपरेशन में पहले से AI चल रही है और आप नहीं बता सकते कि ये ब्रेक पॉइंट कहां हैं, तो रुककर इन्हें मैप करना फायदेमंद है। यह वही काम है जो मैं उन कंपनियों के साथ करता हूं जो सिस्टम की गुलाम बने बिना ऑटोमेट करना चाहती हैं। अगर आप समझना चाहते हैं कि मैं कैसे काम करता हूं, तो देखिए मैं कौन हूं।

पेंटागन ने माना है कि AI पर ज़रूरत से ज़्यादा भरोसे की वजह से एक हमला ईरान के एक स्कूल पर जा गिरा।

मैं भू-राजनीति की बात नहीं करूंगा। मेरी दिलचस्पी उस तंत्र में है, क्योंकि वही मैं हर दिन कंपनियों में देखता हूं: AI 50 बार सही होती है और 51वीं बार कोई जांचता ही नहीं।

AI उसी आत्मविश्वास से गलती करती है जिससे वह सही होती है। और "सिस्टम ने सुझाया था" कहने से किसी की ज़िम्मेदारी खत्म नहीं होती।

अगर वह हर महीने 2,000 आइटम में 97% सही है, तो 60 गलतियां होती हैं। सवाल यह है कि उनमें से कौन सी महंगी पड़ती हैं और कौन देख रहा है।

मेरा नियम: अगर गलती सुधारी जा सकती है और अंदरूनी है, तो AI अकेले चलती है। अगर उसे पलटना मुश्किल है या वह ग्राहक तक पहुंचती है, तो AI सुझाव देती है और फैसला इंसान करता है।

मैंने लिखा है कि ऑटोमेशन का फायदा खोए बिना अपने SaaS में ये ब्रेक पॉइंट कैसे लगाएं। लिंक कमेंट्स में है।

#आर्टिफिशियलइंटेलिजेंस #SaaS #ऑटोमेशन #जोखिमप्रबंधन #टेक्नोलॉजी