एआई के अंधे धब्बे: गो के मास्टर से मिला सबक

क्या आपने कभी एआई का दिया हुआ कुछ बिना जाँचे मंज़ूर किया है? कोई टेक्स्ट, कोई स्प्रेडशीट, ग्राहक को भेजा गया कोई जवाब। मैंने किया है। और ज्यादातर बार सही निकला, यही तो असली दिक्कत है। क्योंकि जब एआई के अंधे धब्बे सामने आते हैं, तो वे किसी साफ दिखने वाली गलती की तरह नहीं आते। वे एक सुंदर, आत्मविश्वासी और गलत जवाब की शक्ल में आते हैं।

जुलाई में दक्षिण कोरिया के शिन जिनसो ने, जो गो में दुनिया के नंबर 1 हैं, KataGo को हरा दिया। यह मौजूद सबसे मजबूत प्रोग्रामों में से एक है, और वह बाजी दो पत्थर के हैंडिकैप के साथ खेली गई थी। जो लोग यह खेल नहीं देखते उनके लिए: 2016 में जब AlphaGo ने ली सेदोल को हराया, तभी से हिसाब पलट गया था। गो में मशीन इंसान को हराती है। यह बहस नहीं, तय बात है। इसीलिए यह खबर पूरी दुनिया में फैली।

और मुझे लगता है कि यह खबर बोर्ड से ज्यादा आपके कारोबार के बारे में कहती है।

दिलचस्प हिस्सा स्कोर नहीं है

गो में दो पत्थर की बढ़त बहुत बड़ी चीज है। कोई शक्की पाठक तुरंत कहेगा: "तो फिर उसने सच में जीता ही नहीं"। जायज बात है। हैंडिकैप है ही इसलिए क्योंकि वह प्रोग्राम किसी भी जीवित इंसान से मजबूत है।

पर गौर कीजिए कि इसका व्यावहारिक मतलब क्या है। किसी ने इंसान और मशीन के बीच की दूरी नापी, उस पर एक संख्या रखी, और पता लगाया कि इंसान अब भी कहाँ जीत सकता है। यह कीमती जानकारी है। यह "एआई बेहतर है" या "एआई एक धोखा है" से अलग है। यह एक नक्शा है।

जिन कंपनियों से मैं बात करता हूँ, उनमें से ज्यादातर के पास यह नक्शा नहीं है। या तो वे मानती हैं कि एआई सब हल कर देगी, या मानती हैं कि कुछ भी हल नहीं करती। दोनों रुख पैसे में पड़ते हैं।

मजबूत मशीन का मतलब बिना छेद वाली मशीन नहीं

2023 का एक किस्सा है जो मुझे सुनाना पसंद है, क्योंकि वह इतना ठोस है कि नजरअंदाज नहीं किया जा सकता।

FAR AI के शोधकर्ताओं ने एक प्रोग्राम सिर्फ इसलिए ट्रेन किया ताकि वह KataGo में खामी ढूँढे। अच्छा खेलने के लिए नहीं। खामी ढूँढने के लिए। उन्हें एक पैटर्न मिला: अगर आप पत्थरों का एक बड़ा और ढीला समूह बनाएँ और उसे एक खास तरीके से बाहर से घेर लें, तो प्रोग्राम को खतरा दिखता ही नहीं। वह उस स्थिति को शांत आँकता रहता है, उस पल तक जब तक वह हार चुका होता है।

फिर वह हिस्सा आया जो डराता है। केलिन पेलरीन नाम के एक शौकिया खिलाड़ी ने वह चाल सीखी और अपने हाथों से खेली। अतिमानवीय स्तर के बॉट के खिलाफ उसने 15 में से 14 बाजियाँ जीतीं। खेल के दौरान बिना किसी कंप्यूटर की मदद के। एक शौकिया उसे हरा रहा था जिसे कोई नहीं हरा पाता था।

प्रोग्राम कमजोर नहीं हो गया था। सामान्य खेल में वह सबसे बेहतर बना रहा। बस एक साइड दरवाजा मौजूद था, और किसी ने उस तरफ देखा नहीं था, क्योंकि सब उसकी कच्ची ताकत की तारीफ में लगे थे।

औसत में मजबूत सिस्टम किसी एक खास मामले में तबाही ला सकता है। और ग्राहक के सामने हमेशा वही खास मामला आता है।

आपकी कंपनी में यह कहाँ होता है

बोर्ड को छोड़िए, इसे आपके रोजमर्रा में रखते हैं।

आप वेबसाइट का चैट संभालने के लिए एक एआई लगाते हैं। 95% सवालों में वह बढ़िया काम करती है। बाकी 5% में वह ऐसा डिलीवरी समय गढ़ देती है जो है ही नहीं, या ऐसी भुगतान शर्त का वादा कर देती है जो आप देते ही नहीं। और यह वह उसी आत्मविश्वास के साथ करती है जो बाकी 95% में था। आवाज जरा भी नहीं काँपती।

आप नोटा फिस्कल वर्गीकृत करने के लिए एक एआई लगाते हैं। सब बहुत सुंदर चलता है, जब तक कोई ऐसा सप्लायर नहीं आता जो अजीब फॉर्मेट में दस्तावेज भेजता है। फिर वह सब कुछ गलत श्रेणी में डालने लगती है। चुपचाप। आपको तिमाही बंद करते वक्त पता चलता है।

आप रिज्यूमे छाँटने के लिए एक एआई लगाते हैं। वह पुराने इतिहास से सीखती है। अगर इतिहास में पूर्वाग्रह है, तो वह पूर्वाग्रह दोहराती है, और हर चुनाव के लिए एक सुव्यवस्थित तर्क भी दे देती है।

पैटर्न हमेशा एक ही रहता है। गलती चिल्लाती नहीं। वह सही जवाब का भेस पहन लेती है।

जो मुनाफा कमाते हैं और जो जल जाते हैं, फर्क क्या है

व्यवहार में फर्क चुने गए मॉडल का नहीं है। फर्क इसका है कि ग्राहक के पहुँचने से पहले साइड दरवाजा किसने खोजने की मेहनत की।

जब मैं किसी के लिए एआई वाला ऑटोमेशन बनाता हूँ, तो तीन काम करता हूँ। ये उबाऊ लगते हैं, और यही प्रोजेक्ट बचाते हैं:

• तय करता हूँ कि वह अकेले कहाँ फैसला नहीं ले सकती। X से ऊपर की रकम, पुराने अनुबंध वाला ग्राहक, रद्द करने का अनुरोध, तीखे लहजे वाली शिकायत। यह सब इंसान के पास जाता है। हमेशा। मशीन तैयार करती है, इंसान दस्तखत करता है।
• हर चीज का निशान छोड़ता हूँ। हर जवाब रिकॉर्ड होता है, क्या अंदर गया और क्या बाहर आया। इसके बिना आपको यह भी पता नहीं चलेगा कि कोई समस्या है, ठीक करना तो दूर की बात है।
• जानबूझकर भद्दे मामलों से टेस्ट करता हूँ। उन दस सुंदर उदाहरणों से नहीं। खराब लिखे सवाल से, टेढ़े पीडीएफ से, गुस्साए ग्राहक से, और उस अनुरोध से जिसके भीतर दो उलटी बातें हैं।

तीसरा काम पेलरीन को आपको गिराने के लिए काम पर रखने जैसा है। इसमें कुछ घंटे लगते हैं। और वह गलती टलती है जो ट्विटर पर स्क्रीनशॉट बन जाती है।

"तो क्या एआई लगाने लायक नहीं है?"

बहुत लायक है। मैं इसे बनाकर ही कमाता हूँ।

बस असली फायदा लगभग कभी किसी पूरे इंसान की जगह लेने में नहीं होता। वह उन कामों को रास्ते से हटाने में होता है जो किसी को करना पसंद नहीं और जो पूरा दिन खा जाते हैं। पचास ईमेल पढ़कर तीन जरूरी अलग करना। मीटिंग के ऑडियो को बचे हुए कामों की सूची वाले सारांश में बदलना। किसी प्रस्ताव का पहला मसौदा भर देना, ताकि कोई उसे एक घंटे में शून्य से लिखने के बजाय पाँच मिनट में जाँच ले।

ऐसे मामलों में गलती की कीमत कम होती है और इंसानी समीक्षक पहले से वहीं होता है, सहज रूप से, बिना किसी नई प्रक्रिया के। यहीं हिसाब जल्दी बैठता है।

दिक्कत तब आती है जब कंपनी सीधे "एआई अकेले ग्राहक को जवाब देगी" पर कूद जाती है, क्योंकि उसने किसी पोस्ट में पढ़ा कि ऐसा किया जा सकता है। किया जा सकता है। पर तब आपको वह उबाऊ हिस्सा चाहिए, और उबाऊ हिस्सा वही है जो कोई पोस्ट नहीं करता।

एक बात मैं हमेशा कहता हूँ: अगर आप एक वाक्य में नहीं बता सकते कि एआई के गलती करने पर क्या होगा, तो आप उसे ग्राहक के सामने रखने के लिए अभी तैयार नहीं हैं। यह निराशावाद नहीं है। यह वही सवाल है जो आप फोन उठाने के लिए किसी इंटर्न को रखने से पहले पूछते।

इंसान सजावट की चीज नहीं बना है

शिन जिनसो इसलिए नहीं जीते कि वे किसी सर्वर से तेज हैं। वे इसलिए जीते क्योंकि वे खेल को इस तरह समझते हैं कि ऐसा सवाल गढ़ सकें जिसका जवाब मशीन ठीक से नहीं जानती।

अभी आपकी भूमिका बिल्कुल यही है। आप अपने ग्राहक को जानते हैं, अपने क्षेत्र को, अपवादों को, उन समझौतों को जो कहीं लिखे ही नहीं हैं। एआई इनमें से कुछ नहीं जानती। वह पैटर्न जानती है। और आपका कारोबार जितना पैटर्न से बना है, उतना ही अपवाद से भी।

जो व्यक्ति सिर्फ औजार चलाना जानता है, वह जल्दी ही कमोडिटी बन जाता है, क्योंकि वह औजार सबके लिए उसी दाम पर उपलब्ध है। जो जानता है कि औजार कहाँ फेल होता है और उसके इर्द-गिर्द प्रक्रिया बनाता है, वह व्यक्ति कीमती बना रहता है। बढ़त पहुँच में नहीं है। बढ़त समझ में है।

यह गो के खिलाड़ी पर भी लागू होता है और बारह लोगों की कंपनी चलाने वाले पर भी।

अगर आप अपनी प्रक्रिया के किसी हिस्से में एआई लगाने की सोच रहे हैं और यह काम ग्राहक के साथ मिलकर छेद खोजे बिना करना चाहते हैं, तो बताइए आपके पास क्या है। मैं आमतौर पर सबसे उपयोगी सवाल से शुरू करता हूँ: जिस दिन यह गलती करेगी, उस दिन क्या होगा?

क्या आपने कभी एआई का दिया हुआ कुछ बिना जाँचे मंज़ूर किया है? मैंने किया है।

और लगभग हर बार सही निकला, यही तो असली दिक्कत है। एआई की गलती चिल्लाती नहीं है। वह सुंदर, आत्मविश्वासी और गलत होकर आती है।

साल 2023 में शोधकर्ताओं ने KataGo में एक झोल ढूँढ निकाला। यह गो की दुनिया के सबसे मजबूत प्रोग्राम में से एक है। एक शौकिया खिलाड़ी ने वह चाल सीखी और अतिमानवीय बॉट के खिलाफ 15 में से 14 बाजियाँ जीत लीं। बिना किसी कंप्यूटर की मदद के।

सिस्टम कमजोर नहीं हुआ था। बस एक साइड दरवाजा मौजूद था, और किसी ने उस तरफ देखा ही नहीं था।

आपकी कंपनी में भी यही होता है। एआई चैट के 95% जवाब सही देती है, और बाकी 5% में ऐसा डिलीवरी समय गढ़ देती है जो आप देते ही नहीं, वही पुराने आत्मविश्वास के साथ।

अगर आप एक वाक्य में नहीं बता सकते कि एआई के गलती करने पर क्या होगा, तो वह अभी ग्राहक के सामने बैठने लायक नहीं है।

अपनी प्रक्रिया के किसी हिस्से में एआई लगाने की सोच रहे हैं? बताइए आपके पास क्या है। मैं हमेशा एक ही सवाल से शुरू करता हूँ: जिस दिन यह गलती करेगी, उस दिन क्या होगा?

#आर्टिफिशियलइंटेलिजेंस #ऑटोमेशन #टेक्नोलॉजी #छोटेकारोबार #बिजनेसमेंएआई