गो में एआई की हार आपके बिज़नेस को क्या सिखाती है
क्या आपने कभी एआई की लिखी रिपोर्ट को बिना आंकड़े जांचे मंज़ूरी दी है? मैंने दी है। एक बार गड़बड़ हुई, और मेरे काम करने का तरीका बदलने के लिए वही काफी था। यह लेख उस पल के बारे में है जब एआई गलती करती है और किसी को पता नहीं चलता। और गो की एक बाज़ी के बारे में, जो इसे किसी भी व्हाइटपेपर से बेहतर समझाती है।
जुलाई में दक्षिण कोरिया के शिन जिनसो, गो के वर्ल्ड नंबर वन, ने KataGo को हराया। KataGo आज मौजूद सबसे मज़बूत गो प्रोग्रामों में से एक है। शिन ने दो पत्थर के हैंडिकैप के साथ खेला। गो में हैंडिकैप का मतलब है शुरुआती बढ़त। उन्हें बढ़त मिली और वे जीत गए। यह बराबरी की टक्कर में "इंसान ने मशीन को हराया" वाली बात नहीं है, और जो यह कहानी बेचे वह बढ़ा-चढ़ाकर बोल रहा है। लेकिन यह दिलचस्प बात है, क्योंकि 2016 से कहानी दूसरी थी: एआई गो में इंसान से आगे निकल गई और फिर कभी पीछे मुड़कर नहीं देखा।
बाज़ी में असल में क्या हुआ
हेडलाइन और तथ्य को अलग करना ज़रूरी है।
बिना बढ़त वाली बाज़ी में KataGo आज भी किसी भी इंसान से मज़बूत है। यह नहीं बदला। जो बदला वह यह है कि दुनिया के सबसे अच्छे खिलाड़ियों ने नौ साल एआई की बाज़ियां पढ़ीं। उन्होंने उसकी शैली आत्मसात की और सीखा कि वह कहां हिचकती है। शिन ताकत से नहीं जीते। वे इसलिए जीते क्योंकि वे अपने प्रतिद्वंद्वी को जानते हैं।
और एक और भी अजीब मिसाल है। 2023 में केलिन पेलरीन नाम के एक शोधकर्ता ने KataGo के टॉप संस्करणों को सोलह में से पंद्रह बाज़ियों में हराया। पेलरीन एक अच्छे शौकिया खिलाड़ी हैं, असाधारण नहीं। वे बेहतर खेलने की वजह से नहीं जीते। जीते इसलिए क्योंकि एक शोध टीम ने सिर्फ एआई के छेद ढूंढने के लिए एक प्रतिद्वंद्वी प्रोग्राम ट्रेन किया। उसने एक खास पैटर्न खोजा जो एआई को दिखता ही नहीं था, और पेलरीन ने वह पैटर्न हाथ से चला दिया।
एक शौकिया ने अतिमानवीय एआई को तीन चालों की तरकीब से हरा दिया। एआई उस दिन खराब नहीं खेली। वह छेद हमेशा से उसमें था। किसी ने ढूंढा नहीं था।
जिन्होंने कभी गो नहीं खेला, उनके लिए यह क्यों मायने रखता है
आर्टिफिशियल इंटेलिजेंस परखने के लिए गो सबसे साफ माहौल है। तय नियम, पूरी जानकारी, वस्तुनिष्ठ नतीजा। न कोई ग्राहक इरादा बदलता है, न कोई अधूरी भरी स्प्रेडशीट, न कोई सप्लायर जो व्हाट्सएप पर जवाब देता है।
अगर इस माहौल में एआई के अंधे कोने हैं, तो आपके माहौल में क्या होगा, सोचिए।
आपकी कंपनी कोई बोर्ड नहीं है। यहां रजिस्ट्रेशन में टैक्स नंबर गलत टाइप हुआ है, सेल्समैन ऑर्डर कॉपी में लिखता है, और डिस्काउंट के नियम में एक अपवाद है जिसे सिर्फ फाइनेंस वाले Márcio जानते हैं। आप वहां जो भी एआई लगाएंगे, वह इसी अव्यवस्था के ऊपर काम करेगी।
एआई वहां गलती नहीं करती जहां आप देख रहे हैं। वह वहां करती है जहां देखने का खयाल किसी को आया ही नहीं।
अंधा कोना हमेशा एक ही है: औसत बनाम किनारा
एआई मॉडल एक पैटर्न मशीन है। वह सीखता है कि अक्सर क्या होता है और उसमें शानदार हो जाता है। दिक्कत दुर्लभ मामलों में रहती है।
ऑर्डर वर्गीकरण के एक प्रोजेक्ट में मैंने यह व्यवहार में देखा। सिस्टम ऑर्डर को सेवा के प्रकार से बांटता था और 96% बार सही रहता था। पेश करने के लिए शानदार आंकड़ा। लेकिन बाकी 4% बेतरतीब नहीं थे। वे लगभग सब बड़े ऑर्डर थे, मिले-जुले स्कोप वाले, उन ग्राहकों के जो सबसे ज़्यादा कमाई देते थे। मुश्किल मामले ठीक वही थे जो महंगे थे।
किसी को पता नहीं चला था क्योंकि डैशबोर्ड कुल सटीकता दिखाता था। 96% तब तक बढ़िया लगता है जब तक आपको पता न चले कि गलतियां ठीक वहीं जमा हैं जहां चोट लगती है।
गो का सबक यही है। इंसानों के खिलाफ KataGo की जीत दर आसमानी थी। और साथ ही उसमें एक ढांचागत खामी थी जिसका फायदा एक शौकिया उठा सकता था। दोनों बातें एक साथ सच थीं।
"पर क्या एआई सुधरकर इसे हल नहीं कर देगी?"
सुधरेगी, हां। और जाल ठीक यहीं है।
हर नया संस्करण ज्ञात छेद भर देता है। पेलरीन वाली खामी सार्वजनिक होने के बाद KataGo की टीम ने मॉडल को उस खास हमले के खिलाफ ट्रेन किया और वह काम करना बंद हो गया। बढ़िया। लेकिन वही शोध समूह बाद में लौटा और नई, अलग खामियां खोज लीं।
यह ऐसा बग नहीं है जो एक बार में ठीक हो जाए। यह इन सिस्टमों के सीखने के तरीके की खासियत है। आप एक दरवाज़ा बंद करते हैं, दूसरा खुल जाता है।
यह एआई न इस्तेमाल करने की वजह नहीं है। यह वजह है कि "एआई अब बेहतर है" को इस सवाल का जवाब मानना बंद करें कि "मुझे कैसे पता कि इस मामले में वह सही है"। ये दो अलग सवाल हैं।
आपकी कंपनी में व्यवहार में क्या करें
न गवर्नेंस कमेटी चाहिए, न 40 पन्ने की नीति। चार आदतें चाहिए।
फैसलों को गलती की कीमत के हिसाब से बांटिए। अगर एआई ईमेल का विषय सुझाने में चूकती है, तो आप दोबारा लिख देते हैं और आगे बढ़ जाते हैं। अगर वह क्रेडिट मंज़ूर करने में, इनवॉइस वर्गीकृत करने में या गुस्साए ग्राहक को जवाब देने में चूकती है, तो नुकसान दूसरा है। पहले समूह को खुलकर ऑटोमेट कीजिए। दूसरे में रास्ते पर एक इंसान रखिए।
गलती वहां मापिए जहां चोट लगती है, औसत में नहीं। सिर्फ कुल सटीकता देखना बंद कीजिए। सेगमेंट के हिसाब से तोड़िए: ग्राहक के आकार से, ऑर्डर के प्रकार से, मूल्य से। वह 96% वाला प्रोजेक्ट उस दिन काम का हुआ जब हमने दस हज़ार से ऊपर के ऑर्डर अलग मापने शुरू किए।
सिस्टम को यह कहने दीजिए कि उसे नहीं पता। सबसे बुरी एआई वह है जो अनजान चीज़ पर पूरे आत्मविश्वास से जवाब देती है। अच्छे डिज़ाइन में एक रास्ता होता है: जब भरोसा एक सीमा से नीचे गिरे, मामला इंसानी कतार में चला जाए। इसे लागू करना आसान है और यह किसी भी फाइन ट्यूनिंग से ज़्यादा सिरदर्द बचाता है।
हर तिमाही में एक बार अपने ही सिस्टम पर हमला कीजिए। सच में अजीब बीस मामले उठाइए, वही जिनकी चर्चा सपोर्ट टीम चाय पर करती है, और उन्हें एआई में चलाइए। FAR AI ने KataGo के साथ यही किया था। रिसर्च लैब की ज़रूरत नहीं, दो घंटे और बिज़नेस के अपवाद जानने वाला कोई इंसान चाहिए।
वह बात जिसकी चर्चा लगभग कोई नहीं करता
शिन की कहानी का एक हिस्सा मुझे जीत से भी ज़्यादा दिलचस्प लगता है।
वे सालों से एआई के साथ अभ्यास करते हैं। इसी वजह से उनकी शैली बदल गई। आज पेशेवरों के बीच जो कई चालें आम हैं, वे मशीन की उन बाज़ियों से आईं जिन्हें 2017 में कोई समझ नहीं पाया था। यानी: जिस इंसान ने एआई को हराया, वह इंसान एआई ने ही मज़बूत बनाया है।
भविष्य का यथार्थवादी रूप यही है, और यह उन दोनों अतियों से कहीं कम नाटकीय है जो आप हर जगह पढ़ते हैं। न मशीन ने खिलाड़ी की जगह ली, न खिलाड़ी ने मशीन को नज़रअंदाज़ किया। उन्होंने मशीन का इस्तेमाल तब तक किया जब तक उसे इतना न जान लिया कि पता चल जाए वह कहां लड़खड़ाती है।
किसी ग्राहक के लिए ऑटोमेशन बनाते समय मैं ऐसे ही सोचता हूं। एआई वॉल्यूम संभालती है, दोहराव वाला काम, पहला ड्राफ्ट। इंसान करता है निर्णय, टेढ़ा मामला, वह फैसला जिसके साथ किसी का नाम जुड़ा होता है। जो जानता है कि यह रेखा कहां खींचनी है, वह दोनों तरफ से जीतता है। जो सब कुछ मशीन को सौंप देता है, वह अंधा कोना सबसे महंगे तरीके से खोजता है: किसी ग्राहक की शिकायत के साथ।
अगर आप अपनी कंपनी की किसी प्रक्रिया में एआई डाल रहे हैं और ठीक से नहीं जानते कि वह कहां धोखा दे सकती है, तो व्यवहार में पता चलने से पहले बात कर लेना बेहतर है। देखिए मैं कैसे काम करता हूं।
LinkedIn के लिए सारांश
मैंने एआई की बनाई रिपोर्ट को बिना आंकड़े जांचे मंज़ूरी दी है। एक बार गड़बड़ हुई, और वही काफी था। जुलाई में गो के वर्ल्ड नंबर 1 ने हैंडिकैप के साथ KataGo को हराया। उससे पहले, 2023 में, एक शौकिया खिलाड़ी ने उसी एआई के खिलाफ 16 में से 15 बाज़ियां जीतीं। बस तीन चालों की एक तरकीब से। एआई उस दिन कमज़ोर नहीं हुई थी। छेद हमेशा से वहीं था, किसी ने ढूंढा नहीं था। यही मैंने एक असली प्रोजेक्ट में देखा: ऑर्डर वर्गीकरण में 96% सटीकता। आंकड़ा शानदार। लेकिन 4% गलतियां ठीक उन्हीं बड़े ऑर्डर में थीं, उन ग्राहकों के जो सबसे ज़्यादा कमाई देते थे। एआई वहां गलती नहीं करती जहां आप देख रहे हैं। वह वहां करती है जहां देखने का खयाल किसी को आया ही नहीं। गलती को सेगमेंट के हिसाब से मापिए, औसत में नहीं। और हर तिमाही में एक बार, सच में अजीब बीस मामले उठाइए और अपने सिस्टम में डालिए। दो घंटे का काम, बहुत सारा सिरदर्द बचा हुआ। अगर आप किसी प्रक्रिया में एआई डाल रहे हैं और नहीं जानते कि वह कहां धोखा दे सकती है, तो किसी ग्राहक की शिकायत से पता चलने से पहले मुझसे बात कीजिए। #आर्टिफिशियलइंटेलिजेंस #ऑटोमेशन #प्रबंधन #डिजिटलट्रांसफॉर्मेशन