कोड ठीक करने वाले AI एजेंट: छिपा हुआ जोखिम

मान लीजिए आप किसी को दरवाज़े का ताला बदलने के लिए बुलाते हैं। वह ताला बदलता है, जाँचता है, सब चलता है। बस इसी बीच वह पीछे की खिड़की खुली छोड़ देता है। और खिड़की देखने कोई नहीं गया, क्योंकि काम तो दरवाज़े का था। Snowflake में कुछ ऐसा ही हुआ, एक डेटा कंपनी जिसका कारोबार अरबों में है: एक AI एजेंट ने सुरक्षा की एक खामी ठीक की और उसी झटके में कंपनी के आंतरिक Jira तक पहुँचने का रास्ता बना दिया।

जो बात चुभती है वह यह है कि यह सुधार एक अच्छे, सम्मानित टूल ने किया, जिसे बहुत से गंभीर लोग इस्तेमाल करते हैं। GitHub का Copilot Autofix कोड में मिली कमज़ोरियों के लिए अपने आप पैच सुझाता है। किसी ने ऊपर से देखा, मंज़ूरी दी, मर्ज कर दिया। टीम यह मानकर आगे बढ़ गई कि मसला हल हो गया। Wiz के शोधकर्ताओं ने बाद में यह छेद ढूँढा।

असल में गड़बड़ी कहाँ हुई

निशाना रिपॉज़िटरी की एक ऑटोमेशन स्क्रिप्ट थी, उन्हीं रूटीन में से एक जो तब अपने आप चलती हैं जब कोई पुल रिक्वेस्ट खोलता है या किसी इशू पर कमेंट करता है। यह वह कोड है जिसे लगभग कोई ध्यान से नहीं पढ़ता। न कोई स्क्रीन है, न कोई ग्राहक देख रहा है, बस चीज़ों को जोड़ने का उबाऊ काम।

मूल खामी जानी-पहचानी थी: बाहर से आया डेटा सीधे स्क्रिप्ट में घुस जाता था। AI ने एक सुधार तैयार किया जो अलर्ट में बताए गए खास मामले को संभालता था। बढ़िया। लेकिन स्क्रिप्ट दूसरे रास्ते से अब भी भरोसे के बाहर का इनपुट ले रही थी, और उस रास्ते के पास वही क्रेडेंशियल थे जिनसे ऑटोमेशन Jira से बात करता है। नतीजा: जो भी किसी सार्वजनिक जगह पर सही कमेंट लिखना जानता हो, वह Snowflake के बॉट से अंदर अपना काम करा सकता था।

इस तरीके पर ध्यान दीजिए, क्योंकि यह प्रोग्रामिंग से बिल्कुल अलग जगहों पर भी दोहराता है:

• AI ने ठीक वही सवाल का जवाब दिया जो पूछा गया था।
• सवाल बहुत संकरा था।
• आसपास किसी ने जाँच नहीं की, क्योंकि अलर्ट हरा हो चुका था।

हरा अलर्ट ही इस कहानी का चुपचाप काम करने वाला खलनायक है। खुली पड़ी समस्या खटकती है, मीटिंग कराती है, कोई न कोई पूछता है। हल हुई मानी गई समस्या हमेशा के लिए नज़र से गायब हो जाती है।

जो कोड नहीं लिखते, उनके लिए यह क्यों मायने रखता है

आप सोच रहे होंगे कि यह इंजीनियरिंग टीम का मामला है। ऐसा नहीं है। "CI/CD स्क्रिप्ट" की जगह अपने बिज़नेस में आज चल रहा कोई भी ऑटोमेशन रख दीजिए।

वह एजेंट जो ग्राहक के ईमेल का जवाब देता है। वह बॉट जो WhatsApp से ऑर्डर उठाकर ERP में डालता है। वह रूटीन जो इनवॉइस पढ़कर अकाउंट्स में चढ़ाती है। वह AI जो रिज़्यूमे छाँटकर उम्मीदवार को अगले चरण में ले जाती है। इन सबका ढाँचा एक जैसा है: बाहर से डेटा लेते हैं, कोई क्रेडेंशियल रखे रहते हैं, और बिना किसी की नज़र के काम करते हैं।

मैंने इसी शक्ल का एक छोटा मामला देखा है। ग्राहक सेवा का एक ऑटोमेशन जो साइट के फ़ॉर्म से टिकट बनाता था। किसी ने पकड़ लिया कि "विषय" फ़ील्ड में ऐसा टेक्स्ट लिखा जा सकता है जिसे AI निर्देश समझ ले, कंटेंट नहीं। टिकट ग्राहक डेटाबेस की क्वेरी बन जाता था, और जवाब पुष्टि वाले ईमेल में उसी व्यक्ति के पास लौट आता था। किसी ने कुछ हैक नहीं किया था। दरवाज़ा डिज़ाइन से ही खुला था, और AI इतनी शालीन थी कि उसे शक ही नहीं हुआ।

ऑटोमेशन कम गलती नहीं करता। वह तेज़ी से और चुपचाप गलती करता है।

असली अंधा कोना: AI जो अपनी ही AI की समीक्षा करे

यहाँ इस लेख की मेरी सबसे मज़बूत राय है: 2026 में जो सबसे खतरनाक पैटर्न फैल रहा है, वह है AI का काम AI से ही पास कराना।

यह तरीका आम हो गया है। एक एजेंट लिखता है। दूसरा समीक्षा करता है। तीसरा वे टेस्ट चलाता है जो पहले ने लिखे थे। कागज़ पर यह कड़ाई लगती है। असल में तीनों का अंधा कोना एक ही है, क्योंकि तीनों ने समस्या को एक ही फ्रेम से पढ़ा। यह वैसा ही है जैसे तीन लोगों से बिल का जोड़ जँचवाना, जबकि गलती मेन्यू में हो।

साथ में एक मनोवैज्ञानिक असर भी है। जब पैच का विवरण अच्छे शब्दों में, साफ़ व्याख्या और भरोसेमंद तर्क के साथ आता है, तो इंसान कम जाँचता है। AI का पुल रिक्वेस्ट इंटर्न के पुल रिक्वेस्ट से ज़्यादा भरोसेमंद लगता है, भले ही वह उससे खराब हो। अच्छी लिखावट से बना भरोसा आज सबसे सस्ती चीज़ है।

मैं यह नहीं कह रहा कि टूल छोड़ दीजिए। मैं रोज़ AI एजेंट इस्तेमाल करता हूँ और वे मेरे असली घंटे बचाते हैं। मैं यह कह रहा हूँ कि समीक्षा उस नज़रिए से आनी चाहिए जो बदलाव बनाने वाले नज़रिए से अलग हो।

बिना ऐसी सरप्राइज़ के AI एजेंट कैसे इस्तेमाल करें

जो काम करता है वह मुश्किल नहीं है, उबाऊ है। और उबाऊ को ही लोग छोड़ देते हैं।

जो काम कर सकता है और जो सिर्फ बोल सकता है, उन्हें अलग कीजिए। अगर कोई एजेंट ग्राहकों के अनुरोध पढ़ता है, तो उसके पास वही क्रेडेंशियल नहीं होना चाहिए जो सिस्टम में यूज़र बनाता है। दो अकाउंट, दो स्तर। इससे आधे इंसिडेंट खत्म हो जाते हैं।

सबसे कम अनुमति दीजिए, सबसे आरामदायक नहीं। Snowflake के ऑटोमेशन के पास Jira तक चौड़ा एक्सेस था क्योंकि किसी दिन ऐसा करना आसान था। जो भी क्रेडेंशियल हद से ज़्यादा खुला मिलता है, उसकी शुरुआत किसी भागदौड़ वाली दोपहर में समय बचाने से हुई होती है।

बाहरी इनपुट को हमेशा शक की नज़र से देखिए। यूज़र का कमेंट, फ़ॉर्म, ईमेल, WhatsApp मैसेज, फ़ाइल का नाम। इनमें से कुछ भी निर्देश नहीं है। यह कंटेंट है। अगर आपका ऑटोमेशन यह फ़र्क नहीं करता, तो वह पहले शालीन अजनबी की बात मान लेगा।

सिर्फ सुधार नहीं, संदर्भ भी माँगिए। जब कोई एजेंट बदलाव सुझाए, तो काम का सवाल "क्या इससे हल हो जाता है?" नहीं है। सवाल है "इस फ़ाइल से और क्या जुड़ा है, और यह बदलाव अब क्या करने देता है जो पहले नहीं होता था?"।

पैसे और संवेदनशील डेटा वाले बिंदु पर एक इंसान रखिए। हर जगह नहीं। ट्रांसफर, सप्लायर रजिस्ट्रेशन, मास भेजने और डिलीट में। बाकी अपने आप चल सकता है।

जो पहले से हरा है, उसकी भी समीक्षा कीजिए। तिमाही में एक बार, ऑटोमेशन ने जो हल हुआ मार्क किया है उसे खोलिए और दोबारा देखिए। यह सबसे सस्ता ऑडिट है और कोई नहीं करता।

शक कितना सही है

इसका मतलब डर नहीं है। इसका मतलब सही माप है।

Snowflake कोई लापरवाह कंपनी नहीं है। वहाँ सुरक्षा टीम है, प्रक्रिया है, अच्छे टूल हैं। फिर भी एक ऑटोमैटिक पैच ने नया दरवाज़ा बना दिया। अगर वहाँ हो सकता है, तो आपके 20 लोगों के ऑपरेशन में भी होगा, फ़र्क बस इतना कि वहाँ किसी ने बुरी खबर बनने से पहले पकड़ लिया।

AI एजेंट के बारे में सोचने का स्वस्थ तरीका यह है कि वह एक नया कर्मचारी है, तेज़, थकता नहीं और शब्दशः चलता है। वह ठीक वही करेगा जो आपने कहा, समय पर, बिना शिकायत के। और इसीलिए सावधानी निर्देश में और एक्सेस की सीमा में होनी चाहिए, इस उम्मीद में नहीं कि वह समझदारी दिखाएगा। समझदारी ही वह एक चीज़ है जो उसके पास नहीं है।

अच्छा ऑटोमेशन वह नहीं जो अकेले ज़्यादा काम करे। वह है जो जानता हो कि कहाँ रुककर किसी को बुलाना है।

अगर आप अपने बिज़नेस में AI से ऑटोमेशन बना रहे हैं और चाहते हैं कि डिज़ाइन समस्या बनने से पहले कोई उसे देख ले, तो देखिए मैं कैसे काम करता हूँ। आधे घंटे की बातचीत आगे का काफ़ी सिरदर्द बचा देती है।

Snowflake के एक AI एजेंट ने सुरक्षा की एक खामी ठीक की और उसी कमिट में कंपनी के आंतरिक Jira में घुसने का रास्ता खोल दिया।

पैच सही था। दिक्कत यह थी कि सवाल बहुत संकरा था।

अलर्ट हरा हो गया, आसपास किसी ने नहीं देखा, और हल हुआ मान लिया गया मसला हमेशा के लिए नज़र से गायब हो जाता है।

यह सिर्फ इंजीनियरिंग टीम का मामला नहीं है। "CI/CD स्क्रिप्ट" की जगह वह बॉट रख दीजिए जो आपका WhatsApp पढ़कर ऑर्डर ERP में डालता है। ढाँचा वही है: बाहर से डेटा लेता है, क्रेडेंशियल रखता है, और बिना किसी की नज़र के काम करता है।

2026 का सबसे खतरनाक पैटर्न है AI का काम AI से ही पास कराना। तीन एजेंट बिल का जोड़ जाँच रहे हैं, जबकि गलती मेन्यू में है।

AI एजेंट एक नया कर्मचारी है, तेज़ और शब्दशः। समझदारी ही वह एक चीज़ है जो उसके पास नहीं है, इसलिए सावधानी निर्देश में और एक्सेस की सीमा में होनी चाहिए।

अगर आप अपने बिज़नेस में AI से ऑटोमेशन बना रहे हैं, तो डिज़ाइन को समस्या बनने से पहले देख लेना बेहतर है। यहाँ बात कीजिए।

#आर्टिफिशियलइंटेलिजेंस #ऑटोमेशन #सूचनासुरक्षा #टेक्नोलॉजी #बिज़नेस