खुले घूमते AI एजेंट: RubyGems मामले से सबक

सोचिए, सोमवार सुबह आप अपने सिस्टम का लॉग खोलते हैं और रात 3 बजकर 14 मिनट पर की गई सैकड़ों गतिविधियाँ दिखती हैं। वैध गतिविधियाँ, वैध लॉगिन के साथ, किसी ऐसे के द्वारा जो इंसान नहीं है। RubyGems की टीम ने लगभग यही बताया। और इसीलिए AI एजेंट अब सिर्फ प्रोग्रामर का नहीं, बिज़नेस मालिक का विषय बन गए हैं।

अगर आपने RubyGems का नाम कभी नहीं सुना, कोई बात नहीं। एक वाक्य में समझाता हूँ: यह वह गोदाम है जहाँ कोड के तैयार हिस्से रखे रहते हैं, जिनसे दुनिया भर के हज़ारों सिस्टम चलते हैं। गोदाम को खाँसी आए, तो बहुत लोगों को ज़ुकाम हो जाता है।

आसान भाषा में क्या हुआ

rubyhack.ai नाम की एक साइट ने आरोप लगाया कि OpenAI से जुड़े स्वचालित एजेंट्स ने RubyGems के इंफ्रास्ट्रक्चर के अंदर बिना सूचना और बिना खुलासे के काम किया। यानी स्वायत्त सॉफ़्टवेयर किसी और के अहम ढाँचे में काम कर रहा था, और समुदाय को पता बाद में चला।

ब्योरे पर अब भी विवाद है। हर पक्ष कहानी अपने तरीके से बताता है, और मैं यह दावा नहीं करूँगा कि वहाँ अंदर ठीक क्या चला। लेकिन कहानी का मूल इस पर निर्भर नहीं करता कि आप कौन सा संस्करण मानते हैं। मूल यह है: एक AI एजेंट के पास काम करने लायक एक्सेस था, उसने काम किया, और पता रिकॉर्ड से चला, किसी सूचना से नहीं।

यह पैटर्न सिर्फ RubyGems तक सीमित नहीं है। यह इसी साल आपकी कंपनी तक पहुँच रहा है, अगर पहले ही नहीं पहुँचा।

टीम में प्रोग्रामर न होते हुए भी यह आपकी समस्या क्यों है

आपकी कंपनी में शायद एजेंट पहले से चल रहे हैं, बस आप उन्हें यह नाम नहीं देते।

वह असिस्टेंट जो सेल्स के ईमेल पढ़कर कोटेशन का जवाब देता है। वह बॉट जो CRM खुद अपडेट करता है। वह ऑटोमेशन जो कॉन्ट्रैक्ट साइन होते ही फाइनेंस में बिल बनाती है। वह AI एक्सटेंशन जिसे टीम के किसी सदस्य ने ब्राउज़र में इंस्टॉल किया और पूरी कंपनी के Google Drive का एक्सेस दे दिया, क्योंकि "बस कुछ शीट्स व्यवस्थित करनी थीं"।

पारंपरिक ऑटोमेशन और AI एजेंट के बीच फ़र्क बड़ा है, और बहुत कम लोगों ने इस पर सोचा है।

पारंपरिक ऑटोमेशन वही करती है जो आपने कहा। हमेशा वही चीज़, हमेशा वही कदम। टूटेगी तो रोज़ एक ही तरह टूटेगी, और आप उसे ठीक कर देंगे।

AI एजेंट रास्ता खुद तय करता है। आप लक्ष्य देते हैं, साधन वह चुनता है। और फिर, उसने आपके अनुरोध को जैसे समझा, उसके हिसाब से रास्ते में मिटाना, ऊपर लिखना, भेजना, रजिस्टर करना या खरीदना भी आ सकता है। सब कुछ आपके क्रेडेंशियल से, यानी सब कुछ आपके नाम पर।

AI एजेंट नया कर्मचारी नहीं है। वह खाली कागज़ पर दिया गया मुख्तारनामा है।

आम गलती: समय बचाने के लिए मालिक वाला एक्सेस दे देना

मैं यह हर हफ्ते देखता हूँ। कोई कंपनी के सिस्टम में AI टूल जोड़ता है और अनुमतियाँ चुनते समय सब कुछ टिक कर देता है। वजह? सब टिक न करना मेहनत का काम है। आपको पता लगाना पड़ता है कि टूल को असल में कौन सी अनुमति चाहिए, फिर टेस्ट करना, फिर सुधारना। सब टिक करने में दो सेकंड लगते हैं और पहली बार में ही काम चल जाता है।

पहली बार में चल जाता है, और सौवीं बार बुरी तरह गिरता है।

एक सच्चा किस्सा जो मुझे बताया गया (कंपनी की पहचान बचाने के लिए ब्योरे बदले हैं): एक एजेंट सेल्स ईमेल से जोड़ा गया ताकि ठंडे लीड को जवाब दे सके। निर्देश था "जिन्होंने जवाब नहीं दिया, उनसे दोबारा संपर्क करो"। "जिन्होंने जवाब नहीं दिया" वाली लिस्ट में वे पुराने ग्राहक भी थे जिन्होंने कॉन्ट्रैक्ट बिल्कुल अच्छे माहौल में खत्म नहीं किया था। एजेंट ने सबसे दोबारा संपर्क किया। दो दिन में। बहुत मीठे लहजे में।

किसी ने हैक नहीं किया। कोई सिस्टम नहीं टूटा। टूल ने ठीक वही किया जो कहा गया था, और नुकसान रिश्तों का हुआ, जिसे सुधारना सबसे महँगा पड़ता है।

दिक्कत AI नहीं थी। दिक्कत यह थी कि किसी ने तय ही नहीं किया कि वह कहाँ तक पहुँच सकती है।

कोई भी एजेंट चालू करने से पहले तीन सवाल

न सुरक्षा समिति चाहिए, न छह अंकों वाली कंसल्टिंग। बस "कनेक्ट" पर क्लिक करने से पहले तीन सवालों के लिखित जवाब चाहिए।

1. यह एजेंट कहाँ तक पहुँच सकता है?

यह नहीं कि वह क्या करेगा। यह कि वह क्या कर सकता है। अगर जवाब है "पूरा Google Workspace अकाउंट", तो आपके पास एजेंट नहीं, बिज़नेस पार्टनर है।

कम से कम पर काटिए। सिर्फ उस फोल्डर तक एक्सेस जो ज़रूरी है। सिर्फ उस टेबल तक जो ज़रूरी है। सिर्फ पढ़ने की अनुमति, जब पढ़ने से काम बन जाए। एक बार कॉन्फ़िगर करना उबाऊ है, पर बाद की एक बिना नींद वाली रात बचा देता है।

2. रिकॉर्ड कहाँ रहता है?

हर एजेंट को लॉग छोड़ना चाहिए: क्या किया, कब किया, किस इनपुट और किस आउटपुट के साथ। अगर आपने जो टूल लिया है वह यह नहीं दिखाता, तो वह आपके बिज़नेस को छूने के लायक नहीं है। बस।

RubyGems मामले में बहस हो पाई तो सिर्फ रिकॉर्ड की वजह से। रजिस्टर न होता, तो शिकायत करने को कुछ होता ही नहीं।

3. किसमें इंसान की मंज़ूरी ज़रूरी है?

रेखा तय कीजिए। जो कुछ भी वापस नहीं लिया जा सकता, या जो कंपनी से बाहर जाता है, वह इंसान से होकर गुज़रे। ग्राहक को ईमेल भेजना, रिकॉर्ड मिटाना, भुगतान करना, कुछ पब्लिश करना, कीमत बदलना। एजेंट तैयार करे, इंसान मंज़ूरी दे। इसमें पाँच सेकंड लगते हैं और आपदा की पूरी श्रेणी खत्म हो जाती है।

बाकी सब अपने आप चलने दीजिए। पढ़ना, वर्गीकरण करना, व्यवस्थित करना, सारांश बनाना, ड्राफ्ट भरना। असली समय की बचत यहीं है, और गलती होने पर यही हिस्सा किसी को चोट नहीं पहुँचाता।

"पर क्या इससे प्रोडक्टिविटी खत्म नहीं हो जाती?"

यह आपत्ति हमेशा आती है, और जायज़ है। अगर मुझे हर चीज़ मंज़ूर ही करनी है, तो ऑटोमेशन का फ़ायदा क्या?

फ़ायदा है, और बहुत है। बस वह आखिरी क्लिक में नहीं है। वह उससे पहले वाले चालीस मिनट के पढ़ने, खोजने और टाइप करने में है।

कोटेशन के बारे में सोचिए। काम "भेजें" दबाना नहीं है। काम है ग्राहक का इतिहास खोलना, लिस्ट प्राइस देखना, चालू डिस्काउंट जाँचना, टेक्स्ट लिखना, रिव्यू करना। एजेंट यह सब पंद्रह सेकंड में तैयार कर देता है। आप पढ़ते हैं, एक लाइन ठीक करते हैं और भेज देते हैं।

आपने उनतालीस मिनट बचाए और भेजने का फैसला करने वाले आप ही रहे। यह ब्रेक नहीं है, यह स्टीयरिंग है।

और एक अच्छा साइड इफेक्ट भी है: जब इंसान रिव्यू करता है, तो वह जल्दी भाँप लेता है कि एजेंट कब एक जैसी गलती करने लगा है। बिना किसी रिव्यू वाला एजेंट हफ्तों तक चुपचाप गलती करता रहता है।

मैं इसे व्यवहार में कैसे बनाता हूँ

जब मैं किसी कंपनी में AI ऑटोमेशन बनाने जाता हूँ, क्रम हमेशा एक ही रहता है।

• पहले प्रक्रिया का नक्शा बनाता हूँ, टूल की बात किए बिना। अगर प्रक्रिया अव्यवस्थित है, तो AI उस अव्यवस्था को तेज़ रफ़्तार से ऑटोमेट कर देगी।
• एक ही दर्द चुनता हूँ, जिसमें वॉल्यूम ज़्यादा हो और जोखिम कम। ईमेल की छँटाई, दस्तावेज़ की व्यवस्था, प्रस्ताव का पहला ड्राफ्ट। शुरुआत कभी भुगतान से नहीं करता।
• एजेंट के लिए अलग अकाउंट बनाता हूँ, न्यूनतम अनुमति के साथ। मालिक का अकाउंट कभी इस्तेमाल नहीं करता। गड़बड़ हुई तो मैं एक क्रेडेंशियल रद्द कर देता हूँ और बाकी कंपनी को पता भी नहीं चलता।
• पहले दिन से लॉग चालू करता हूँ और पूरे पहले हफ्ते उसे देखता हूँ।
• उसके बाद ही दायरा बढ़ाता हूँ, और एक बार में एक कदम।

इसमें कुछ भी बहुत उन्नत नहीं है। यह वही सावधानी है जो आप किसी नए व्यक्ति को नौकरी पर रखते समय बरतते, पहले ही दिन दुकान की चाबी देने से पहले। इंसानों के साथ कोई ऐसा नहीं करता। पता नहीं क्यों, सॉफ़्टवेयर के साथ सब करते हैं।

जो बात टिकती है

RubyGems मामला साफ़ होगा, चुनौती दी जाएगी, या एक फ़ुटनोट बनकर रह जाएगा। इससे बहुत फ़र्क नहीं पड़ता। फ़र्क इससे पड़ता है कि AI एजेंट असली सिस्टम के अंदर, असली अनुमतियों के साथ, पहले से काम कर रहे हैं। और सवाल अब "इस्तेमाल करना सही है क्या" नहीं रहा, सवाल है "किस पट्टे के साथ"।

सीमा तय किए बिना AI एजेंट इस्तेमाल करना हिम्मत नहीं है। यह फैसला ऐसे सिस्टम को सौंपना है जो ग्राहक के गुस्से में फोन करने पर फोन नहीं उठाएगा।

अगर आप नियंत्रण छोड़े बिना अपने बिज़नेस में AI को काम पर लगाना चाहते हैं, तो मैं यह दायरा तय करने में मदद करता हूँ: क्या ऑटोमेट करना है, किस अनुमति के साथ, और इंसान कहाँ आता है। देखिए मैं कैसे काम करता हूँ और बात करने के लिए मुझे संदेश भेजिए।

रात 3 बजकर 14 मिनट पर की गई सैकड़ों गतिविधियाँ मिलीं। लॉगिन वैध था। बस, वह इंसान नहीं था।

RubyGems की टीम ने अपने इंफ्रास्ट्रक्चर के अंदर चल रहे AI एजेंट्स के बारे में यही बताया। और यह दिक्कत सिर्फ कोड लिखने वालों की नहीं है।

आपकी कंपनी में भी शायद एजेंट पहले से हैं, बस आप उन्हें यह नाम नहीं देते। वह बॉट जो कोटेशन का जवाब देता है। वह ऑटोमेशन जो CRM में बदलाव करती है। वह AI एक्सटेंशन जिसे पूरे Drive का एक्सेस मिला, क्योंकि "बस शीट्स व्यवस्थित करनी थीं"।

पारंपरिक ऑटोमेशन वही करती है जो आपने कहा। AI एजेंट रास्ता खुद चुनता है। और उस रास्ते में मिटाना, भेजना या बिल बनाना भी आ सकता है। हमेशा आपके क्रेडेंशियल से और आपके नाम पर।

AI एजेंट नया कर्मचारी नहीं है। वह खाली कागज़ पर दिया गया मुख्तारनामा है।

किसी को भी चालू करने से पहले: वह कहाँ तक पहुँच सकता है, लॉग कहाँ रहता है, और किस काम में इंसान की मंज़ूरी ज़रूरी है।

अगर आप नियंत्रण छोड़े बिना अपने बिज़नेस में AI चलाना चाहते हैं, तो बात करने के लिए मुझे संदेश भेजिए। यह दायरा हम साथ मिलकर तय करेंगे।

#आर्टिफिशियलइंटेलिजेंस #प्रोसेसऑटोमेशन #जोखिमप्रबंधन #डिजिटलट्रांसफॉर्मेशन #सूचनासुरक्षा