कोड में AI एजेंट: जब सुधार ही दरवाज़ा खोल दे

आपने एक सुधार को मंज़ूरी दी, क्योंकि सिस्टम ने कहा कि इससे सुरक्षा की एक समस्या हल होती है। कुछ हफ्तों बाद पता चलता है कि दरवाज़ा खुला उसी सुधार की वजह से रह गया था। Snowflake के साथ लगभग यही हुआ। और यह मामला बहुत अच्छे से दिखाता है कि AI एजेंट कंपनियों के काम करने का तरीका कैसे बदल रहे हैं। अच्छे के लिए भी, और बुरे के लिए भी।

इसे समझने के लिए डेवलपर होना ज़रूरी नहीं है। वादा करता हूं।

Snowflake के मामले में क्या हुआ

Snowflake डेटा की एक बहुत बड़ी कंपनी है। उसके पास सुरक्षा टीम है, प्रक्रियाएं हैं, ऑडिट है। यह वह भतीजा नहीं है जो वीकेंड पर वेबसाइट बना देता है।

कंपनी अपना कोड रखने के लिए GitHub का इस्तेमाल करती है। और GitHub में Copilot Autofix नाम का एक टूल है: AI कोड में कोई समस्या ढूंढता है और तुरंत तैयार सुधार सुझा देता है। टीम का कोई सदस्य उसे देखता है, मंज़ूरी पर क्लिक करता है, और काम खत्म।

सुरक्षा कंपनी Wiz के शोधकर्ताओं ने खामियां ढूंढने वाला अपना एक एजेंट चलाया। उसे कुछ दिलचस्प मिला। AI से बना ऐसा ही एक सुधार, जो कोड की टेस्टिंग और पब्लिशिंग को ऑटोमेट करने वाले हिस्से में लगाया गया था, उसने एक नया छेद बना दिया था। इस रास्ते से बाहर का कोई भी व्यक्ति कंपनी के सिस्टम से कमांड चलवा सकता था और अंदरूनी क्रेडेंशियल्स तक पहुंच सकता था। उनके ज़रिए Snowflake के Jira में बदलाव किए जा सकते थे। Jira वह टूल है जहां टीम अपने काम, बग और प्रोजेक्ट संभालती है।

खामी की रिपोर्ट हुई और उसे ठीक कर दिया गया। कोई तिजोरी लेकर नहीं भागा। पर संदेश साफ था।

विडंबना पर ध्यान दीजिए। AI को एक छेद भरने के लिए बुलाया गया था। उसने एक भरा और दूसरा खोल दिया, और वह भी ज़्यादा संवेदनशील जगह पर। और एक इंसान ने उसे मंज़ूरी दी, क्योंकि सब कुछ सही लग रहा था।

अगर आपके पास IT टीम नहीं है, तो भी यह क्यों मायने रखता है

आप सोच रहे होंगे: "Diego, मेरा तो एक क्लिनिक है। एक दुकान है। 15 लोगों की कंपनी है। मैं GitHub इस्तेमाल नहीं करता।"

ठीक है। पर नाम बदल दीजिए, कहानी वही रहती है:

• WhatsApp पर ग्राहकों को जवाब देने वाला AI एजेंट, जिसके पास आपके ऑर्डर सिस्टम का एक्सेस है।
• वह ऑटोमेशन जो ईमेल पढ़ता है और फाइनेंस में बिल दर्ज करता है।
• वह असिस्टेंट जो आपकी ग्राहकों वाली स्प्रेडशीट "व्यवस्थित" करता है और जिसे लाइनें डिलीट करने की अनुमति है।

इन सभी मामलों में आपके पास एक ऐसा AI है जो सिर्फ बात नहीं करता, काम करता है। और काम करने वाले हर AI के हाथ में एक चाबी होती है। सवाल यह है: वह चाबी कौन से दरवाज़े खोलती है?

Snowflake के मामले में चाबी ज़रूरत से ज़्यादा दरवाज़े खोलती थी। और किसी को पता नहीं चला, जब तक बाहर के किसी व्यक्ति ने जांच नहीं की।

AI एजेंट इंसानों से अलग तरह से गलती करते हैं

जो नया कर्मचारी कोई काम नहीं जानता, वह आमतौर पर झिझकता है। सवाल पूछता है। देर लगाता है। उसके चेहरे पर शक दिखता है।

AI के चेहरे पर शक नहीं दिखता। वह साफ, अच्छी तरह फॉर्मेट किया हुआ, आत्मविश्वास भरा जवाब देता है। तब भी, जब वह गलत होता है।

इससे समीक्षा करने वाले की सोच बदल जाती है। जब सुधार किसी बड़ी कंपनी के टूल से आता है, और उस पर "सुरक्षा सुधार" का लेबल लगा होता है, तो भरोसा करने का मन करता है। आप ऊपर-ऊपर से पढ़ते हैं, बात समझ में आती है, और मंज़ूरी दे देते हैं। मैंने भी ऐसा किया है। आपने भी शायद किया होगा, किसी कॉन्ट्रैक्ट, कोटेशन या रिपोर्ट के साथ।

AI की गलती गलती जैसी नहीं दिखती। वह समाधान जैसी दिखती है।

यही खतरनाक हिस्सा है। बात यह नहीं कि AI बेवकूफ है। बात यह है कि वह भरोसेमंद लगता है, और भरोसेमंद चीज़ के सामने हम ढीले पड़ जाते हैं।

समस्या AI नहीं, अनुमति है

मेरी साफ राय यह है: AI एजेंट्स से होने वाली ज़्यादातर तबाही AI की गलती नहीं होगी। वह उसकी गलती होगी जिसने AI को ज़रूरत से ज़्यादा एक्सेस दिया।

ऐसे सोचिए। अगर आप स्टॉक संभालने के लिए एक इंटर्न रखते हैं, तो उसे बैंक का पासवर्ड नहीं देते। इसलिए नहीं कि वह बेईमान है। इसलिए कि स्टॉक संभालने के लिए उसे इसकी ज़रूरत नहीं है।

AI के साथ हम हर समय इसका उल्टा करते हैं। एजेंट को मुख्य Google अकाउंट से जोड़ देते हैं। सिस्टम में एडमिन एक्सेस दे देते हैं, क्योंकि "सेटअप करना आसान है"। हर चीज़ के लिए एक ही पासवर्ड इस्तेमाल करते हैं, क्योंकि इंटीग्रेशन ने एक मांगा और वही हाथ में था।

Snowflake के मामले में असली समस्या यही थी: एक ऑटोमैटिक प्रक्रिया ज़रूरत से ज़्यादा ताकत के साथ चल रही थी, ऐसी जगह पर जहां कोई अजनबी उसके काम पर असर डाल सकता था। AI ने बस रास्ता तैयार कर दिया।

अपनी कंपनी को जोखिम में डाले बिना AI एजेंट कैसे इस्तेमाल करें

मैं यह नहीं कह रहा कि AI से दूर भागिए। मैं हर हफ्ते क्लाइंट्स के लिए एजेंट बनाता हूं। वे सच में घंटों की बचत करते हैं। एक क्लिनिक, जिसके साथ मैंने काम किया, अब ऑफिस टाइम के बाद आने वाली अपॉइंटमेंट नहीं खोता। एक ऑफिस ने ईमेल छांटने का समय आधा कर दिया।

पर कुछ नियम हैं जिन्हें मैं हमेशा मानता हूं। वे आसान हैं, और हर आकार की कंपनी के लिए काम करते हैं।

1. कम से कम एक्सेस। एजेंट सिर्फ वही देखे जो काम के लिए ज़रूरी है। कस्टमर सर्विस वाला बॉट अपॉइंटमेंट का समय देखता है। उसे कमाई के आंकड़े देखने की ज़रूरत नहीं है।

2. पढ़ने और करने को अलग रखिए। AI को पढ़ने देना एक बात है। उसे डिलीट करने, पेमेंट करने, भेजने या पब्लिश करने देना दूसरी बात है। जिन कामों को वापस नहीं लिया जा सकता, वे किसी इंसान से होकर जाएं।

3. मंज़ूरी देना काम है, क्लिक नहीं। अगर टीम का कोई सदस्य AI के सुझाव को मंज़ूरी देता है, तो उसे पता होना चाहिए कि वह किस चीज़ को मंज़ूरी दे रहा है। अगर वह समझता नहीं, तो मंज़ूरी सिर्फ दिखावा है। ऐसे में बटन न होना ही बेहतर है।

4. हर ऑटोमेशन का अपना क्रेडेंशियल। इंटीग्रेशन में अपना निजी पासवर्ड बिल्कुल नहीं। हर एजेंट की अपनी चाबी हो, जिसे कुछ गड़बड़ होने पर आप एक मिनट में रद्द कर सकें।

5. हर चीज़ का रिकॉर्ड। एजेंट का हर काम दर्ज हो: उसने क्या किया, कब किया, किस आधार पर किया। जब समस्या आएगी, और कभी न कभी आती ही है, तो आपको हफ्तों में नहीं, मिनटों में पता चल जाएगा।

इनमें से किसी भी नियम के लिए महंगा टूल नहीं चाहिए। बस किसी को एजेंट चालू करने से पहले इस पर सोचना होगा, डर लगने के बाद नहीं।

और अगर मेरे एजेंट पहले से चल रहे हैं?

एक छोटा सा टेस्ट कीजिए। आज आप जो भी ऑटोमेशन या असिस्टेंट इस्तेमाल करते हैं, हर एक के लिए तीन सवालों का जवाब दीजिए:

1. वह कौन से अकाउंट और सिस्टम एक्सेस करता है?
2. वह बिना किसी की मंज़ूरी के खुद क्या-क्या कर सकता है?
3. अगर कल वह इस एक्सेस से सबसे बुरा काम कर दे, तो नुकसान कितना होगा?

अगर तीसरे सवाल का जवाब सोचकर पेट में गुदगुदी सी हुई, तो आपको वह जगह मिल गई जिसे ठीक करना है। ज़्यादातर मामलों में सुधार का मतलब है वे अनुमतियां हटाना जो कभी इस्तेमाल ही नहीं हुईं। इसमें एक दोपहर लगती है।

एक ज़रूरी बात: Snowflake की खामी भी एक AI एजेंट ने ही ढूंढी थी, बस वह बचाव की तरफ था। यानी जिस तकनीक ने छेद बनाया, उसी ने उसे ढूंढने में मदद की। खेल "AI हां या AI ना" का नहीं है। खेल यह है कि इसे कौन इस्तेमाल कर रहा है, कितनी सावधानी से, और किसकी निगरानी में।

इससे मैं क्या सीखता हूं

अगर Snowflake जितनी बड़ी कंपनी, अपनी खास सुरक्षा टीम के बावजूद, एक ऑटोमैटिक सुधार से बना छेद नहीं पकड़ पाई, तो आपकी कंपनी से भी यह छूट सकता है। यह घबराने की वजह नहीं है। यह AI एजेंट के साथ वैसा ही बर्ताव करने की वजह है जैसा आप सिस्टम एक्सेस वाले नए कर्मचारी के साथ करते हैं: भरोसे के साथ, पर साफ सीमाओं के साथ।

AI और ज़्यादा काबिल होता जाएगा। एजेंट खुद ही और ज़्यादा काम करेंगे। इसका फायदा उन्हें मिलेगा जिन्होंने शुरू से घर ठीक से बनाया, उन्हें नहीं जिन्होंने देखने के लिए कि क्या होता है, हर चीज़ को हर चीज़ से जोड़ दिया। स्पॉइलर: आमतौर पर इसका नतीजा होता है शुक्रवार शाम 6 बजे एक घबराया हुआ फोन कॉल।

अगर आप अपने बिज़नेस में AI एजेंट्स को काम पर लगाना चाहते हैं, पर ज़मीन पर पैर टिकाकर और दरवाज़े बंद रखकर, तो मैं आपके साथ मिलकर इसे डिज़ाइन करने में मदद कर सकता हूं। मेरा काम जानिए और चलिए बात करते हैं।

AI की गलती गलती जैसी नहीं दिखती। वह समाधान जैसी दिखती है।

Snowflake में AI से बने एक सुरक्षा सुधार को टीम के एक सदस्य ने मंज़ूरी दे दी। उसी सुधार ने एक नया छेद खोल दिया, जिससे अंदरूनी क्रेडेंशियल्स तक पहुंचा जा सकता था।

समस्या AI नहीं थी। समस्या थी ज़रूरत से ज़्यादा एक्सेस देना, और बिना समझे मंज़ूरी दे देना।

अगर आपके पास WhatsApp पर, फाइनेंस में या ग्राहकों की स्प्रेडशीट में कोई एजेंट है, तो खुद से पूछिए: अगर कल वह इस एक्सेस से सबसे बुरा काम कर दे, तो नुकसान कितना होगा?

कम से कम एक्सेस, वापस न होने वाले कामों पर इंसान की नज़र, और हर चीज़ का रिकॉर्ड। इसमें ज़्यादा खर्च नहीं है। बस डर लगने से पहले सोचना पड़ता है।

मैंने इस पर ब्लॉग में लिखा है। अगर आप एजेंट्स को काम पर लगाना चाहते हैं, पर दरवाज़े बंद रखकर, तो चलिए बात करते हैं।

#आर्टिफिशियलइंटेलिजेंस #AIएजेंट #साइबरसुरक्षा #ऑटोमेशन #बिज़नेस