AI एजेंट्स ने RubyGems पर हमला किया: इससे क्या सीख मिलती है

सोचिए, आपको पता चले कि किसी ने आधी रात को आपकी दुकान का ताला परखा। बिना पूछे और बिना बताए। बाद में पता चलता है कि वो चोर नहीं था। वो एक मशहूर कंपनी का रोबोट था, जो "बस जांच कर रहा था"। क्या आप चैन से सो पाएंगे? rubyhack.ai नाम की साइट का दावा है कि कुछ ऐसा ही हुआ। उसके मुताबिक OpenAI के AI एजेंट्स ने RubyGems पर हमला किया और पहले किसी को बताया तक नहीं। अगर आप अपने बिज़नेस में AI एजेंट्स इस्तेमाल करते हैं या करने की सोच रहे हैं, तो इस कहानी में आपके लिए सीधी सीख है।

RubyGems क्या है और ये आपके लिए क्यों मायने रखता है

शायद आपने RubyGems का नाम कभी नहीं सुना। कोई बात नहीं। इसे सॉफ़्टवेयर के तैयार पुर्ज़ों का एक बड़ा गोदाम समझिए।

जो लोग Ruby भाषा में प्रोग्रामिंग करते हैं, वे सब कुछ शुरू से नहीं लिखते। वे इस गोदाम से पुर्ज़े उठाते हैं। एक ईमेल भेजने के लिए, दूसरा PDF बनाने के लिए, तीसरा कार्ड से पेमेंट लेने के लिए। Shopify और GitHub जैसी कंपनियां Ruby पर बनी हैं। हज़ारों छोटे सिस्टम भी।

अब ज़रा सोचिए। अगर कोई इस गोदाम से छेड़छाड़ करता है, तो वो उस पर टिकी हर चीज़ से छेड़छाड़ करता है। ये किसी एक वेबसाइट पर हमला नहीं है। ये पूरी सप्लाई चेन पर हमला है।

इसे समझने के लिए प्रोग्रामिंग जानना ज़रूरी नहीं। अगर किसी बेकरी का आटा सप्लायर दूषित हो जाए, तो दिक्कत सिर्फ़ आटे की नहीं है। दिक्कत ओवन से निकलने वाली हर ब्रेड की है।

अब तक क्या पता है

मैं ईमानदारी से कहूंगा: मेरे पास सारी जानकारी नहीं है, और कहानी अभी सामने आ रही है। rubyhack.ai ने आरोप लगाया है कि OpenAI से जुड़े एजेंट्स ने बिना पहले बताए RubyGems के इंफ्रास्ट्रक्चर पर आक्रामक कार्रवाई की। हर पक्ष का अपना वर्ज़न होगा। किसी को दोषी ठहराने से पहले इस पर नज़र रखना बेहतर है।

लेकिन मेरी दिलचस्पी इसमें नहीं है कि Twitter पर माफ़ी कौन मांगेगा। मेरी दिलचस्पी पैटर्न में है।

सुरक्षा की दुनिया में एक पुराना और सीधा नियम है। पेनिट्रेशन टेस्ट सिर्फ़ लिखित इजाज़त से होता है। दायरा, समय और किसे बताया जाएगा, ये सब पहले तय होता है। जो बिना तय किए हमला करता है, भले ही नीयत अच्छी हो, वो हमला ही कर रहा है। बस।

जब काम AI एजेंट करता है, तो ये नियम और कमज़ोर हो जाता है। एजेंट नहीं पूछता "क्या मैं कर सकता हूं?"। उसे एक लक्ष्य मिलता है और वो उसके पीछे चल पड़ता है। अगर किसी ने बाड़ नहीं लगाई, तो उसे पता ही नहीं कि बाड़ होती भी है।

AI एजेंट ठीक वही करता है जिसकी आपने इजाज़त दी है। उसमें वो भी शामिल है जिसे मना करना आप भूल गए।

AI एजेंट्स सुरक्षा का खेल क्यों बदल देते हैं

कुछ समय पहले तक ऑटोमेशन का अंदाज़ा लगाया जा सकता था। आप एक फ़्लो बनाते थे: "जब ऑर्डर आए, तो ईमेल भेजो और स्प्रेडशीट अपडेट करो।" वो सिर्फ़ यही करता था। हमेशा।

AI एजेंट्स कुछ और हैं। आप एक लक्ष्य देते हैं और वो खुद कदम तय करता है। वो साइट्स खोल सकता है, कमांड चला सकता है, मैसेज भेज सकता है, अंदाज़े परख सकता है। यही उन्हें काम का बनाता है। और जब कोई नज़र नहीं रख रहा, तो यही उन्हें ख़तरनाक बनाता है।

एक असली घटना से अंदाज़ा लगता है। 2024 में Andres Freund नाम के एक इंजीनियर ने देखा कि एक मशीन का रिमोट लॉगिन आम से आधा सेकंड धीमा है। उन्होंने जांच की और xz में छिपा एक बैकडोर पकड़ा। xz एक ऐसा पुर्ज़ा है जो दुनिया के लगभग हर Linux सर्वर में इस्तेमाल होता है। किसी ने सालों तक मेंटेनर्स का भरोसा जीता था, सिर्फ़ उसे वहां डालने के लिए। ये किस्मत से पकड़ा गया। और एक अकेले इंसान की ज़िद से।

अब इस समीकरण में AI एजेंट्स को जोड़िए। जो काम इंसानी धैर्य से सालों में हुआ, उसे बड़े पैमाने पर, एक साथ, ऐसी मशीनें आज़मा सकती हैं जो थकती नहीं। हमले की तरफ़ से भी और बचाव की तरफ़ से भी।

मेरी राय, बिना लाग-लपेट के: एजेंट्स लॉन्च करने की दौड़ उन पर ब्रेक लगाने की दौड़ से कहीं तेज़ चल रही है। और बिल अक्सर वो भरता है जो आख़िरी छोर पर है। वो नहीं जिसने एजेंट बनाया।

अपने बिज़नेस में AI एजेंट्स कैसे इस्तेमाल करें, बिना सुर्ख़ियों में आए

इनमें से कोई भी बात AI से भागने की वजह नहीं है। मैं हर दिन इसी पर काम करता हूं और असली फ़ायदा देखता हूं। ग्राहक सेवा जो सेकंडों में जवाब देती है। रिपोर्ट जो खुद बन जाती है। प्रपोज़ल जो मिनटों में तैयार हो जाता है। दिक्कत कभी टूल में नहीं होती। दिक्कत टूल को बिना मालिक के छोड़ देने में होती है।

जब मैं किसी क्लाइंट के लिए एजेंट बनाता हूं, तो कुछ नियम मानता हूं। ये किसी भी साइज़ की कंपनी पर लागू होते हैं:

• कम से कम परमिशन। अगर एजेंट को सिर्फ़ कैलेंडर पढ़ना है, तो उसे कैलेंडर मिटाने का एक्सेस नहीं मिलता। बात साफ़ लगती है। लगभग कोई नहीं करता।
• गंभीर कामों के लिए इंसानी मंज़ूरी। पैसे भेजना, डेटा मिटाना, ग्राहकों को थोक में मैसेज भेजना: एजेंट तैयारी करता है, इंसान मंज़ूरी देता है।
• सब कुछ रिकॉर्ड होता है। एजेंट का हर काम एक हिस्ट्री में एक लाइन बनता है। अगर कुछ गड़बड़ हो, तो आपको पता होता है कि क्या हुआ, कब हुआ और क्यों।
• लिखित दायरा। एजेंट के पास एक साफ़ लिस्ट होती है कि वो किन चीज़ों को छू सकता है। उसके बाहर वो रुकता है और बताता है।

एक व्यावहारिक उदाहरण। एक क्लाइंट को ऐसा एजेंट चाहिए था जो WhatsApp पर ग्राहकों को जवाब दे और सही लगे तो डिस्काउंट दे। पहले वर्ज़न में कोई सीमा नहीं थी। उसने एक ग्राहक को 40% डिस्काउंट दे दिया, जिसने बड़ी मीठी भाषा में शिकायत की थी। एजेंट बहुत शालीन था। दूसरों के पैसे के मामले में कुछ ज़्यादा ही दरियादिल। हमने 10% की सीमा लगाई। उससे ऊपर कुछ भी हो, तो मंज़ूरी के लिए जाने लगा। एक दोपहर में समस्या हल हो गई।

बहुत सी इम्प्लीमेंटेशन में इसी तरह की बाड़ की कमी है। और RubyGems का मामला जो इशारा करता है, उसके हिसाब से ये कमी अरबों डॉलर की कंपनियों में भी है।

पारदर्शिता सेवा का हिस्सा है, कोई छोटी बात नहीं

इस कहानी में एक दूसरी बात है जो मुझे हमले से भी ज़्यादा परेशान करती है: चुप्पी।

अगर आपके एजेंट ने कुछ ऐसा किया जिसका असर किसी और पर पड़ा, तो उसे जानने का हक़ है। ये बात किसी बड़ी टेक कंपनी पर भी लागू होती है और मोहल्ले की दुकान पर भी। सोचिए, आपका कस्टमर सर्विस एजेंट 300 ग्राहकों को डिलीवरी की गलत तारीख़ भेज दे। सबसे बुरी बात गलती नहीं है। सबसे बुरी बात ये है कि ग्राहक हफ़्तों बाद खुद पता लगाए कि आपको मालूम था और आप चुप रहे।

व्यवहार में इसका मतलब तीन बातें हैं:

1. ग्राहकों को बताइए कि वे AI से बात कर रहे हैं।
2. एजेंट की गलती के लिए एक सीधा प्लान रखिए: कौन पता लगाएगा, कौन ठीक करेगा, कौन बताएगा।
3. ऐसे AI सप्लायर चुनिए जो बताते हैं कि उनके एजेंट्स क्या करते हैं। सिर्फ़ ये नहीं कि वे क्या वादा करते हैं।

भरोसा बनने में सालों लगते हैं और टूटने में एक स्क्रीनशॉट। AI एजेंट्स के साथ वो स्क्रीनशॉट सुबह तीन बजे बन सकता है, जब कोई जाग भी नहीं रहा।

कल से क्या करें

अगर आप पहले से कोई ऑटोमेशन या एजेंट इस्तेमाल करते हैं, तो इस हफ़्ते एक छोटी सी एक्सरसाइज़ कीजिए। वो जो कुछ भी एक्सेस कर सकता है, उसकी लिस्ट बनाइए। फिर मार्क कीजिए कि उसे असल में क्या चाहिए। दोनों लिस्ट का फ़र्क ही आपका जोखिम है।

अगर आप अभी इस्तेमाल नहीं करते, तो बढ़िया। आप सही तरीके से शुरुआत कर सकते हैं। बाड़ के साथ, हिस्ट्री के साथ, और अहम फ़ैसलों पर इंसान के कंट्रोल के साथ। बाद में ठीक करने से पहले ही सही बनाना सस्ता पड़ता है।

RubyGems के मामले पर अभी बहुत तकनीकी बहस होगी। बिज़नेस चलाने वालों के लिए सीख पहले से साफ़ है: अच्छा एजेंट वो है जिसकी सीमा हो, रिकॉर्ड हो और कोई ज़िम्मेदार इंसान हो।

अगर आप बात करना चाहते हैं कि अपनी कंपनी में AI एजेंट्स को कैसे काम पर लगाएं, बिना ऐसे दरवाज़े खोले जिनके होने का आपको पता भी नहीं था, तो मुझे बेहतर जानिए।

कहा जा रहा है कि OpenAI के AI एजेंट्स ने पहले किसी को बताए बिना RubyGems पर हमला किया।

पूरी कहानी की जांच अभी चल रही है। लेकिन बिज़नेस चलाने वालों के लिए सीख पहले से साफ़ है।

AI एजेंट ठीक वही करता है जिसकी आपने इजाज़त दी है। उसमें वो भी शामिल है जिसे मना करना आप भूल गए।

मैंने ये असल में होते देखा है। एक WhatsApp एजेंट ने 40% डिस्काउंट दे दिया, क्योंकि ग्राहक ने बड़ी मीठी भाषा में शिकायत की थी। हमने 10% की सीमा लगाई और उससे ऊपर इंसानी मंज़ूरी ज़रूरी कर दी। एक दोपहर में मामला सुलझ गया।

अच्छे एजेंट के पास कम से कम परमिशन होती है, उसके हर काम का रिकॉर्ड होता है और उसका कोई ज़िम्मेदार इंसान होता है।

इस हफ़्ते ये टेस्ट करके देखिए। आपका ऑटोमेशन जो कुछ भी एक्सेस करता है, उसकी लिस्ट बनाइए। फिर मार्क कीजिए कि उसे असल में क्या चाहिए। दोनों लिस्ट का फ़र्क ही आपका जोखिम है।

अगर आप शुरू से ही AI एजेंट्स को सही तरीके से बनाना चाहते हैं, तो मुझसे बात कीजिए।

#आर्टिफिशियलइंटेलिजेंस #AIएजेंट्स #साइबरसुरक्षा #ऑटोमेशन #बिज़नेस