وكلاء الذكاء الاصطناعي الذين يصلحون الكود: الخطر الخفي
تخيل أنك تستعين بشخص لتغيير قفل الباب. يغيّره، يختبره، ويعمل بشكل ممتاز. لكنه في أثناء العمل ترك نافذة الخلف مفتوحة. ولم ينظر أحد إلى النافذة، لأن الطلب كان عن الباب. هذا تقريباً ما حدث في Snowflake، شركة بيانات إيراداتها بالمليارات: وكيل ذكاء اصطناعي أصلح ثغرة أمنية، وبنفس الحركة صنع طريقاً لاختراق نظام Jira الداخلي للشركة.
التفصيلة المؤلمة أن الإصلاح جاء من أداة جيدة ومحترمة ويستخدمها كثير من المحترفين. Copilot Autofix من GitHub يقترح إصلاحات تلقائية للثغرات المكتشفة في الكود. أحدهم راجع بسرعة، وافق، ودمج. الفريق مضى قدماً وهو يظن أن الأمر حُلّ. باحثون من Wiz اكتشفوا الثغرة لاحقاً.
ما الذي حدث بالضبط
الهدف كان سكربت أتمتة في المستودع، من تلك الروتينات التي تعمل وحدها عندما يفتح أحدهم pull request أو يعلّق على issue. إنه كود لا يقرأه أحد باهتمام. لا واجهة له، ولا عميل يراه، فقط يقوم بالعمل الممل في ربط الأشياء.
الثغرة الأصلية كانت معروفة: بيانات قادمة من الخارج تدخل مباشرة إلى السكربت. الذكاء الاصطناعي أنتج إصلاحاً يعالج الحالة المحددة في التنبيه. جميل. لكن السكربت ظل يقبل مدخلات غير موثوقة عبر مسار آخر، وهذا المسار كان يملك صلاحية الوصول إلى بيانات الاعتماد التي تستخدمها الأتمتة للتواصل مع Jira. النتيجة: من يعرف كيف يكتب التعليق المناسب في مكان عام يستطيع أن يجعل روبوت Snowflake يعمل لصالحه في الداخل.
انتبه إلى الآلية، لأنها تتكرر في سياقات لا علاقة لها بالبرمجة:
- الذكاء الاصطناعي أجاب بالضبط على السؤال المطروح.
- السؤال كان ضيقاً جداً.
- لا أحد فحص المحيط، لأن التنبيه صار أخضر.
التنبيه الأخضر هو الشرير الصامت في هذه القصة. المشكلة المفتوحة تزعج، تولّد اجتماعات، وأحدهم يطالب بحلها. المشكلة المسجلة كمحلولة تختفي من الرادار إلى الأبد.
لماذا يهم هذا من لا يكتب كوداً
قد تظن أن هذا شأن فرق الهندسة. ليس كذلك. استبدل "سكربت CI/CD" بأي أتمتة تعمل في عملك اليوم.
الوكيل الذي يرد على بريد العملاء. الروبوت الذي يسحب الطلب من واتساب ويضعه في نظام ERP. الروتين الذي يقرأ الفاتورة ويسجلها في المحاسبة. الذكاء الاصطناعي الذي يفرز السير الذاتية وينقل المرشح بين المراحل. كلها لها نفس التركيبة: تستقبل بيانات من الخارج، تحتفظ ببيانات اعتماد، وتتصرف دون رقابة.
رأيت حالة أصغر بنفس الملامح. أتمتة خدمة عملاء تُنشئ تذكرة من نموذج الموقع. اكتشف أحدهم أنه يستطيع كتابة نص في حقل "الموضوع" يقرأه الذكاء الاصطناعي كتعليمات لا كمحتوى. التذكرة تحولت إلى استعلام من قاعدة بيانات العملاء، والجواب عاد إلى الشخص في بريد التأكيد. لم يخترق أحد شيئاً. الباب كان مفتوحاً بحكم التصميم، والذكاء الاصطناعي كان مؤدباً أكثر من اللازم ليشك.
الأتمتة لا تخطئ قليلاً. إنها تخطئ بسرعة وفي صمت.
النقطة العمياء هي ذكاء اصطناعي يراجع ذكاءً اصطناعياً
هنا رأيي القوي في هذا المقال: أخطر نمط ينتشر في 2026 هو ذكاء اصطناعي يعتمد عمل ذكاء اصطناعي آخر.
صار السير شائعاً. وكيل يكتب. وكيل آخر يراجع. وثالث يشغّل الاختبارات التي كتبها الأول. على الورق يبدو الأمر صارماً. عملياً، الثلاثة يتشاركون نفس النقطة العمياء، لأنهم قرأوا المشكلة من نفس الزاوية. الأمر أشبه بطلب مراجعة مجموع الفاتورة من ثلاثة أشخاص بينما الخطأ في قائمة الطعام نفسها.
وهناك أثر نفسي مصاحب. حين يصل نص الإصلاح مكتوباً بشكل جيد، بشرح واضح وتبرير مقنع، يراجع الإنسان أقل. الـ pull request القادم من الذكاء الاصطناعي يبدو أكثر موثوقية من ذلك القادم من متدرب، حتى حين يكون أسوأ. الثقة الناتجة عن صياغة جيدة هي أرخص شيء اليوم.
لا أقول اتركوا الأدوات. أستخدم وكلاء ذكاء اصطناعي كل يوم وهم يوفرون علي ساعات حقيقية. أقول إن المراجعة يجب أن تأتي من زاوية مختلفة عن التي أنتجت التغيير.
كيف تستخدم وكلاء الذكاء الاصطناعي دون هذه المفاجآت
ما ينفع ليس معقداً، بل ممل. والممل هو تحديداً ما يتخطاه الناس.
افصل من يستطيع التنفيذ عمن يستطيع الكلام فقط. إذا كان وكيل يقرأ طلبات العملاء، فلا يجب أن يملك نفس بيانات الاعتماد التي تنشئ مستخدمين في النظام. حسابان، مستويان. هذا يحل نصف الحوادث الموجودة.
امنح أقل صلاحية ممكنة، لا الأكثر راحة. أتمتة Snowflake كانت تملك وصولاً واسعاً إلى Jira لأنه كان الأسهل في يوم ما. كل صلاحية واسعة تقريباً بدأت كتوفير للوقت في عصر مزدحم.
تعامل مع أي مدخل خارجي كمشتبه به، دائماً. تعليق مستخدم، نموذج، بريد، رسالة واتساب، اسم ملف. لا شيء من هذا تعليمات. إنه محتوى. إذا لم تميز أتمتتك بين الاثنين، فستطيع أول غريب مؤدب يظهر.
اطلب السياق، لا الإصلاح فقط. حين يقترح وكيل تغييراً، السؤال المفيد ليس "هل هذا يحل المشكلة؟". بل "ما الذي يلمس هذا الملف أيضاً، وما الذي صار هذا التغيير يسمح به ولم يكن مسموحاً من قبل؟".
ضع إنساناً عند نقطة المال والبيانات الحساسة. ليس في كل شيء. في التحويلات، تسجيل الموردين، الإرسال الجماعي، الحذف. الباقي يمكن أن يعمل وحده.
راجع ما صار أخضر بالفعل. مرة كل ثلاثة أشهر، افتح ما سجلته الأتمتة كمحلول وانظر إليه من جديد. إنها أرخص عملية تدقيق موجودة ولا أحد يقوم بها.
الحجم الصحيح لعدم الثقة
لا شيء من هذا يعني الخوف. يعني المعايرة.
Snowflake ليست شركة مهملة. لديها فريق أمن، ولديها إجراءات، ولديها أدوات جيدة. ومع ذلك، إصلاح تلقائي فتح باباً جديداً. إذا حدث هناك، فسيحدث في عمليتك المكونة من 20 شخصاً، مع فارق أن أحدهم هناك اكتشف الأمر قبل أن يتحول إلى خبر سيئ.
الطريقة الصحية للتفكير في وكيل الذكاء الاصطناعي هي اعتباره موظفاً جديداً، سريعاً، لا يتعب، وحرفياً. سينفذ ما طلبته بالضبط، في الموعد، دون شكوى. ولهذا السبب تحديداً يجب أن يكون الحذر في الطلب وفي حدود الصلاحيات، لا في الأمل بأن يستخدم حسه السليم. الحس السليم هو الشيء الوحيد الذي لا يملكه.
الأتمتة الجيدة ليست تلك التي تفعل أشياء أكثر وحدها. إنها التي تعرف أين تتوقف وتنادي شخصاً.
إذا كنت تبني أتمتة بالذكاء الاصطناعي في عملك وتريد من يراجع التصميم قبل أن يتحول إلى مشكلة، ألق نظرة على طريقة عملي. نصف ساعة من الحديث توفر عادة الكثير من الصداع لاحقاً.
ملخّص لـ LinkedIn
وكيل ذكاء اصطناعي في Snowflake أصلح ثغرة أمنية، وفي نفس الـ commit فتح الباب لاختراق نظام Jira الداخلي للشركة. الإصلاح كان صحيحاً. المشكلة أن السؤال كان ضيقاً جداً. التنبيه صار أخضر، لا أحد نظر إلى ما حوله، والمشكلة التي تُعتبر محلولة تختفي من الرادار إلى الأبد. هذا ليس شأن فرق الهندسة فقط. استبدل "سكربت CI/CD" بالروبوت الذي يقرأ واتساب ويُدخل الطلبات في نظام ERP. نفس التركيبة: يستقبل بيانات من الخارج، يحتفظ ببيانات اعتماد، ويتصرف دون رقابة. أخطر نمط في 2026 هو ذكاء اصطناعي يعتمد عمل ذكاء اصطناعي آخر. ثلاثة وكلاء يراجعون مجموع الفاتورة بينما الخطأ في قائمة الطعام نفسها. وكيل الذكاء الاصطناعي موظف جديد، سريع وحرفي. الحس السليم هو الشيء الوحيد الذي لا يملكه، لذا يجب أن يكون الحذر في الطلب وفي حدود الصلاحيات. إذا كنت تبني أتمتة بالذكاء الاصطناعي في عملك، يستحق الأمر مراجعة التصميم قبل أن يتحول إلى مشكلة. تواصل معي. #الذكاء_الاصطناعي #الأتمتة #أمن_المعلومات #تقنية #أعمال