ماذا تعلّمنا هزيمة الذكاء الاصطناعي في لعبة غو عن الأعمال
هل سبق أن اعتمدت تقريراً كتبه الذكاء الاصطناعي دون مراجعة الأرقام؟ أنا فعلت. ساءت النتيجة مرة واحدة، وكانت كافية لأغيّر طريقة عملي. هذا المقال عن اللحظة التي يخطئ فيها الذكاء الاصطناعي دون أن ينتبه أحد، وعن مباراة غو تشرح ذلك أفضل من أي ورقة بحثية.
في يوليو، هزم الكوري الجنوبي شين جينسو، الأول عالمياً في غو، برنامج KataGo، أحد أقوى برامج غو الموجودة، وهو يلعب بحجرين كأفضلية بداية. الأفضلية في غو تعني ميزة في البداية. حصل على الميزة وفاز. هذا ليس إنساناً "يهزم الآلة" نداً لند، ومن يبيع هذه الرواية يبالغ. لكنه معطى مثير للاهتمام، لأن الرواية منذ 2016 كانت مختلفة: الذكاء الاصطناعي تجاوز الإنسان في غو ولم يلتفت للوراء أبداً.
ما حدث فعلاً في المباراة
يستحق الأمر أن نفصل الحقيقة عن العنوان.
ما زال KataGo أقوى من أي إنسان في مباراة بلا أفضلية. هذا لم يتغيّر. ما تغيّر أن أفضل لاعبي العالم أمضوا تسع سنوات يدرسون مباريات الذكاء الاصطناعي، ويستوعبون أسلوبه، ويتعلمون أين يتردد. شين لم يفز بالقوة الغاشمة. فاز لأنه يعرف خصمه.
وهناك سابقة أغرب. في 2023، فاز باحث اسمه كيلين بيلرين، لاعب هاوٍ بمستوى جيد لكن غير استثنائي إطلاقاً، على نسخ متقدمة من KataGo في خمس عشرة مباراة من أصل ست عشرة. ليس لأنه لعب أفضل. بل لأن فريقاً بحثياً درّب برنامجاً خصماً هدفه الوحيد البحث عن ثغرات في الذكاء الاصطناعي، ووجد نمطاً محدداً لا يراه البرنامج، ونفّذ بيلرين ذلك النمط يدوياً.
هاوٍ فاز على ذكاء اصطناعي يفوق البشر بحيلة من ثلاث حركات. لم يلعب الذكاء الاصطناعي بشكل أسوأ في ذلك اليوم. كانت تلك الثغرة موجودة فيه دائماً. لا أحد بحث عنها.
لماذا يهم هذا من لم يلعب غو قط
غو هي أنظف بيئة موجودة لاختبار الذكاء الاصطناعي. قواعد ثابتة، معلومات كاملة، نتيجة موضوعية. لا عميل يغيّر رأيه، ولا جدول بيانات مملوء بشكل خاطئ، ولا مورّد يرد عبر واتساب.
إذا كانت للذكاء الاصطناعي نقاط عمياء في تلك البيئة، فتخيّل في بيئتك.
شركتك ليست رقعة لعب. إنها مكان يُكتب فيه رقم السجل التجاري خطأً، ويسجّل فيه البائع الطلب في دفتر، وتحمل قاعدة الخصم استثناءً لا يعرفه سوى ماركيو من قسم المالية. أي ذكاء اصطناعي تضعه هناك سيعمل فوق هذه الفوضى.
الذكاء الاصطناعي لا يخطئ حيث تنظر. يخطئ حيث لم يفكر أحد بالنظر.
النقطة العمياء واحدة دائماً: المتوسط مقابل الحافة
نموذج الذكاء الاصطناعي آلة أنماط. يتعلّم ما يتكرر كثيراً ويصبح ممتازاً فيه. المشكلة تسكن في الحالة النادرة.
رأيت هذا عملياً في مشروع لتصنيف الطلبات. كان النظام يفصل الطلبات حسب نوع الخدمة، ويصيب 96% من المرات. رقم جميل للعرض. لكن الـ 4% الباقية لم تكن عشوائية: كانت كلها تقريباً طلبات كبيرة، بنطاق مختلط، من العملاء الأكثر إنفاقاً. الحالات الصعبة كانت بالضبط الحالات المكلفة.
لم ينتبه أحد لأن لوحة المتابعة كانت تعرض نسبة الإصابة الإجمالية. تبدو 96% ممتازة حتى تكتشف أن الأخطاء متركزة تحديداً حيث يؤلم.
هذا هو درس غو. كان لدى KataGo نسبة فوز هائلة ضد البشر. وكان لديه في الوقت نفسه خلل بنيوي يستطيع هاوٍ استغلاله. الأمران كانا صحيحين معاً.
"لكن ألن يتحسّن الذكاء الاصطناعي ويحل هذا؟"
سيتحسّن، نعم. وهنا بالضبط يكمن الفخ.
كل نسخة جديدة تسدّ الثغرات المعروفة. بعد أن صارت ثغرة بيلرين علنية، درّب فريق KataGo النموذج ضد ذلك الهجوم تحديداً فتوقّف عن العمل. ممتاز. لكن الفريق البحثي نفسه عاد لاحقاً ووجد ثغرات جديدة، مختلفة.
هذا ليس خللاً يُصلَح مرة واحدة. إنه سمة في طريقة تعلّم هذه الأنظمة. تغلق باباً، فيظهر باب آخر.
هذا ليس سبباً لعدم استخدام الذكاء الاصطناعي. إنه سبب للتوقف عن معاملة "الذكاء الاصطناعي صار أفضل الآن" وكأنها إجابة عن سؤال "كيف أعرف أنه محقّ في هذه الحالة". هذان سؤالان مختلفان.
ماذا تفعل عملياً في شركتك
لا تحتاج لجنة حوكمة ولا سياسة من أربعين صفحة. تحتاج أربع عادات.
افصل القرارات حسب تكلفة الخطأ. إن أخطأ الذكاء الاصطناعي في اقتراح عنوان بريد إلكتروني، تعيد الكتابة وتمضي. وإن أخطأ في اعتماد ائتمان، أو تصنيف فاتورة، أو الرد على عميل غاضب، فالضرر مختلف. أتمِت المجموعة الأولى بأريحية. وفي الثانية، أبقِ إنساناً في المسار.
قِس الخطأ حيث يؤلم، لا في المتوسط. توقّف عن النظر إلى نسبة الإصابة العامة فقط. قسّمها حسب الشريحة: حسب حجم العميل، ونوع الطلب، والقيمة. مشروع الـ 96% ذاك صار مفيداً يوم بدأنا نقيس الطلبات التي تتجاوز عشرة آلاف بشكل منفصل.
دع النظام يقول إنه لا يعرف. أسوأ ذكاء اصطناعي هو الذي يجيب بثقة كاملة عن شيء لا يعرفه. التصميم الجيد يحتوي مخرجاً: حين تهبط الثقة تحت حد معيّن، تذهب الحالة إلى طابور بشري. تنفيذه بسيط ويوفّر صداعاً أكثر من أي ضبط دقيق للنموذج.
هاجم نظامك بنفسك مرة كل ربع سنة. خذ عشرين حالة غريبة فعلاً، تلك التي يتحدث عنها فريق خدمة العملاء في استراحة القهوة، وشغّلها على الذكاء الاصطناعي. هذا ما فعلته FAR AI مع KataGo. لا تحتاج مختبر أبحاث، تحتاج ساعتين وشخصاً يعرف استثناءات العمل.
التفصيل الذي لا يعلّق عليه أحد تقريباً
في قصة شين جزء أراه أكثر إثارة للاهتمام من الفوز نفسه.
هو يتدرب مع الذكاء الاصطناعي منذ سنوات. تغيّر أسلوبه بسبب ذلك. كثير من الحركات التي صارت اليوم معياراً بين المحترفين جاءت من مباريات آلات لم يفهمها أحد في 2017. أي أن: الإنسان الذي هزم الذكاء الاصطناعي هو إنسان جعله الذكاء الاصطناعي أقوى.
هذه هي النسخة الواقعية من المستقبل، وهي أقل دراماتيكية بكثير من الطرفين اللذين تقرأ عنهما. لا الآلة استبدلت اللاعب، ولا اللاعب تجاهل الآلة. استخدم الآلة حتى عرفها جيداً بما يكفي ليعرف أين تتعثّر.
هكذا أفكّر حين أبني أتمتة لعميل. الذكاء الاصطناعي يتولى الحجم، والعمل المتكرر، والنسخة الأولى. والإنسان يتولى الحكم، والحالة الملتوية، والقرار الذي يحمل اسماً بجانبه. من يعرف أين يرسم هذا الخط يربح من الجهتين. ومن يسلّم كل شيء للآلة ينتهي به الأمر مكتشفاً النقطة العمياء بأغلى طريقة: بشكوى عميل.
إن كنت تُدخل الذكاء الاصطناعي في عملية ما داخل شركتك ولا تعرف تماماً أين قد يخذلك، فالأفضل أن نتحدث قبل أن تكتشف ذلك عملياً. ألقِ نظرة على طريقة عملي.
ملخّص لـ LinkedIn
سبق أن اعتمدت تقريراً كتبه الذكاء الاصطناعي دون مراجعة الأرقام. ساءت النتيجة مرة واحدة، وكانت كافية. في يوليو، هزم لاعب غو الأول عالمياً برنامج KataGo مع أفضلية بداية. وقبل ذلك، في 2023، فاز لاعب هاوٍ بـ 15 مباراة من أصل 16 ضد الذكاء الاصطناعي نفسه بحيلة من ثلاث حركات. لم يسوء الذكاء الاصطناعي في ذلك اليوم. كانت الثغرة موجودة دائماً، لكن لا أحد بحث عنها. رأيت هذا في مشروع حقيقي: دقة 96% في تصنيف الطلبات. رقم جميل. لكن نسبة الخطأ البالغة 4% كانت تحديداً في الطلبات الكبيرة، من العملاء الأكثر إنفاقاً. الذكاء الاصطناعي لا يخطئ حيث تنظر. يخطئ حيث لم يفكر أحد بالنظر. قِس الخطأ حسب الشريحة، لا حسب المتوسط. ومرة كل ربع سنة، خذ عشرين حالة غريبة فعلاً وأدخلها في نظامك. ساعتان من العمل، وصداع كثير تتجنّبه. إن كنت تُدخل الذكاء الاصطناعي في عملية ما ولا تعرف أين قد يخذلك، تواصل معي قبل أن تكتشف ذلك من شكوى عميل. #الذكاء_الاصطناعي #الأتمتة #الإدارة #التحول_الرقمي