النقاط العمياء في الذكاء الاصطناعي: درس من بطل غو
هل سبق أن اعتمدت شيئًا سلّمه لك الذكاء الاصطناعي دون مراجعة؟ نصًا، أو جدولًا، أو ردًا على عميل. أنا فعلت ذلك. وفي أغلب المرات نجح الأمر، وهذه هي المشكلة بالضبط. لأن النقاط العمياء في الذكاء الاصطناعي حين تظهر، لا تظهر كخطأ واضح. تظهر كإجابة أنيقة وواثقة وخاطئة.
في يوليو، هزم الكوري الجنوبي شين جينسيو، الأول عالميًا في غو، برنامج KataGo، أحد أقوى البرامج الموجودة، في مباراة بأفضلية نقطتين. لمن لا يتابع: منذ 2016، حين هزم AlphaGo الأسطورة لي سيدول، انقلبت المعادلة. الآلة تفوز على الإنسان في غو. ليست مسألة نقاش، بل أمر محسوم. لهذا سافر الخبر حول العالم.
وأنا أرى أنه يقول عن عملك أكثر مما يقول عن رقعة اللعب.
النتيجة ليست الجزء المثير
نقطتا أفضلية شيء كبير في غو. القارئ المتشكك سيقول فورًا: "إذن هو لم يفز فعلًا". كلام منصف. الأفضلية موجودة تحديدًا لأن البرنامج أقوى من أي إنسان حي.
لكن انتبه لما يعنيه ذلك عمليًا. أحدهم قاس المسافة بين الإنسان والآلة، ووضع لها رقمًا، واكتشف أين ما زال الإنسان قادرًا على الفوز. هذه معلومة ثمينة. تختلف عن "الذكاء الاصطناعي أفضل" أو "الذكاء الاصطناعي خدعة". إنها خريطة.
معظم الشركات التي أتحدث معها لا تملك هذه الخريطة. إما تظن أن الذكاء الاصطناعي يحل كل شيء، أو تظن أنه لا يحل شيئًا. الموقفان يكلفان مالًا.
آلة قوية لا تعني آلة بلا ثغرة
هناك حالة من 2023 أحب أن أرويها لأنها ملموسة أكثر من أن تُتجاهل.
باحثون في FAR AI دربوا برنامجًا لغرض واحد: إيجاد عيب في KataGo. ليس للعب جيدًا. لإيجاد عيب. وجدوا نمطًا: إذا كوّنت مجموعة كبيرة ومفككة من الأحجار وحاصرتها من الخارج بطريقة معينة، فالبرنامج ببساطة لا يرى التهديد. يقيّم الوضع على أنه هادئ حتى اللحظة التي يكون فيها قد خسر.
ثم جاء الجزء المخيف. لاعب هاوٍ اسمه كيلين بلرين تعلّم المناورة وطبّقها بيديه. فاز بـ 14 مباراة من 15 أمام بوت بمستوى يفوق البشر. دون مساعدة حاسوب أثناء اللعب. هاوٍ يهزم ما لم يهزمه أحد.
البرنامج لم يضعف. بقي أفضل من الجميع في اللعب العادي. لكن كان هناك باب جانبي، ولم ينظر إليه أحد لأن الجميع كان مشغولًا بالإعجاب بالقوة الخام.
نظام قوي في المتوسط قد يكون كارثيًا في حالة بعينها. والحالة بعينها هي دائمًا ما يظهر أمام العميل.
أين يحدث هذا في شركتك
لنترجم الأمر إلى يومك، بلا رقعة لعب.
تضع ذكاءً اصطناعيًا للرد على محادثات الموقع. في 95% من الأسئلة يبلي حسنًا. وفي الـ 5% الباقية يخترع موعد تسليم غير موجود، أو يعد بشرط دفع لا تقدمه. يفعل ذلك بالثقة نفسها التي أجاب بها على الـ 95%. لا ارتجاف في الصوت.
تضع ذكاءً اصطناعيًا لتصنيف الفواتير. يعمل ببراعة حتى يصل مورّد يُصدر فواتيره بصيغة غريبة، فيبدأ برمي كل شيء في تصنيف خاطئ. بصمت. وتكتشف ذلك عند إقفال الربع.
تضع ذكاءً اصطناعيًا لفرز السير الذاتية. يتعلم من السجل. إذا كان السجل منحازًا، فسيكرر الانحياز ويمنحك تبريرًا مصاغًا بإتقان لكل اختيار.
النمط واحد دائمًا. الخطأ لا يصرخ. يتنكر في هيئة إصابة.
ما يفصل من يربح عمن يحترق
الفرق عمليًا ليس في النموذج المختار. بل في من كلّف نفسه عناء البحث عن الباب الجانبي قبل أن يجده العميل.
حين أبني أتمتة بالذكاء الاصطناعي لأحدهم، أقوم بثلاثة أمور تبدو مملة وهي التي تنقذ المشروع:
- أحدد أين لا يُسمح له بالقرار وحده. مبلغ فوق حد معين، عميل بعقد قديم، طلب إلغاء، شكوى بنبرة عدائية. هذا يذهب إلى إنسان. دائمًا. الآلة تُجهّز، والإنسان يوقّع.
- أترك أثرًا لكل شيء. كل رد يُولَّد يُسجَّل مع ما دخل وما خرج. بدون ذلك لن تستطيع حتى اكتشاف وجود مشكلة، فما بالك بإصلاحها.
- أختبر بالحالات القبيحة عمدًا. ليس بالأمثلة العشرة الجميلة. بل بالسؤال الركيك، وملف PDF المائل، والعميل الغاضب، والطلب الذي يحمل شرطين متناقضين بداخله.
هذا البند الثالث يعادل استئجار بلرين ليحاول إسقاطك. يكلف بضع ساعات. ويجنّبك نوع الخطأ الذي يتحول إلى لقطة شاشة متداولة.
"إذن الذكاء الاصطناعي لا يستحق العناء؟"
يستحق، وبقوة. أنا أكسب عيشي من بناء هذه الأشياء.
لكن المكسب الحقيقي نادرًا ما يكون في استبدال شخص كامل. بل في إزاحة المهام التي لا يحب أحد القيام بها وتلتهم اليوم. قراءة خمسين رسالة وفرز الثلاث العاجلة. تحويل تسجيل اجتماع إلى ملخص بالبنود المعلقة. تعبئة النسخة الأولى من عرض سعر ليراجعها أحدهم في خمس دقائق بدل كتابتها من الصفر في ساعة.
في هذه الحالات تكلفة الخطأ منخفضة، والمراجع البشري موجود أصلًا، بشكل طبيعي، دون عملية جديدة. هنا تُغلق الحسبة بسرعة.
المشكلة تظهر حين تقفز الشركة مباشرة إلى "الذكاء الاصطناعي يرد على العميل وحده" لأنها قرأت في منشور أن ذلك ممكن. نعم ممكن. لكن حينها تحتاج الجزء الممل، والجزء الممل هو ما لا ينشره أحد.
شيء أقوله دائمًا: إذا لم تستطع أن تشرح في جملة واحدة ما الذي يحدث حين يخطئ الذكاء الاصطناعي، فأنت لست جاهزًا بعد لوضعه أمام العميل. ليس تشاؤمًا، بل هو السؤال ذاته الذي ستطرحه قبل توظيف متدرب للرد على الهاتف.
الإنسان لم يصبح قطعة ديكور
شين جينسيو لم يفز لأنه أسرع من خادم. فاز لأنه يفهم اللعبة بطريقة تتيح له صياغة سؤال لا تعرف الآلة الإجابة عنه جيدًا.
هذا بالضبط دورك الآن. أنت تعرف عميلك، وقطاعك، والاستثناءات، والاتفاقات غير المكتوبة في أي مكان. الذكاء الاصطناعي لا يعرف شيئًا من هذا. هو يعرف الأنماط. وعملك مصنوع من الأنماط والاستثناءات معًا.
من يجيد استخدام الأداة فقط يتحول سريعًا إلى سلعة، لأن الأداة متاحة للجميع بالسعر نفسه. أما من يعرف أين تفشل الأداة ويبني العملية حول ذلك، فهذا الشخص يصبح ثمينًا. الميزة ليست في الوصول. الميزة في الحكم.
ينطبق هذا على لاعب غو، وينطبق على صاحب شركة من اثني عشر شخصًا.
إذا كنت تفكر في إدخال الذكاء الاصطناعي إلى جزء من عملياتك وتريد فعل ذلك دون أن تكتشف الثغرات بصحبة العميل، أخبرني بما لديك. أنا أبدأ عادة بأنفع سؤال على الإطلاق: ماذا يحدث يوم يخطئ هذا؟
ملخّص لـ LinkedIn
هل سبق أن اعتمدت شيئًا سلّمه لك الذكاء الاصطناعي دون مراجعة؟ أنا فعلت ذلك. ونجح الأمر في أغلب المرات، وهذه هي المشكلة بالضبط. خطأ الذكاء الاصطناعي لا يصرخ. يصل أنيقًا وواثقًا وخاطئًا. في 2023، وجد باحثون ثغرة في KataGo، أحد أقوى برامج غو في العالم. تعلّم هاوٍ هذه المناورة وفاز بـ 14 مباراة من 15 أمام بوت بمستوى يفوق البشر. دون مساعدة حاسوب. النظام لم يضعف. فقط كان هناك باب جانبي، ولم ينظر إليه أحد. في شركتك الأمر نفسه: الذكاء الاصطناعي يصيب في 95% من المحادثة، وفي الـ 5% الباقية يخترع موعد تسليم لا تعمل به، بالثقة ذاتها. إذا لم تستطع أن تشرح في جملة واحدة ما الذي يحدث حين يخطئ الذكاء الاصطناعي، فهو لم يجهز بعد للوقوف أمام العميل. تفكر في إدخال الذكاء الاصطناعي إلى جزء من عملياتك؟ أخبرني بما لديك. أنا أبدأ دائمًا بالسؤال نفسه: ماذا يحدث يوم يخطئ هذا؟ #الذكاء_الاصطناعي #الأتمتة #التقنية #الشركات_الصغيرة #الذكاء_الاصطناعي_في_الأعمال