الموافقة التلقائية: الخطأ المكلف في الثقة بالذكاء الاصطناعي

هل ضغطت يوماً على "موافق" دون أن تقرأ؟ كلنا فعلنا ذلك. تخيّل الآن أن تفعله خمس عشرة مرة في اليوم، بينما يقترح الذكاء الاصطناعي تغييراً في السعر، أو في بيانات عميل، أو في رسالة تصل إلى المشتري مباشرة. هنا تبدأ الأتمتة بأن تكلّفك غالياً.

صدرت دراسة شملت نحو 40 ألف تشغيل لوكلاء ذكاء اصطناعي، حيث كان على شخص أن يوافق على كل أمر قبل تنفيذه. النتيجة: واحد من كل ثلاثة إجراءات خطرة مرّ دون أن ينتبه أحد. ليس لأن الناس مهملون، بل لأن الموافقة صارت روتيناً، والروتين يطفئ الانتباه.

هذا يهمّك حتى لو لم تسمع يوماً بمصطلح "وكيل ذكاء اصطناعي". إذا كنت تستخدم الذكاء الاصطناعي للرد على العملاء أو إعداد عروض أسعار أو تحديث جدول أو إرسال رسائل، فأنت توافق تلقائياً على شيء ما بالفعل.

لماذا نتوقف عن النظر

تتحول الموافقة إلى مسرحية حين تجتمع ثلاثة أمور:

• الذكاء الاصطناعي يصيب في 90% من الحالات. تتعلم أنه يصيب فتخفّض حذرك.
• كل شيء يبدو متشابهاً على الشاشة. تغيير فاصلة وتغيير سعر يبدوان سواء.
• هناك طابور. عشرون موافقة معلّقة وخمس دقائق فارغة لا تنتج قراءة متأنية.

المشكلة ليست في أن الذكاء الاصطناعي يخطئ، بل في أنه يخطئ قليلاً بما يكفي لتثق به، وبقسوة كافية ليؤلم حين يحدث.

الأتمتة الجيدة ليست التي تطلب موافقات أقل، بل التي تجعل كل موافقة تستحق العناء.

ما الذي يحدث عملياً

حالة بسيطة: متجر يستخدم الذكاء الاصطناعي للرد على طلبات التسعير عبر واتساب. كان يعمل جيداً. في يوم سأل عميل عن صنف خارج قائمة الأسعار، فاخترع النظام سعراً أقل بـ 40%. وافق الموظف لأن الردود الخمسين السابقة كانت صحيحة. التزم المتجر بالسعر تفادياً للخلاف. هامش يوم كامل ضاع في رسالة واحدة.

وحالة أخرى: شركة سمحت للذكاء الاصطناعي بتحديث حالة الطلبات. بدأ يضع علامة "تم التسليم" على كل شحنة فيها حركة تتبع. لم يراجع أحد لأسبوعين. وحين اشتكى العملاء كان السجل قد اختلط، وقضى الفريق أياماً في إعادة بنائه.

في الحالتين لم يكن الذكاء الاصطناعي غبياً. فعل ما يسمح به السياق. الناقص كان المكابح.

افصل العمل حسب المخاطر

الحل ليس مراجعة كل شيء. مراجعة كل شيء تعادل عدم المراجعة، لأنها تُتعب فتعود إلى الوضع التلقائي. الحل هو التقسيم حسب المخاطر.

اصنع هذه القائمة لعمليتك، تحتاج عشرين دقيقة:

• قابل للتراجع ورخيص: الرد على سؤال شائع، تحديد موعد، وضع علامة في نظام العملاء. اتركه يعمل وحده.
• قابل للتراجع ومكلف: إرسال عرض، تغيير موعد تسليم، تغيير المسؤول. اتركه يعمل، لكن مع إشعار وسجل يسهل التراجع عنه.
• غير قابل للتراجع: السعر، الخصم، الإلغاء، أي شيء يخرج باسم شركتك، أي شيء يمس المال. موافقة حقيقية في كل مرة.

لاحظ أن معظم المهام تقع في المجموعة الأولى. لذلك يمكنك أتمتة الكثير وتنام مرتاحاً.

اجعل الخطأ ظاهراً

الموافقة التلقائية تحدث لأن كل شيء يبدو متشابهاً. فاكسر هذا التشابه:

• أبرز ما تغيّر، لا النص كله. إذا غيّر النظام رقماً، فليصرخ الرقم على الشاشة.
• ضع سقفاً. الخصم حتى 10% يمر مباشرة، وما فوقه يتوقف وينادي إنساناً. رقم واحد بسيط يحل نصف المشكلة.
• اجمع موافقات المخاطر المنخفضة في ملخص يومي، ودع موافقات المخاطر العالية تصل واحدة تلو الأخرى. الطابور المختلط طابور مُهمَل.
• احتفظ بسجل. ليس لمحاسبة أحد، بل لتجيب عن سؤال "ماذا فعل أمس؟" في ثلاثين ثانية.

لا شيء من هذا معقد. إنه منطق موظف الكاشير الذي يمنح خصماً حتى حد معين ثم ينادي المدير. كنا نعرف هذا قبل وجود الذكاء الاصطناعي.

الثقة تُقاس ولا تُحسّ

اسأل من يستخدم الأتمتة: "من كل عشرة اقتراحات، كم واحداً كنت ستغيّره؟" إذا لم يعرف الجواب، فلا أحد ينظر.

الطريقة الصادقة للقياس هي العينة. مرة كل أسبوع، خذ عشرة إجراءات نفّذها النظام وحده وراجعها بهدوء، حتى الموافق عليها. خلال شهر ستعرف إن كان بإمكانك إرخاء اللجام أو شدّه. بدون ذلك ثقتك مجرد شعور.

وهناك أثر جانبي جيد: من يراجع يبدأ برؤية الأنماط. "يخطئ دائماً حين يكتب العميل بحروف كبيرة." ملاحظة كهذه أثمن من أي إعداد جديد.

ابدأ صغيراً عن قصد

إذا كنت تبني هذا الآن، قاوم رغبة تشغيل كل شيء دفعة واحدة. اختر عملية واحدة، الأكثر مللاً وتكراراً لديك. دع الذكاء الاصطناعي ينفذها أسبوعين مع مراجعة حقيقية. ثم وسّع.

مكسب الأتمتة لا يختفي إن تقدمت ببطء. ما يختفي هو فرصة اكتشاف مشكلة كبيرة قبل أن تتحول إلى خسارة.

الذكاء الاصطناعي عامل ممتاز للمهام المتكررة وقاضٍ سيئ للاستثناءات. مهمتك أن تصمم العملية بحيث لا يلمس استثناءً إلا وبجانبه إنسان.

إذا أردت أتمتة لا تتحول فيها الموافقة إلى مسرحية، تواصل معي لنصمّمها معاً.