وكلاء الذكاء الاصطناعي المحليون: هل يستحقون العناء؟
فتحت فاتورة واجهة الذكاء الاصطناعي في نهاية الشهر وأصابتك صدمة. لم يكن مشروعًا كبيرًا. كان روبوتًا صغيرًا يقرأ الرسائل ويصنّفها ويرد عليها. يعمل طوال اليوم، وكل قراءة تكلف بضعة سنتات. اضرب ذلك في 4 آلاف رسالة وتظهر الصدمة. هذه هي المشكلة التي يحاول وكلاء الذكاء الاصطناعي المحليون حلها: وضع النموذج داخل بنيتك التحتية، حتى تختفي تكلفة كل استدعاء.
أطلقت Meta بحثيًا نموذج Muse Glimmer، وهو نموذج بثلاثين مليار معامل مصمم لهذا الغرض تحديدًا: وكيل يعمل طوال الوقت على جهازك. ليس أذكى نموذج في العالم. إنه نموذج مصمم للعمل بلا توقف دون تدمير ميزانيتك. وهذا الفرق يهم عملك أكثر بكثير من أي ترتيب في اختبارات الأداء.
ما الذي يتغير عندما يعمل النموذج على جهازك
اليوم، معظم الوكلاء يعملون هكذا: نظامك يرسل النص إلى خادم OpenAI أو Anthropic أو Google، ينتظر، يستقبل الرد، ويدفع مقابل كل رمز. تعمل بشكل جيد. لكن فيها ثلاث مشكلات.
الأولى هي التكلفة المتغيرة. أنت لا تتحكم بها مباشرة. إذا تضاعف الحجم، تتضاعف الفاتورة.
الثانية هي زمن الاستجابة. كل استدعاء يستغرق من نصف ثانية إلى بضع ثوانٍ. بالنسبة للمحادثة، لا بأس. بالنسبة لوكيل ينفذ 40 خطوة في مهمة واحدة، يتحول ذلك إلى نصف دقيقة من الانتظار.
الثالثة هي البيانات. إذا كنت تعالج عقودًا أو ملفات طبية أو بطاقات عملاء، سيسألك أحدهم في القسم القانوني إلى أين يذهب هذا النص. وهو سؤال عادل.
التشغيل المحلي يعالج الثلاثة دفعة واحدة. النموذج يبقى على جهاز تملكه، والتكلفة تتحول إلى عتاد ثابت، والرد فوري، والبيانات لا تغادر المبنى.
أفضل نموذج ليس الأذكى. إنه النموذج الذي تستطيع إبقاءه يعمل.
ماذا تعني "ثلاثون مليار معامل" بلغة مفهومة
المعامل هو تقريبًا حجم دماغ النموذج. النماذج المتقدمة، الكبيرة في السوق، تحتوي على مئات المليارات. تعمل في مراكز البيانات، وانتهى الأمر.
ثلاثون مليارًا مستوى آخر. مع التكميم، وهي تقنية تضغط النموذج، يمكن لنموذج 30B أن يعمل على جهاز ببطاقة رسومات جيدة. نتحدث عن عتاد بين ثلاثة وخمسة آلاف دولار، حسب طريقة التجميع. محطة عمل، وليس خزانة خوادم.
قارن: وكيل يعالج 5 آلاف مهمة شهريًا عبر واجهة نموذج كبير يكلف بسهولة بين 150 و500 دولار شهريًا. خلال 12 شهرًا، تكون قد دفعت ثمن الجهاز. والجهاز يبقى لك في السنة التالية.
الحساب يتغير تمامًا عندما يكون الحجم منخفضًا. 200 مهمة شهريًا؟ ابقَ على الواجهة. لا معنى لشراء عتاد ليبقى معطلًا.
أين يفوز التشغيل المحلي فعلًا
ليس كل وكيل بحاجة لأن يكون عبقريًا. جزء كبير من العمل الحقيقي متكرر ومحدد بوضوح. هنا يتألق النموذج المحلي.
- فرز البريد وواتساب: فصل طلب عرض السعر عن الشكوى عن الرسائل المزعجة. مهمة بسيطة تُنفذ آلاف المرات.
- قراءة المستندات المتكررة: الفواتير، العقود النمطية، استمارات التسجيل. الشكل يتكرر، والنموذج يتعلم النمط.
- المراقبة المستمرة: وكيل يراقب المخزون والمواعيد والجداول، وينبّه عندما يخرج شيء عن المتوقع. هذا يعمل 24 ساعة. عبر الواجهة، إنه نزيف.
- الطبقة الأولى من خدمة العملاء: يفهم النية، يبحث في قاعدة بياناتك، يرد على الأساسيات. ولا يصعّد إلى إنسان أو إلى نموذج أكبر إلا عند التعقيد.
هذه النقطة الأخيرة هي أذكى تصميم أراه اليوم. يسمونه التوجيه المتدرج. النموذج المحلي يستقبل كل شيء. يحل 80%. أما الـ20% الصعبة فيمررها إلى نموذج كبير عبر الواجهة. أنت تدفع للواجهة فقط مقابل ما هو صعب حقًا.
فعلت هذا مع عميل متجر إلكتروني العام الماضي. فرز الرسائل بقي محليًا، وفقط ما فيه شكوى جدية أو تفاوض على السعر كان يصعد إلى النموذج المكلف. انخفضت فاتورة الواجهة بنحو 70%. ولم يلاحظ العميل أي فرق في الجودة، لأن الجزء الصعب ظل يُعالج بالنموذج الجيد.
أين يخسر التشغيل المحلي بوضوح
سأكون صادقًا، لأن هناك متحمسين كثرًا يبيعون التشغيل المحلي كحل شامل وهو ليس كذلك.
نموذج بثلاثين مليار معامل يخطئ أكثر في الاستدلال الطويل. إذا كانت المهمة تتضمن ثماني مراحل متسلسلة، مع قرار في كل مرحلة، سيتوه أكثر من نموذج كبير. ليس دائمًا. لكن بتكرار كافٍ يجعلك تحتاج إلى تحقق.
الكتابة الإبداعية ونصوص البيع أيضًا تبقى ناقصة. تخرج صحيحة، لكن بلا روح.
وهناك التكلفة الخفية: شخص ما عليه الاعتناء بالجهاز. التحديثات، النسخ الاحتياطي، وماذا يحدث عندما يتعطل صباح الثلاثاء. إذا لم يكن لديك أحد في تقنية المعلومات، فهذا يثقل أكثر من التوفير في الواجهة. إما أن توظف من يعتني به، أو تقبل أن هناك يومًا سيتوقف فيه النظام.
رأيي بوضوح: 90% من الشركات الصغيرة والمتوسطة التي تسأل عن الذكاء الاصطناعي المحلي لا ينبغي لها فعل ذلك بعد. الحجم لا يبرره. ابدأ بالواجهة، وقس التكلفة الحقيقية لثلاثة أشهر، ثم قرر. من يشتري بطاقة رسومات قبل أن تعمل العملية عادةً ينتهي بجهاز باهظ يعمل كمدفأة.
كيف تختبر دون إنفاق شيء
يمكنك التجربة قبل أن تقرر. خطوات مختصرة:
- اختر مهمة مملة ومتكررة. الأكثر إملالًا في يومك. الفرز، التصنيف، استخراج البيانات.
- شغّلها عبر الواجهة لثلاثين يومًا. سجّل عدد الاستدعاءات، والتكلفة، وكم مرة جاءت النتيجة خاطئة.
- ثبّت نموذجًا محليًا مجانيًا (Ollama يعمل على Mac أو Windows، تثبيت واستخدام) ومرّر عليه نفس مهام الشهر السابق.
- قارن جنبًا إلى جنب. ليس الدقة فقط. انظر إلى السرعة وكم من العمل البشري وفّر كل خيار.
- قرر بالأرقام. إذا كانت دقة المحلي قريبة من دقة الواجهة والحجم مرتفع، فالحساب ينجح. إذا كان يخطئ أكثر بكثير، ابقَ على الواجهة.
هذا الاختبار يستغرق شهرًا ولا يكلف شيئًا تقريبًا. وهو أفضل بما لا يقاس من القرار بناءً على منشور في لينكدإن.
ماذا يشير هذا بشأن السنتين القادمتين
نماذج مثل Muse Glimmer تشير إلى اتجاه: الذكاء الاصطناعي ينزل من مركز البيانات إلى أرض المصنع. ليس لأنه صار أغبى، بل لأنه صار كفؤًا بما يكفي ليتسع في أماكن أصغر.
بالنسبة لك كصاحب عمل، الرسالة العملية هي: توقف عن التفكير في "أي ذكاء اصطناعي أستخدم" كخيار واحد. سيكون مزيجًا. نموذج صغير ومحلي للحجم، ونموذج كبير ومكلف للصعب. تمامًا كما تفعل مع الناس: ليست كل مهمة تذهب إلى الموظف الأكثر خبرة.
من ينظّم هذا الآن يسبق غيره. ليس بسبب التقنية بحد ذاتها، بل لأنه سيفهم عمليته الخاصة بما يكفي ليعرف ما هو حجم وما هو استثناء. هذا الوضوح يساوي أكثر من أي نموذج.
إذا كانت لديك عملية متكررة تلتهم ساعات موظفين جيدين وتريد أن تعرف إن كانت الأتمتة ممكنة، أخبرني بما يعطّلك. أقدّم تشخيصًا صادقًا، حتى عندما يكون الجواب "هذا لا يحتاج ذكاءً اصطناعيًا إطلاقًا".
ملخّص لـ LinkedIn
فتحت فاتورة واجهة الذكاء الاصطناعي لأحد العملاء والصدمة لم تأتِ من مشروع كبير. جاءت من روبوت صغير يقرأ البريد طوال اليوم. 4 آلاف قراءة شهريًا، بضعة سنتات لكل واحدة. احسبها بنفسك. الحل الذي لا يتحدث عنه أحد ليس تغيير النموذج. الحل هو تقسيم العمل: نموذج صغير يعمل محليًا يتولى الحجم المتكرر، ونموذج كبير ومكلف يدخل فقط في ما هو صعب فعلًا. فعلت ذلك في متجر إلكتروني العام الماضي. انخفضت فاتورة الواجهة بنحو 70% ولم يلاحظ العميل أي فرق في الجودة. لكن كن صادقًا قبل شراء بطاقة رسومات: إذا كان حجمك منخفضًا، ابقَ على الواجهة. رأيت أجهزة بعشرين ألفًا تتحول إلى مدفأة باهظة. هل لديك عملية متكررة تلتهم ساعات موظفين جيدين؟ راسلني وسأخبرك إن كانت الأتمتة تستحق، حتى عندما يكون الجواب "هذا لا يحتاج ذكاءً اصطناعيًا إطلاقًا". #الذكاء_الاصطناعي #الأتمتة #إدارة_التكاليف #التحول_الرقمي