وكلاء ذكاء اصطناعي محلي: 14 ميغابايت تعمل بدون إنترنت
هل وصلتك فاتورة واجهة الذكاء الاصطناعي وقلت في نفسك "لكنني استخدمته فقط لتصنيف البريد"؟ نعم، هذا يحدث كثيراً. معظم ما تفعله الشركات بالذكاء الاصطناعي مهام صغيرة ومتكررة ومملة. ونحن ندفع سعر صاروخ لنذهب إلى المخبز. لهذا بدأ الحديث الجاد عن وكلاء الذكاء الاصطناعي المحلي، أي النماذج الصغيرة جداً التي تعمل داخل الجهاز نفسه.
ظهر هذا الأسبوع نموذج اسمه Needle2 من شركة Cactus Compute. حجمه 14 ميغابايت. ليس خطأً مطبعياً. أربعة عشر. صورة واحدة من هاتفك أثقل من ذلك. وهو ليس روبوت محادثة: هو نموذج مصنوع لاستدعاء الأدوات، أي ليقرر أي إجراء ينفّذ وبأي معطيات. يعمل على الهاتف، وعلى الساعة، وعلى القفل الذكي، وعلى روبوت المستودع.
ما الذي يتغير حين يتّسع الذكاء الاصطناعي داخل الجهاز
اليوم النمط السائد هو: تطبيقك يسأل، يرسل إلى السحابة، ينتظر، يستقبل، يعرض. يعمل جيداً. لكنه يحمل ثلاث مشكلات لا أحد يحب مواجهتها في الاجتماع.
أولاً، التكلفة. تدفع لكل توكن، والتوكن استهلاك متغير. كلما نجح المنتج أكثر، صار أغلى. هو العمل الوحيد في العالم الذي يعاقبك فيه النجاح.
ثانياً، زمن الاستجابة. الذهاب والعودة إلى السحابة يكلّف بين 300 مللي ثانية وثانيتين، حسب شبكة العميل. لكتابة نص، لا بأس. ولقفل يقرر هل يفتح الباب، هذه أبدية.
ثالثاً، البيانات. في كل مرة يخرج فيها النص من جهازك، يجب على أحدهم أن يجيب في التدقيق عمّا يحدث له. رأيت مشروعاً صحياً يتوقف شهرين عند هذا السؤال.
النموذج المحلي يحل الثلاثة دفعة واحدة. تكلفة صفر لكل استدعاء بعد تثبيت التطبيق. استجابة خلال عشرات المللي ثانية. والبيانات لا تغادر الجهاز أبداً، ما يجعل نقاش حماية البيانات أقصر بكثير.
ليست كل مهمة تحتاج عبقرياً. كثير من الأمور يحتاج فقط شخصاً لا يخطئ الزر.
لكن هل يفكّر 14 ميغابايت بشيء؟
لا، وهذه هي النقطة. نموذج بهذا الحجم لا يكتب عرضك التجاري، ولا يحلّل عقداً، ولن يحل محل Claude أو GPT الذي تستخدمه للعمل الحقيقي. لو طلبت منه تحليل سوق، سيخترع. وبثقة كاملة.
ما يفعله شيء واحد فقط، ويفعله جيداً: يأخذ جملة ويحوّلها إلى فعل منظّم.
- "أطفئ ضوء الصالة" تصبح
luz.desligar(comodo="sala") - "احجز اجتماعاً مع باولو الثلاثاء الساعة 2 مساءً" تصبح استدعاء تقويم بحقول معبأة
- "العميل اشتكى من فاتورة خاطئة" تصبح تذكرة بالتصنيف الصحيح
هذا توجيه ذكي. ترجمة لغة البشر إلى أمر آلة. وهذا نحو 70% مما تحتاجه معظم عمليات الأتمتة، وكنا نستخدم نموذجاً بمليارات المعاملات ليقوم بهذه الخدمة.
المقارنة الصادقة: هي الفرق بين توظيف محامٍ كبير وتوظيف موظفة استقبال ممتازة. أنت لا تضع المحامي الكبير ليحوّل المكالمات.
أين ينفع هذا في عمل حقيقي
دعني أخرج من التجريد. ثلاثة سيناريوهات تتكرر عندي طوال الوقت.
تطبيق ميداني. فني صيانة، مندوب توصيل، بائع خارجي. أناس يعملون في مستودع، أو قبو، أو طريق، أو مكان يموت فيه الإنترنت. اليوم تطبيقهم إما استمارة مملة أو يعتمد على الشبكة ليفهم ما كتبه الشخص. مع نموذج محلي، يقول الرجل "غيّرت الضاغط، القطعة 4402، العميل وقّع" فيملأ التطبيق التقرير. بلا إشارة. ويزامن لاحقاً.
فرز الرسائل. شركة تستقبل 300 رسالة يومياً على واتساب. تصنيف كل رسالة (عرض سعر، دعم، شكوى، إزعاج) عبر واجهة برمجية يكلّف قليلاً لكل رسالة، لكنه يكلّف. وكل رسالة تمرّ عبر خادم طرف ثالث. نموذج صغير يعمل على خادمك أنت يقوم بالفرز، ولا يصعد إلى النموذج الكبير إلا ما هو معقّد.
جهاز مادي. شاشة خدمة ذاتية، بوابة دخول، لوحة تحكم، معدات صناعية. هنا لا نقاش: إذا كان القرار يعتمد على السحابة وسقطت السحابة، صار الجهاز قطعة زينة.
انتبه للنمط. في أي منها ليس الذكاء الخام هو عنق الزجاجة. عنق الزجاجة هو التكلفة أو الاتصال أو الخصوصية.
الحيلة التي تساوي أكثر من النموذج نفسه
هنا الجزء الذي يهم فعلاً، وهو صحيح سواء وُجد Needle2 أم لا.
البنية التي تنجح هي بنية طبقات. نموذج صغير في المقدمة، نموذج كبير في الخلف. الصغير يستقبل كل ما يصل، يحل البسيط، ويمرّر الصعب. تماماً كما تعمل خدمة عملاء بشرية جيدة: المستوى الأول والمستوى الثاني.
عملياً، في تدفق دعم نموذجي، ما بين 60% و80% من المدخلات تكرار. نسخة ثانية من الفاتورة، ساعات العمل، حالة الطلب، تعديل بيانات. إذا حل النموذج المحلي هذه الشريحة، تنخفض فاتورتك بالنسبة نفسها. والجودة لا تنخفض، لأن الصعب يبقى ذاهباً إلى النموذج الجيد.
طبّقت هذا المنطق عند عميل دون استخدام نموذج محلي أصلاً: مجرد فلتر قواعد قبل الذكاء الاصطناعي. انخفضت الفاتورة 40% في الشهر الأول. ومع نموذج صغير في المقدمة، يصير التوفير أكبر ويصير الفلتر أذكى، لأنه يفهم اختلاف الكتابة ("فاتورة"، "فتورة"، "تلك الورقة التي أدفع بها").
الدرس ليس "استخدم نموذجاً صغيراً جداً". الدرس هو: توقف عن إرسال كل شيء إلى أغلى نموذج موجود. هذا ما يعادل في عالم الذكاء الاصطناعي أن تطلب سيارة فاخرة لتصل إلى الزاوية، كل يوم، ثم تشتكي من كشف الحساب.
ما لا أفعله بهذا حتى الآن
رأي صريح، ما دمنا هنا: لن أضع نموذجاً بحجم 14 ميغابايت يتخذ قراراً بمفرده في أي شيء يخص المال أو الصحة أو سلامة الناس. ليس لأنه سيئ، بل لأن نسبة الخطأ في نموذج صغير أعلى، وأنت تحتاج خطة لحين يخطئ.
الطريقة الصحيحة للاستخدام هي بوجود مخرج. إذا لم يكن النموذج واثقاً، فهو لا يخمّن: يمرّر لأعلى. يرسل إلى النموذج الكبير، أو إلى إنسان. هذه الـ"لا أعرف" حين تُنفَّذ جيداً تساوي أكثر من عشر نقاط دقة.
كذلك لا يستحق الأمر أن تدمج هذا في منتج غير موجود بعد. إذا لم يكن التدفق مرسوماً عندك، فوضع ذكاء اصطناعي محلي قبله هو تحسين لشيء لا تعرف إن كان الناس سيستخدمونه. أولاً اجعله يعمل بالطريقة الغالية والبسيطة. ثم خفّض التكلفة ببيانات حقيقية في يدك.
من أين تبدأ بلا إنفاق
طريق قصير، بالترتيب:
- خذ 200 تفاعل حقيقي من خدمة عملائك أو من تطبيقك. لا تخترع، استخدم الحقيقي.
- قسّمها إلى كومتين: "رد جاهز يحلها" و"تحتاج تفكيراً".
- إذا زادت الكومة الأولى عن 100 عنصر، فعندك حالة واضحة. وإذا كانت 20، اتركها واهتم بشيء آخر.
- قِس كم تكلّف هذه الكومة الأولى اليوم: في الواجهة البرمجية، وفي وقت الناس، وفي عميل ينتظر.
هذا الرقم هو ميزانيتك. إذا كان صغيراً، ممتاز، وفّرت على نفسك مشروعاً كاملاً. وإذا كان كبيراً، فأنت الآن تعرف بالضبط ما الذي تشتريه.
المثير في Needle2 وفي النماذج من هذا النوع ليس الحجم. بل الرسالة الكامنة فيه: قضت الصناعة سنتين تركض خلف نموذج أكبر، ثم اكتشفت أن مشكلة كثير من الشركات هي العكس. لا ينقصها ذكاء. ينقصها وضع الذكاء المناسب في المكان المناسب، بالتكلفة المناسبة.
إذا كانت عندك عملية تمرّر كل شيء عبر الذكاء الاصطناعي وتشك أنك تدفع أكثر من اللازم لمهام بسيطة، فهذا عادة يمكن قياسه في فترة بعد الظهر. احكِ لي ما الذي تؤتمته ولنرَ إن كان التوفير حقيقياً أم مجرد نظرية جميلة.
ملخّص لـ LinkedIn
فاتورة الذكاء الاصطناعي عندك ارتفعت من جديد، وجزء كبير منها كان لمجرد تصنيف البريد. ظهر هذا الأسبوع Needle2، نموذج بحجم 14 ميغابايت يعمل على الجهاز نفسه، بدون إنترنت. هو لا يفكّر، ولا يحلّل عقداً، ولا يكتب عرضاً. يفعل شيئاً واحداً فقط: يحوّل الجملة إلى فعل. والحقيقة أن نحو 70% من الأتمتة التي أراها تحتاج هذا بالضبط، لكنها تعمل على نموذج بمليارات المعاملات. المسألة ليست حجم النموذج. المسألة أن تتوقف عن طلب سيارة فاخرة لتصل إلى الزاوية كل يوم، ثم تشتكي من كشف الحساب. نموذج صغير في المقدمة، نموذج كبير في الخلف، وما لا يعرفه يمرّره لأعلى بدل أن يخمّن. رأيت التكلفة تنخفض 40% بمجرد فلتر قواعد قبل الذكاء الاصطناعي. إذا كنت تشك أنك تدفع أكثر من اللازم لمهام بسيطة، هذا يمكن قياسه في فترة بعد الظهر. احكِ لي ما الذي تؤتمته. #الذكاء_الاصطناعي #ذكاء_اصطناعي_محلي #EdgeAI #الأتمتة #تقنية