السؤال الخاطئ هو: ما أقوى نموذج يمكنني الوصول إليه؟ السؤال الذي يوفر الوقت والمال هو: ما أصغر نموذج ينجز هذه المهمة ضمن حد الجودة المطلوب؟ الفرق مهم لأن أغلب مسارات المنتج لا تحتاج كل قدرات النموذج في كل طلب.
ابدأ من المهمة، لا من اسم النموذج
لخّص المهمة في مدخل ومخرج ومعيار نجاح. «أريد ذكاءً اصطناعيًا للدعم» وصف واسع. أما «صنّف الرسالة إلى واحد من ثمانية أقسام بدقة مقبولة خلال أقل من ثانية» فهو اختبار يمكن تشغيله على عدة نماذج.
أربع مهام تناسب نموذجًا أصغر غالبًا
التصنيف والتوجيه
اختيار القسم، نوع المستند، أو المسار التالي يحتاج اتساقًا أكثر من حاجته إلى كتابة طويلة. إذا كانت الفئات محددة والأمثلة ممثلة للواقع، يستطيع نموذج صغير تنفيذ الطبقة الأولى ثم تصعيد الحالات المترددة.
الاستخراج المنظم
تحويل فاتورة أو رسالة إلى JSON مهمة محدودة عندما يكون المخطط واضحًا. استخدم تحققًا برمجيًا للمخرجات، ولا تعتمد على النموذج وحده في القيم المالية أو القرارات الحساسة.
التلخيص المقيد
تلخيص اجتماع إلى قرارات ومهام يختلف عن كتابة تقرير تحليلي مفتوح. القالب الثابت، الحد الأقصى للطول، وإبقاء الإسناد إلى النص الأصلي تقلل الحاجة إلى نموذج أكبر.
البحث الدلالي والتمثيلات
كثير من البحث لا يحتاج نموذج محادثة أصلًا. نموذج embeddings صغير يستطيع ترتيب المقاطع، ثم يُستدعى نموذج توليدي فقط عند الحاجة إلى إجابة مركبة.
أين تربح النماذج الصغيرة؟
| القيد | الفائدة المحتملة | ما يجب قياسه |
|---|---|---|
| زمن الاستجابة | بدء أسرع وطلبات متزامنة أكثر | زمن P50 وP95 على جهازك |
| التكلفة | توكنز أرخص أو تشغيل محلي | تكلفة المهمة الناجحة لا تكلفة الطلب فقط |
| الخصوصية | إبقاء المدخل على الجهاز | ما يغادر الجهاز فعلًا |
| العمل دون اتصال | منتج يعمل في الحافة أو المتصفح | حجم التنزيل والذاكرة والطاقة |
المتصفح أصبح هدف تشغيل حقيقيًا
تشغيل النموذج على جهاز المستخدم يقلل الذهاب إلى الخادم ويحسن بعض حالات الخصوصية، لكنه يحمّل المستخدم تكلفة التنزيل والذاكرة والطاقة. مادة زاد عن LiteRT.js تشرح كيف تستخدم تطبيقات الويب CPU وWebGPU لتشغيل نماذج TFLite داخل المتصفح. هذا مناسب للمهام اللحظية والمضغوطة، لا لكل استدلال سحابي.
اختبار من خمس خطوات
- اجمع 50 إلى 200 مثال حقيقي يمثل الحالات السهلة والصعبة.
- اكتب معيار نجاح يمكن حسابه: دقة، تطابق مخطط، أو تقييم بشري مزدوج.
- ابدأ بأصغر نموذج متاح ثم اصعد فقط عندما يفشل في حالات مهمة.
- قس زمن الاستجابة والتكلفة على المسار الكامل، بما فيه الاسترجاع والتحقق.
- احتفظ بمسار تصعيد: نموذج أكبر أو مراجعة بشرية للحالات منخفضة الثقة.
لا تجعل الموجّه يخفي الجودة
يمكن لموجّه مثل زاد اختيار نموذج وتحويل الطلب عند التعطل، لكن التحويل التقني لا يضمن أن البديل يعطي مستوى الجودة نفسه. صنّف المهام، ضع حدًا أدنى لكل فئة، وسجّل النموذج الذي نفذ النتيجة حتى تستطيع مراجعتها.
متى تختار نموذجًا أكبر؟
عندما تكون المهمة مفتوحة، متعددة الخطوات، أو تتطلب فهم سياق طويل وعلاقات دقيقة لا ينجح فيها النموذج الأصغر في اختبارك. الحجم ليس فشلًا في التحسين؛ الخطأ هو دفع تكلفة الحجم قبل أن تثبت الحاجة إليه.
المصادر: توثيق Gemma الرسمي، ومقال زاد عن تشغيل TFLite في المتصفح.