مهام استدلال معقدة ومهام تستخدم الأدوات، مصنفة بحسب مستوى الصعوبة المتوقع.
متى يتوقف المزيد من استدلال LLM عن تبرير تكلفته؟
نقيس ما إذا كانت ميزانيات الاستدلال المتكيفة مع المهمة تستطيع خفض «ضريبة التفكير» مع الحفاظ على إتمام ناجح لمهام LLM والوكلاء المعقدة.
سيؤدي توجيه المهام إلى ميزانيات استدلال قصيرة أو متوسطة أو موسعة إلى خفض الرموز لكل مهمة ناجحة بما لا يقل عن 25%، مع إبقاء نجاح المهمة ضمن نقطتين مئويتين من خط أساس يستخدم الاستدلال الموسع دائماً.
إجمالي رموز النموذج لكل مهمة تُنجز بنجاح.
خفض الرموز لكل مهمة ناجحة بما لا يقل عن 25% مع خسارة لا تتجاوز نقطتين مئويتين في نجاح المهمة.
خفض تكلفة استدلال LLM وزمنه من دون خسارة ذات معنى في نجاح المهام.
قواعد القرار
تجربة الاستدلال المتكيف على حمل عمل يحاكي الإنتاج.
رفع عتبة التصعيد إلى الاستدلال الموسع.
عدم إضافة تعقيد التوجيه.
النتائج التجارية هي أهداف بحثية وليست ضمانات. وقد تخلق النتيجة الصفرية أو السلبية قيمة كبيرة عبر منع الاستثمار في منتج أو ميزة أو حملة غير فعّالة.
سياسة متكيفة مع المهمة تخصص ميزانية الاستدلال قبل التنفيذ وأثناءه.
استخدام أطول ميزانية استدلال متاحة في جميع المهام.
نجاح المهمة · زمن الاستجابة · محاولات التعافي · تباين التكلفة حسب فئة المهمة