−34%
טוקנים למשימה מוצלחת
ניתוב משימות שגרתיות לתקציבי הסקה קצרים יותר שמר על שיעור ההשלמה המוצלחת, ובמקביל צמצם משמעותית את צריכת הטוקנים לעומת שימוש קבוע בהסקה מורחבת.
כל הפרויקטים
מחפש שותף
מתי יותר הסקה ב-LLM מפסיקה להצדיק את העלות?
מודדים האם תקציבי הסקה המותאמים למשימה יכולים לצמצם את "מס ההסקה" תוך שמירה על השלמה מוצלחת של משימות LLM וסוכנים מורכבות.
מה תוכלו לקבל
ראיות מגינות עליכם בשני הכיוונים.
01
תוצאה לדוגמה · הסף הושג
−34% · טוקנים למשימה מוצלחת
מה המחקר שלכם יכריע עבור העסק שלכם
תקבלו מדיניות ניתוב לפי סוג משימה בעומס העבודה שלכם: אילו בקשות באמת זקוקות להסקה מורחבת, אילו לא, ומהו גבול הדיוק־השהיה־עלות בפועל.
החלטה
לשמור הסקה יקרה למשימות שבהן הלקוחות באמת מפיקים ממנה תועלת.
02
החלטה
ראיות מגינות עליכם בשני הכיוונים.
מה הנתונים עשויים להראות
אין שיפור יעילות מהותי
אם ההתערבות אינה עוברת את הסף שנקבע מראש, זו ראיה נגד השקעה נוספת בבנייה, השקה או הרחבה שלה בהקשר הזה.
החלטה
לא להוסיף מורכבות ניתוב.
הטעות היקרה מהצד השני
אפשר לזהות הזדמנות אמיתית — ועדיין להשאיר אותה על השולחן.
אם ההתערבות עוברת את הסף אבל העסק ממשיך כרגיל, חיסכון, הכנסה, אימוץ או הפחתת סיכון שניתנים למדידה עלולים להישאר לא ממומשים.
החלטה
לפעול רק כאשר ההזדמנות שנמדדה גדולה מספיק כדי להצדיק את השינוי.
03
מקור
תקדים ציבורי · לא התוצאה שלכם
השערה
ניתוב משימות לתקציב הסקה קצר, בינוני או מורחב יפחית את מספר הטוקנים לכל משימה מוצלחת ב-25% לפחות, תוך שמירה על שיעור הצלחה בטווח של 2 נקודות אחוז מבסיס המשתמש תמיד בהסקה מורחבת.
מדד עיקרי
מספר הטוקנים הכולל של המודל לכל משימה שהושלמה בהצלחה.
סף משמעותי
לפחות 25% פחות טוקנים לכל משימה מוצלחת, עם ירידה של עד 2 נקודות אחוז בהצלחה.
יעד עסקי
עלות והשהיית הסקת LLM נמוכות יותר ללא אובדן משמעותי בהצלחת המשימות.
כללי החלטה
ספי היעילות והאיכות מתקיימים
לבצע פיילוט של הסקה אדפטיבית בעומס הדומה לייצור.
נחסכים טוקנים אך ההצלחה יורדת יותר מדי
להעלות את סף המעבר להסקה מורחבת.
אין שיפור יעילות מהותי
לא להוסיף מורכבות ניתוב.
תוצאות עסקיות הן יעדי מחקר ולא הבטחות. גם תוצאה אפסית או שלילית עשויה ליצור ערך משמעותי באמצעות מניעת השקעה במוצר, תכונה או קמפיין שאינם יעילים.
אוכלוסייה
משימות הסקה מורכבות ומשימות עם שימוש בכלים, מחולקות לפי רמת קושי משוערת.
התערבות
מדיניות מותאמת למשימה שמקצה תקציב הסקה לפני הביצוע ובמהלכו.
השוואה
שימוש קבוע בתקציב ההסקה הארוך ביותר הזמין.
מדדים משניים
הצלחת המשימה · השהיה · ניסיונות התאוששות · שונות בעלות לפי סוג משימה
הפכו את זה להחלטה שלכם
הפכו את שאלת המחקר הזו להחלטה עבור העסק שלכם.
נתאים את האוכלוסייה, ההתערבות, הספים והכלכלה ללקוחות שלכם. התוצאה עשויה לומר לכם להרחיב, לעצור הוצאה, או לפעול על הזדמנות שאתם משאירים כיום לא ממומשת. כל אחת מהאפשרויות היא החלטה עסקית מועילה כאשר הראיות חזקות מספיק.
המטרה אינה להשיג תוצאה חיובית. המטרה היא להשיג ראיות חזקות מספיק כדי לשנות החלטה אמיתית.