כשלים עקב סטייה מהמטרה
נקודות בדיקה שהופעלו כשזוהתה סטייה מהתוכנית שמרו טוב יותר על התאמה למטרה המקורית של הלקוח לאורך תהליכים ארוכים — בלי להתחיל את המשימה מחדש.
מודדים סטייה מהמטרה לאורך מסלולים ארוכים של סוכני LLM ובודקים נקודות ביקורת קלות שמחזירות את כוונת המשתמש בלי להתחיל את התהליך מחדש.
נקודות בדיקה שהופעלו כשזוהתה סטייה מהתוכנית שמרו טוב יותר על התאמה למטרה המקורית של הלקוח לאורך תהליכים ארוכים — בלי להתחיל את המשימה מחדש.
תקבלו את אותות הסטייה בתהליכים שלכם, את נקודות הבדיקה שבאמת מחזירות את הסוכן לכוונת הלקוח, ואת הנקודה שבה ההתערבות עולה יותר מהכשלים שהיא מונעת.
להפעיל נקודות בדיקה רק כאשר אותות הסטייה מצביעים על סיכון לכוונת הלקוח.
אם ההתערבות אינה עוברת את הסף שנקבע מראש, זו ראיה נגד השקעה נוספת בבנייה, השקה או הרחבה שלה בהקשר הזה.
לא להוסיף נקודות ביקורת כמנגנון תזמור כללי.
אם ההתערבות עוברת את הסף אבל העסק ממשיך כרגיל, חיסכון, הכנסה, אימוץ או הפחתת סיכון שניתנים למדידה עלולים להישאר לא ממומשים.
לפעול רק כאשר ההזדמנות שנמדדה גדולה מספיק כדי להצדיק את השינוי.
נקודות ביקורת תקופתיות של כוונת המשתמש, המופעלות כאשר מזוהה סטייה בתוכנית, יפחיתו פעולות סופיות שאינן תואמות את המטרה ב-25% לפחות, עם תוספת של פחות מ-5% בטוקנים.
שיעור המשימות שהושלמו כאשר הפעולה הסופית נשארת תואמת למטרה ולאילוצים המקוריים של המשתמש.
לפחות 25% פחות פעולות סופיות שאינן תואמות למטרה, עם פחות מ-5% טוקנים נוספים.
סוכני LLM ארוכי־טווח אמינים יותר וראיות ברורות יותר לגבי מתי התזמור צריך לעצור, לחדש או לבקש קלט אנושי.
לשחזר במספר מסגרות סוכנים ובמסלולים ארוכים יותר.
להפעיל נקודות ביקורת רק בשינויי מצב בעלי סיכון גבוה יותר.
לא להוסיף נקודות ביקורת כמנגנון תזמור כללי.
תוצאות עסקיות הן יעדי מחקר ולא הבטחות. גם תוצאה אפסית או שלילית עשויה ליצור ערך משמעותי באמצעות מניעת השקעה במוצר, תכונה או קמפיין שאינם יעילים.
משימות סוכן ארוכות הכוללות תכנון, קריאות לכלים, הפרעות, תצפיות ביניים ותתי־מטרות מקומיות משתנות.
נקודות ביקורת קומפקטיות שמשוות את התוכנית הנוכחית ואת הפעולה הסופית המתוכננת למטרה ולאילוצים המקוריים של המשתמש.
אותו תהליך ארוך ללא נקודות ביקורת מפורשות למטרה.
הצלחת המשימה · התאוששות מהפרעה · טוקנים נוספים · שיעור התראות שווא של נקודת הביקורת
נתאים את האוכלוסייה, ההתערבות, הספים והכלכלה ללקוחות שלכם. התוצאה עשויה לומר לכם להרחיב, לעצור הוצאה, או לפעול על הזדמנות שאתם משאירים כיום לא ממומשת. כל אחת מהאפשרויות היא החלטה עסקית מועילה כאשר הראיות חזקות מספיק.
המטרה אינה להשיג תוצאה חיובית. המטרה היא להשיג ראיות חזקות מספיק כדי לשנות החלטה אמיתית.