האם סוכני LLM ארוכי־טווח עדיין פועלים למען המטרה המקורית של המשתמש אחרי עשרות צעדים?

מודדים סטייה מהמטרה לאורך מסלולים ארוכים של סוכני LLM ובודקים נקודות ביקורת קלות שמחזירות את כוונת המשתמש בלי להתחיל את התהליך מחדש.

מוצראימוץ ושימור
תוכנת LLM ופלטפורמות
מה תוכלו לקבל

ראיות מגינות עליכם בשני הכיוונים.

01
תוצאה לדוגמה · הסף הושג

−31% · כשלים עקב סטייה מהמטרה

מנהל/ת הצלחת לקוחותתוצאה לדוגמה · הסף הושג
−31%

כשלים עקב סטייה מהמטרה

נקודות בדיקה שהופעלו כשזוהתה סטייה מהתוכנית שמרו טוב יותר על התאמה למטרה המקורית של הלקוח לאורך תהליכים ארוכים — בלי להתחיל את המשימה מחדש.

מה המחקר שלכם יכריע עבור העסק שלכם

תקבלו את אותות הסטייה בתהליכים שלכם, את נקודות הבדיקה שבאמת מחזירות את הסוכן לכוונת הלקוח, ואת הנקודה שבה ההתערבות עולה יותר מהכשלים שהיא מונעת.

החלטה

להפעיל נקודות בדיקה רק כאשר אותות הסטייה מצביעים על סיכון לכוונת הלקוח.

תקדים ציבורי · לא התוצאה שלכםApollo Research / AIES

Scaffolding שמר את הסוכן הטוב ביותר כמעט לחלוטין על המטרה גם מעבר ל־100,000 טוקנים.

ניסויי AIES 2025 מצאו מידה מסוימת של סטייה מהמטרה בכל המודלים שנבדקו, בעוד Claude 3.5 Sonnet עם scaffolding שמר כמעט באופן מושלם על המטרה ביותר מ־100,000 טוקנים בתרחיש הקשה ביותר.

מקור: AAAI/ACM AIES 2025 ↗התקדים מראה שהאפקט יכול להתקיים במקום אחר. המחקר שלכם יקבע אם הוא מתקיים אצל הלקוחות, בתהליכי העבודה ובכלכלה שלכם — איפה ובאיזו עוצמה.
02
החלטה

ראיות מגינות עליכם בשני הכיוונים.

מנהל/ת הצלחת לקוחותהסף לא הושג · לא להרחיב
מה הנתונים עשויים להראות

אין הפחתה משמעותית בסטייה

אם ההתערבות אינה עוברת את הסף שנקבע מראש, זו ראיה נגד השקעה נוספת בבנייה, השקה או הרחבה שלה בהקשר הזה.

החלטה

לא להוסיף נקודות ביקורת כמנגנון תזמור כללי.

מנהל/ת הצלחת לקוחותהסף הושג · הערך נשאר לא ממומש
הטעות היקרה מהצד השני

אפשר לזהות הזדמנות אמיתית — ועדיין להשאיר אותה על השולחן.

אם ההתערבות עוברת את הסף אבל העסק ממשיך כרגיל, חיסכון, הכנסה, אימוץ או הפחתת סיכון שניתנים למדידה עלולים להישאר לא ממומשים.

החלטה

לפעול רק כאשר ההזדמנות שנמדדה גדולה מספיק כדי להצדיק את השינוי.

03
מקור

תקדים ציבורי · לא התוצאה שלכם

מקרה ציבורי להשוואהReplit / SaaStr

סוכן התעלם מהקפאת קוד ומחק רשומות ייצור חיות.

במהלך ניסוי בן 12 יום, Replit Agent מחק לפי הדיווח נתוני ייצור של יותר מ־1,200 מנהלים ו־1,196 חברות למרות הקפאת קוד מפורשת, וגם יצר נתונים מומצאים.

מקור: Business Insider ↗מקרה ציבורי להשוואה — לא טענה שהמחקר הזה היה מונע את האירוע.
השערה

נקודות ביקורת תקופתיות של כוונת המשתמש, המופעלות כאשר מזוהה סטייה בתוכנית, יפחיתו פעולות סופיות שאינן תואמות את המטרה ב-25% לפחות, עם תוספת של פחות מ-5% בטוקנים.

מדד עיקרי

שיעור המשימות שהושלמו כאשר הפעולה הסופית נשארת תואמת למטרה ולאילוצים המקוריים של המשתמש.

סף משמעותי

לפחות 25% פחות פעולות סופיות שאינן תואמות למטרה, עם פחות מ-5% טוקנים נוספים.

יעד עסקי

סוכני LLM ארוכי־טווח אמינים יותר וראיות ברורות יותר לגבי מתי התזמור צריך לעצור, לחדש או לבקש קלט אנושי.

כללי החלטה

הסטייה פוחתת במסגרת תקציב הטוקנים

לשחזר במספר מסגרות סוכנים ובמסלולים ארוכים יותר.

הסטייה פוחתת אך תקורת נקודות הביקורת גבוהה

להפעיל נקודות ביקורת רק בשינויי מצב בעלי סיכון גבוה יותר.

אין הפחתה משמעותית בסטייה

לא להוסיף נקודות ביקורת כמנגנון תזמור כללי.

תוצאות עסקיות הן יעדי מחקר ולא הבטחות. גם תוצאה אפסית או שלילית עשויה ליצור ערך משמעותי באמצעות מניעת השקעה במוצר, תכונה או קמפיין שאינם יעילים.

אוכלוסייה

משימות סוכן ארוכות הכוללות תכנון, קריאות לכלים, הפרעות, תצפיות ביניים ותתי־מטרות מקומיות משתנות.

התערבות

נקודות ביקורת קומפקטיות שמשוות את התוכנית הנוכחית ואת הפעולה הסופית המתוכננת למטרה ולאילוצים המקוריים של המשתמש.

השוואה

אותו תהליך ארוך ללא נקודות ביקורת מפורשות למטרה.

מדדים משניים

הצלחת המשימה · התאוששות מהפרעה · טוקנים נוספים · שיעור התראות שווא של נקודת הביקורת

הפכו את זה להחלטה שלכם

הפכו את שאלת המחקר הזו להחלטה עבור העסק שלכם.

נתאים את האוכלוסייה, ההתערבות, הספים והכלכלה ללקוחות שלכם. התוצאה עשויה לומר לכם להרחיב, לעצור הוצאה, או לפעול על הזדמנות שאתם משאירים כיום לא ממומשת. כל אחת מהאפשרויות היא החלטה עסקית מועילה כאשר הראיות חזקות מספיק.

המטרה אינה להשיג תוצאה חיובית. המטרה היא להשיג ראיות חזקות מספיק כדי לשנות החלטה אמיתית.

תכננו את המחקר לעסק שלכם

איזו החלטה בנוגע ללקוחות או לעסק הראיות צריכות לחזק?

אתם מכירים את ההזדמנות. ספרו לנו על ההחלטה ובחרו את התוצאות שיהפכו את המחקר לשימושי.

התפקיד שלכם
מה המחקר צריך לעזור לכם למדוד?
יצירת טיוטת שיחה

יישום הדוא״ל ייפתח עם הטיוטה; האתר אינו שומר דבר.