כמה הרשאות צריך לתת לסוכן LLM לפני שאדם או מדיניות מתערבים?

בודקים דפוסי הרשאה לפי עקרון least privilege, הרשאה just-in-time ואישור מודע להשלכות עבור סוכני LLM המשתמשים בכלים ובנתונים ארגוניים.

מוצראימוץ ושימור
תוכנה ארגונית וסייבר
מה תוכלו לקבל

ראיות מגינות עליכם בשני הכיוונים.

01
תוצאה לדוגמה · הסף הושג

−36% · פעולות־יתר של הסוכן

מנהל/ת מוצרתוצאה לדוגמה · הסף הושג
−36%

פעולות־יתר של הסוכן

הרשאות מוגבלות למשימה ואישור לפי חומרת ההשלכות הפחיתו פעולות מיותרות או מנוגדות למדיניות, בלי לייצר חיכוך מקביל בתהליך העבודה.

מה המחקר שלכם יכריע עבור העסק שלכם

תקבלו מטריצת הרשאות לפעולות הסוכן שלכם: מה יכול לרוץ אוטונומית, מה דורש אישור, ומתי גישה רחבה יותר מפסיקה לייצר מספיק ערך למשתמש.

החלטה

להעניק הרשאות בדיוק בזמן ולפי צורך, במקום לתת לסוכנים גישה רחבה וקבועה.

תקדים ציבורי · לא התוצאה שלכםReplit

Replit מבודדת סוכנים מנתוני הייצור כחלק מהארכיטקטורה.

Replit כותבת שמסוכן עם גישה למסד הייצור נשקפת סכנה, ולכן היא מפרידה מסדי נתונים של פיתוח וייצור ומעניקה לסוכן גישה רק לפיתוח.

מקור: Replit engineering ↗התקדים מראה שהאפקט יכול להתקיים במקום אחר. המחקר שלכם יקבע אם הוא מתקיים אצל הלקוחות, בתהליכי העבודה ובכלכלה שלכם — איפה ובאיזו עוצמה.
02
החלטה

ראיות מגינות עליכם בשני הכיוונים.

מנהל/ת מוצרהסף לא הושג · לא להרחיב
מה הנתונים עשויים להראות

אין הפחתת סיכון מהותית

אם ההתערבות אינה עוברת את הסף שנקבע מראש, זו ראיה נגד השקעה נוספת בבנייה, השקה או הרחבה שלה בהקשר הזה.

החלטה

לא להוסיף את דפוס האישור במתכונתו הנוכחית.

מנהל/ת מוצרהסף הושג · הערך נשאר לא ממומש
הטעות היקרה מהצד השני

אפשר לזהות הזדמנות אמיתית — ועדיין להשאיר אותה על השולחן.

אם ההתערבות עוברת את הסף אבל העסק ממשיך כרגיל, חיסכון, הכנסה, אימוץ או הפחתת סיכון שניתנים למדידה עלולים להישאר לא ממומשים.

החלטה

לפעול רק כאשר ההזדמנות שנמדדה גדולה מספיק כדי להצדיק את השינוי.

03
מקור

תקדים ציבורי · לא התוצאה שלכם

מחקר חיצוני רלוונטיCHI agent-confirmation study

אישור בכל צעד יקר מדי; בדיקות ביניים קיצרו את זמן המשימה ב־13.54%.

במחקר עם 48 משתתפים, 81% העדיפו אישור ביניים על פני אישור רק בסוף, וזמן ההשלמה ירד ב־13.54%. מנגנוני הגנה צריכים להיות ממוקדים, לא פשוט מקסימליים.

מקור: arXiv / CHI 2026 ↗מחקר חיצוני להקשר — לא הבטחה שאותו גודל אפקט יחזור אצל הלקוחות שלכם.
מקרה ציבורי להשוואהPocketOS

סוכן AI מחק את מסד הנתונים של הייצור בתוך 9 שניות; ההתאוששות ארכה 60 שעות.

PocketOS דיווחה שלקוחות איבדו גישה ונאלצו לחזור לגיליונות ולשיחות טלפון. לאחר מכן הוסיפה החברה אישור אנושי לפעולות הרסניות וגיבויים חזקים יותר.

מקור: PocketOS postmortem ↗מקרה ציבורי להשוואה — לא טענה שהמחקר הזה היה מונע את האירוע.
השערה

הרשאות תחומות למשימה יחד עם אישור מודע להשלכות יפחיתו פעולות בעלות הרשאות עודפות או שאינן תואמות מדיניות ב-30% לפחות, תוך תוספת של עד 10% לזמן השלמת המשימה החציוני.

מדד עיקרי

תהליכים שהושלמו בהצלחה בלי שימוש בהרשאות עודפות או הפרת מדיניות.

סף משמעותי

לפחות 30% פחות פעולות עודפות או לא תואמות מדיניות, עם תוספת של עד 10% לזמן ההשלמה החציוני.

יעד עסקי

מדיניות שליטה אנושית מדידה להרחבת סוכני LLM בארגון בלי להעניק הרשאות קבועות מיותרות.

כללי החלטה

סף האבטחה מתקיים במחיר תפעולי סביר

לבצע פיילוט בתהליך ארגוני מוגבל.

הסיכון יורד אך עומס האישורים גבוה מדי

להעלות או להתאים אישית את סף ההשלכות.

אין הפחתת סיכון מהותית

לא להוסיף את דפוס האישור במתכונתו הנוכחית.

תוצאות עסקיות הן יעדי מחקר ולא הבטחות. גם תוצאה אפסית או שלילית עשויה ליצור ערך משמעותי באמצעות מניעת השקעה במוצר, תכונה או קמפיין שאינם יעילים.

אוכלוסייה

תהליכי סוכן בסגנון ארגוני הניגשים למספר כלים, מקורות נתונים ורמות הרשאה.

התערבות

הרשאות תחומות למשימה, זהות סוכן מפורשת ואישור רק כאשר פעולה חוצה סף השלכות מוגדר מראש.

השוואה

הרשאות קבועות ורחבות יחד עם שלב אישור כללי.

מדדים משניים

זמן השלמת משימה · עומס אישורים · התערבות מתקנת · יכולת ביקורת על פעולות הסוכן

הפכו את זה להחלטה שלכם

הפכו את שאלת המחקר הזו להחלטה עבור העסק שלכם.

נתאים את האוכלוסייה, ההתערבות, הספים והכלכלה ללקוחות שלכם. התוצאה עשויה לומר לכם להרחיב, לעצור הוצאה, או לפעול על הזדמנות שאתם משאירים כיום לא ממומשת. כל אחת מהאפשרויות היא החלטה עסקית מועילה כאשר הראיות חזקות מספיק.

המטרה אינה להשיג תוצאה חיובית. המטרה היא להשיג ראיות חזקות מספיק כדי לשנות החלטה אמיתית.

תכננו את המחקר לעסק שלכם

איזו החלטה בנוגע ללקוחות או לעסק הראיות צריכות לחזק?

אתם מכירים את ההזדמנות. ספרו לנו על ההחלטה ובחרו את התוצאות שיהפכו את המחקר לשימושי.

התפקיד שלכם
מה המחקר צריך לעזור לכם למדוד?
יצירת טיוטת שיחה

יישום הדוא״ל ייפתח עם הטיוטה; האתר אינו שומר דבר.