תהליכי סוכן בסגנון ארגוני הניגשים למספר כלים, מקורות נתונים ורמות הרשאה.
כמה הרשאות צריך לתת לסוכן LLM לפני שאדם או מדיניות מתערבים?
בודקים דפוסי הרשאה לפי עקרון least privilege, הרשאה just-in-time ואישור מודע להשלכות עבור סוכני LLM המשתמשים בכלים ובנתונים ארגוניים.
הרשאות תחומות למשימה יחד עם אישור מודע להשלכות יפחיתו פעולות בעלות הרשאות עודפות או שאינן תואמות מדיניות ב-30% לפחות, תוך תוספת של עד 10% לזמן השלמת המשימה החציוני.
תהליכים שהושלמו בהצלחה בלי שימוש בהרשאות עודפות או הפרת מדיניות.
לפחות 30% פחות פעולות עודפות או לא תואמות מדיניות, עם תוספת של עד 10% לזמן ההשלמה החציוני.
מדיניות שליטה אנושית מדידה להרחבת סוכני LLM בארגון בלי להעניק הרשאות קבועות מיותרות.
כללי החלטה
לבצע פיילוט בתהליך ארגוני מוגבל.
להעלות או להתאים אישית את סף ההשלכות.
לא להוסיף את דפוס האישור במתכונתו הנוכחית.
תוצאות עסקיות הן יעדי מחקר ולא הבטחות. גם תוצאה אפסית או שלילית עשויה ליצור ערך משמעותי באמצעות מניעת השקעה במוצר, תכונה או קמפיין שאינם יעילים.
הרשאות תחומות למשימה, זהות סוכן מפורשת ואישור רק כאשר פעולה חוצה סף השלכות מוגדר מראש.
הרשאות קבועות ורחבות יחד עם שלב אישור כללי.
זמן השלמת משימה · עומס אישורים · התערבות מתקנת · יכולת ביקורת על פעולות הסוכן