כל הפרויקטים
מחפש שותף

כמה הרשאות צריך לתת לסוכן LLM לפני שאדם או מדיניות מתערבים?

בודקים דפוסי הרשאה לפי עקרון least privilege, הרשאה just-in-time ואישור מודע להשלכות עבור סוכני LLM המשתמשים בכלים ובנתונים ארגוניים.

מוצראימוץ ושימור
תוכנה ארגונית וסייבר
השערה

הרשאות תחומות למשימה יחד עם אישור מודע להשלכות יפחיתו פעולות בעלות הרשאות עודפות או שאינן תואמות מדיניות ב-30% לפחות, תוך תוספת של עד 10% לזמן השלמת המשימה החציוני.

מדד עיקרי

תהליכים שהושלמו בהצלחה בלי שימוש בהרשאות עודפות או הפרת מדיניות.

סף משמעותי

לפחות 30% פחות פעולות עודפות או לא תואמות מדיניות, עם תוספת של עד 10% לזמן ההשלמה החציוני.

יעד עסקי

מדיניות שליטה אנושית מדידה להרחבת סוכני LLM בארגון בלי להעניק הרשאות קבועות מיותרות.

כללי החלטה

סף האבטחה מתקיים במחיר תפעולי סביר

לבצע פיילוט בתהליך ארגוני מוגבל.

הסיכון יורד אך עומס האישורים גבוה מדי

להעלות או להתאים אישית את סף ההשלכות.

אין הפחתת סיכון מהותית

לא להוסיף את דפוס האישור במתכונתו הנוכחית.

תוצאות עסקיות הן יעדי מחקר ולא הבטחות. גם תוצאה אפסית או שלילית עשויה ליצור ערך משמעותי באמצעות מניעת השקעה במוצר, תכונה או קמפיין שאינם יעילים.

אוכלוסייה

תהליכי סוכן בסגנון ארגוני הניגשים למספר כלים, מקורות נתונים ורמות הרשאה.

התערבות

הרשאות תחומות למשימה, זהות סוכן מפורשת ואישור רק כאשר פעולה חוצה סף השלכות מוגדר מראש.

השוואה

הרשאות קבועות ורחבות יחד עם שלב אישור כללי.

מדדים משניים

זמן השלמת משימה · עומס אישורים · התערבות מתקנת · יכולת ביקורת על פעולות הסוכן

האם ההשערה תואמת החלטה על לקוחות או עסק שהחברה שלכם צריכה לקבל?

דברו על הפרויקט

דברו איתנו על פרויקט מחקר

תארו היכן נמצאת אי־הוודאות ומה תרצו לבדוק. יישום הדוא״ל ייפתח עם טיוטה מובנית; האתר אינו שומר את המידע.

פתיחת טיוטת דוא״ל