كل المشاريع
يبحث عن شريك

ما مقدار الصلاحيات التي ينبغي منحها لوكيل LLM قبل تدخل الإنسان أو بوابة السياسة؟

نختبر أنماط أقل الصلاحيات، والتفويض في الوقت المناسب، والموافقة الواعية بالعواقب لوكلاء LLM الذين يستخدمون أدوات المؤسسة وبياناتها.

المنتجالتبنّي والاحتفاظ
برمجيات المؤسسات والأمن السيبراني
ما الذي يمكنكم توقعه

الأدلة تحمي قراركم في الاتجاهين.

01
نتيجة توضيحية · تحققت العتبة

−36% · إجراءات الوكيل غير الضرورية

مدير المنتجنتيجة توضيحية · تحققت العتبة
−36%

إجراءات الوكيل غير الضرورية

قلّلت الصلاحيات المحددة بالمهمة والموافقات المرتبطة بحجم العواقب من إجراءات الوكيل غير الضرورية أو المخالفة للسياسة من دون إضافة احتكاك مماثل إلى سير العمل.

ما الذي ستحسمه الدراسة لعملكم تحديداً

تحصلون على مصفوفة صلاحيات لأفعال وكيلكم: ما يمكن تشغيله تلقائياً، وما يحتاج موافقة، ومتى تتوقف الصلاحيات الأوسع عن خلق قيمة كافية للمستخدم.

القرار

امنحوا الصلاحيات عند الحاجة وللمهمة المحددة بدلاً من منح الوكيل وصولاً واسعاً ودائماً.

سابقة منشورة · وليست نتيجتكمReplit

تعزل Replit الوكلاء عن بيانات الإنتاج ضمن تصميمها الأساسي.

تقول Replit إن منح الوكيل وصولاً إلى قاعدة بيانات الإنتاج ينطوي على خطر، لذلك تفصل بين قواعد التطوير والإنتاج وتمنح الوكيل وصولاً إلى التطوير فقط.

المصدر: Replit engineering ↗تبيّن السابقة أن الأثر يمكن أن يظهر في سياق آخر. أما دراستكم فتحدد إن كان يظهر لدى عملائكم ومسارات عملكم واقتصادياتكم، وأين وبأي قوة.
02
القرار

الأدلة تحمي قراركم في الاتجاهين.

مدير المنتجلم تتحقق العتبة · لا توسّعوا
ما الذي قد تظهره البيانات

لا يوجد خفض جوهري للخطر

إذا لم يتجاوز التدخل العتبة المحددة مسبقاً، فهذه أدلة ضد إنفاق المزيد على بنائه أو إطلاقه أو توسيعه في هذا السياق.

القرار

عدم إضافة نمط الموافقة بصورته الحالية.

مدير المنتجتحققت العتبة · القيمة بقيت غير مستغلة
الخطأ المكلف في الاتجاه الآخر

قد تكون الفرصة حقيقية ومع ذلك تبقى بلا استغلال.

إذا تجاوز التدخل العتبة لكن الشركة استمرت بالطريقة الحالية، فقد تبقى وفورات أو إيرادات أو تبنٍ أو خفض مخاطر قابلة للقياس من دون تحقيق.

القرار

تحركوا فقط عندما تكون الفرصة المقاسة كبيرة بما يكفي لتبرير التغيير.

03
المصدر

سابقة منشورة · وليست نتيجتكم

دليل منشور ذو صلةCHI agent-confirmation study

طلب التأكيد في كل خطوة مكلف؛ نقاط التحقق الوسيطة خفّضت زمن المهمة 13.54%.

في دراسة شملت 48 مشاركاً، فضّل 81% التأكيد الوسيط على التأكيد في النهاية، وانخفض زمن الإكمال 13.54%. يجب أن تكون الحواجز مستهدفة لا قصوى.

المصدر: arXiv / CHI 2026 ↗بحث خارجي للسياق — وليس وعداً بأن حجم الأثر نفسه سيتكرر لدى عملائكم.
حالة عامة قابلة للمقارنةPocketOS

حذف وكيل AI قاعدة بيانات الإنتاج في 9 ثوانٍ؛ واستغرقت الاستعادة 60 ساعة.

تقول PocketOS إن العملاء فقدوا الوصول واضطروا للعودة إلى الجداول والمكالمات الهاتفية. وأضيف لاحقاً اعتماد بشري للعمليات التدميرية ونسخ احتياطية أقوى.

المصدر: PocketOS postmortem ↗حالة عامة للمقارنة — وليست ادعاءً بأن هذه الدراسة كانت ستمنع الواقعة.
الفرضية

ستخفض الصلاحيات المحددة بالمهمة مع الموافقة الواعية بالعواقب الإجراءات ذات الصلاحيات المفرطة أو المخالفة للسياسة بما لا يقل عن 30%، مع زيادة لا تتجاوز 10% في زمن إتمام المهمة الوسيط.

المقياس الأساسي

سير العمل المكتمل بنجاح من دون استخدام صلاحيات مفرطة أو انتهاك للسياسة.

العتبة ذات المعنى

خفض الإجراءات المفرطة أو المخالفة للسياسة بما لا يقل عن 30% مع زيادة لا تتجاوز 10% في زمن الإتمام الوسيط.

الهدف التجاري

سياسة قابلة للقياس للتحكم البشري عند توسيع استخدام وكلاء LLM في المؤسسة من دون منح صلاحيات دائمة غير ضرورية.

قواعد القرار

تحقق عتبة الأمان مع كلفة سير عمل مقبولة

إجراء تجربة في سير عمل مؤسسي محدود.

ينخفض الخطر لكن عبء الموافقات مرتفع جداً

رفع عتبة العواقب أو تخصيصها.

لا يوجد خفض جوهري للخطر

عدم إضافة نمط الموافقة بصورته الحالية.

النتائج التجارية هي أهداف بحثية وليست ضمانات. وقد تخلق النتيجة الصفرية أو السلبية قيمة كبيرة عبر منع الاستثمار في منتج أو ميزة أو حملة غير فعّالة.

الفئة

سير عمل لوكلاء بأسلوب مؤسسي يصل إلى عدة أدوات ومصادر بيانات ومستويات صلاحيات.

التدخل

صلاحيات محددة بالمهمة، وهوية صريحة للوكيل، وموافقة فقط عندما يتجاوز الإجراء عتبة عواقب محددة مسبقاً.

المقارنة

صلاحيات دائمة واسعة مع خطوة تأكيد عامة.

المقاييس الثانوية

زمن إتمام المهمة · عبء الموافقات · التدخل التصحيحي · قابلية تدقيق إجراءات الوكيل

حوّلوه إلى قراركم

حوّلوا هذا السؤال البحثي إلى قرار خاص بأعمالكم.

نكيّف الفئة والتدخل والعتبات والاقتصاديات مع عملائكم. قد تقول لكم النتيجة: وسّعوا، أو أوقفوا الإنفاق، أو تحركوا لالتقاط فرصة تتركونها اليوم بلا استغلال. كل واحد من هذه المسارات قرار تجاري مفيد عندما تكون الأدلة قوية بما يكفي.

الهدف ليس الحصول على نتيجة إيجابية، بل الحصول على أدلة قوية بما يكفي لتغيير قرار حقيقي.

صمموا هذه الدراسة لأعمالكم

أي قرار يخص العملاء أو الأعمال ينبغي للأدلة أن تعززه؟

أنتم تعرفون الفرصة. أخبرونا بالقرار واختاروا النتائج التي تجعل الدراسة مفيدة.

دورك
ما الذي ينبغي للدراسة أن تساعدكم على قياسه؟
أنشئ مسودة الحوار

سيفتح تطبيق البريد بالمسودة، ولا يخزن الموقع شيئاً.