משתמשים המבצעים משימות עוזר יומיומיות במצבים פרטיים, ציבוריים, רועשים, ללא ידיים פנויות ובסביבות חזותיות מורכבות.
מתי LLM רב־מודאלי צריך להישאר על המכשיר ומתי לעבור לענן?
בודקים האם מדיניות מודעת להקשר ולפרטיות יכולה לבחור טוב יותר בין טקסט, קול, ראייה, הסקה על המכשיר או מעבר לענן, בהשוואה למדיניות אינטראקציה קבועה.
מדיניות מודאליות ו-edge/cloud המותאמת להקשר תשפר השלמת משימה בניסיון הראשון ב-10% לפחות ותפחית מעבר מיותר לענן ב-20% לפחות.
השלמת משימה בניסיון הראשון בלי החלפת מודאליות או התחלה ידנית מחדש.
+10% השלמה בניסיון הראשון ו-20% פחות מעברים מיותרים לענן.
ראיות לגבי המצבים שבהם LLM על המכשיר ורב־מודאליות משפרים שימושיות במידה שמצדיקה משאבי מכשיר וענן.
כללי החלטה
לעבור לפיילוט ברמת המכשיר.
לכוונן מחדש את מדיניות edge/cloud.
לא להוסיף מורכבות של מודאליות אדפטיבית.
תוצאות עסקיות הן יעדי מחקר ולא הבטחות. גם תוצאה אפסית או שלילית עשויה ליצור ערך משמעותי באמצעות מניעת השקעה במוצר, תכונה או קמפיין שאינם יעילים.
מדיניות שבוחרת את מודאליות האינטראקציה ואת מקום הביצוע — מכשיר או ענן — לפי המשימה, הסביבה, הפרטיות ומצב המכשיר.
מודאליות ברירת מחדל ומדיניות ענן קבועות לאותן משימות.
שיעור מעבר לענן · השהיית אינטראקציה · שיעור תיקוני משתמש · תחושת פרטיות ושליטה