יותר הקשר יכול לייצר תשובה פחות רלוונטית
בניסוי שדה אקראי בן שישה חודשים עם 6,000 עובדים, משתמשי Copilot פעילים הקדישו בכל שבוע שלוש שעות פחות — או 25% פחות זמן — לדוא״ל, אך זמן הפגישות לא השתנה באופן מובהק. הכלי שינה עבודה שאדם אחד יכול לשנות לבדו; הוא לא שינה את המערכת המתואמת שסביב אותו אדם.
קחו את השאלה ״האם אנחנו יכולים לפרוס את זה?״ התשובה הרלוונטית משתנה לפי תפקיד הקורא, סמכות השיפוט, סיווג הנתונים, סמכות האישור, אופק הזמן, הארכיטקטורה הקיימת והסובלנות לסיכון שיורי. אחזור יכול למצוא את המדיניות ואת תיעוד המוצר. הוא אינו יכול להסיק איזו החלטה נמצאת על השולחן, אלא אם המוצר מייצג את ההקשר האנושי הזה.
ארבעה סוגי הקשר מסתתרים בתוך פרומפט אחד
הקשר עובדתי אומר מה נכון בעולם ובמוצר. הקשר משימתי אומר מה האדם מנסה להשיג. הקשר חברתי אומר מי עוד מעורב, אילו תפקידים ונורמות חשובים ומה חייב לעבור בין חברי הקבוצה. הקשר החלטה אומר אילו חלופות קיימות, איזו ראיה מספיקה ואיזו פעולה באה בעקבותיה.
השכבות האלה נכשלות בדרכים שונות. הקשר עובדתי חסר יוצר הזיה או השמטה. הקשר משימתי חסר יוצר שלמות גנרית. הקשר חברתי חסר מייצר תשובה שאינה יכולה לעבור בתוך הארגון. הקשר החלטה חסר מייצר מידע בלי תוצאה. מוצר שימושי צריך לאבחן איזו שכבה חסרה, במקום להתייחס לכל חולשה כבעיית אחזור.
משתמשים זקוקים למנוף, לא לשיעורי בית בכתיבת פרומפטים
Dynamic Prompt Middleware בוחן פקדים שמסייעים למשתמשים לחדד את המסגור ההקשרי של הסבר. עקרון העיצוב חשוב: המוצר צריך לאפשר ביטוי של הקשר בעל השלכות בלי לדרוש מאנשים להפוך למהנדסי פרומפטים. בחירה מסומנת כגון ״השוואה לצורך רכש״ יכולה להיות אמינה יותר מהתקווה שהמשתמש יכתוב את הפסקה הנכונה.
המערכת צריכה גם לחשוף את ההקשר שהסיקה. ״אני עונה עבור צוות רכש בבית חולים ישראלי שבוחן פיילוט״ הוא ניסוח שניתן לתקן. התאמה אישית סמויה אינה ניתנת לתיקון. הנחות שניתנות לעריכה הופכות את ההקשר לאובייקט משותף ללקוח ולמודל ומקטינות את הסיכון שתשובה שוטפת נשענת על בדיה פרטית.
חלק מן ההקשר שייך לקבוצה
Social-RAG בוחן יצירה שמבוססת על אינטראקציות קודמות בקבוצה. הדבר חשוב מפני שבארגונים יש אוצר מילים מקומי, מחלוקות שלא הוכרעו, התחייבויות היסטוריות וקריטריונים סמויים שאינם מופיעים במאגר הידע. תשובה שמתעלמת מהם יכולה להיות נכונה עובדתית ובלתי־אפשרית פוליטית.
קיימים כאן סיכוני פרטיות וממשל ברורים. אדם אינו צריך לקבל היסטוריה קבוצתית חסויה רק מפני שהיא תשפר רלוונטיות. הקשר זקוק לכללי גישה, מקור, תפוגה וסיבה לשימוש. התאמה אישית ממוקדת־אדם היא סלקטיבית: היא משתמשת במה שמשפר את משימת הלקוח ומגינה על גבולות שהמודל מסוגל לחצות.
מצאו את גבול ההקשר המועיל
בחרו שאלה חוזרת שהתשובה הטובה עליה משתנה לפי תפקיד או שלב. בנו סכמת הקשר מינימלית ובה רק משתנים שלדעת מומחי התחום יכולים לשנות המלצה, ראיה, פורמט או הסלמה. השוו אחזור גנרי לפקדי הקשר משימתי ולהקשר מוסק שניתן לעריכה. השאירו את המודל ואת בסיס הידע קבועים.
מדדו הצלחת משימה, מאמץ תיקון, רלוונטיות נתפסת, חשיפה בלתי־הולמת ופעולה בהמשך. בדקו אם כל שדה הקשר משנה בפועל את התוצאות. הסירו שדות שרק גורמים לתשובה להרגיש אישית. השאירו את קבוצת ההקשר הקטנה והשקופה ביותר שמייצרת החלטה טובה יותר באופן מהותי.