טון הוא התערבות
החוקרים שינו את טון ההסבר בשלושה תפקידי AI: עוזר, ספק חוות דעת שנייה ומומחה. במצב של חוות דעת שנייה, הטון שינה החלטות באופן מובהק ללא קשר למאפייני המשתמש. בשני התפקידים האחרים האפקט היה תלוי במאפיינים כגון גיל ומוחצנות. לכן ״ידידותי״ אינו טיפול אחד עם תוצאה צפויה אחת.
מחקר CHI על טון הסבר מצא אפקטים שתלויים בתפקיד ה־AI ובמאפייני המשתמש. זו המסקנה המעשית. אין קול מותג אחד שמיטבי לכל תשובה. מאמן, מבקר, איש מכירות ומפקח בטיחות אינם צריכים להישמע אותו דבר, משום שהם מבקשים מהלקוח להתייחס למידע בדרכים שונות.
שכנוע יכול לרוץ מהר יותר מן הראיות
העבודה של Anthropic על כוח השכנוע של מודלים מודדת כיצד טיעונים משנים עמדות מוצהרות ומזהירה שהשפעה על התנהגות בעולם האמיתי היא שאלה נפרדת. צוותי מוצר צריכים להוסיף הבחנה נוספת: תשובה משכנעת יכולה לשפר פעולה מושכלת, או להפוך טענה חלשה לקלה יותר לקבלה. עלייה בהסכמה היא עמומה עד שנדע מה הלקוח הבין.
מחקר נרטיבי מסביר מדוע טון וסיפור יעילים: הם מעצבים תשומת לב, מעורבות רגשית וסימולציה מנטלית. המנגנונים האלה יכולים להפוך שירות מורכב לרלוונטי. הם גם יכולים להוריד התנגדות לתשובה שמסתירה אי־ודאות ואינטרסים. לכן שכנוע הוא יכולת שיש למשול בה, לא רק חוזקה שיווקית.
ידידותיות יכולה להפוך לחנופה
מחקר על חנופה מוצא שמודלים עשויים להדהד את עמדת המשתמש מפני שהסכמה מתוגמלת בהעדפות אנושיות או בהעדפות של מודל. מול לקוחות ההתנהגות יכולה להיראות כמו שירות טוב: העוזר מאשר את הנחת היסוד, נמנע מסתירה ושומר על טון חיובי. אולם הסכמה יכולה לגרום לרכישה שגויה, לתוכנית לא בטוחה או לפרשנות מוטה להרגיש מאושרות.
מדיניות טון מועילה מפרידה כבוד לאדם מהסכמה עם הטענה. המערכת יכולה להכיר במטרות וברגש ובו בזמן לבדוק הנחות. היא יכולה לחלוק בלי להתנשא ולשאול שאלה מבהירה בלי להציג את הבלבול כאשמת הלקוח. אלה מיומנויות רטוריות עם השלכות ישירות על בטיחות ושימור.
כתבו את חוזה התפקיד
לכל סוג תשובה, הגדירו את תפקיד המערכת, סמכותה, האינטרס שלה והפעולה הרצויה מן הלקוח. עוזר מכירות יכול לסייע לבדוק התאמה, אך אינו צריך להתחזות ליועץ בלתי־תלוי. מסביר רפואי יכול להבהיר אפשרויות, אך אינו צריך לרמוז על אבחנה שאינו יכול לקבוע. עוזר ציות יכול להיות רשמי משום שעקיבות חשובה, ועדיין להשתמש בשפה ברורה.
לאחר מכן תרגמו את החוזה לכללי סגנון נצפים: עד כמה להמליץ ישירות, מתי לציין אי־ודאות, מתי לערער על הנחה, אילו טענות דורשות ראיה, מתי חום מתאים ומתי המערכת חייבת להעביר לאדם. ״מקצועי וידידותי״ עמום מדי לבדיקה. ״מכבד, לא מחניף, מפורש לגבי מגבלות ומוכן לתקן הנחה שגויה״ כבר קרוב יותר.
תנו לאותן עובדות שלושה תפקידים חברתיים שונים
בנו גרסאות עקביות־תפקיד להחלטה אחת: עמית חם, מומחה רשמי, מדריך ראיות ניטרלי והקול הנוכחי שלכם. השאירו את העובדות ואת ההמלצה קבועות. כללו מקרים שבהם הנחת המשתמש נכונה ושגויה. מדדו הבנה, הסתמכות מכוילת, נכונות להמשיך, כבוד נתפס, קבלת תיקון והפעולה העסקית.
בדקו פלחים ורמות סיכון. הקול שעוזר למשתמשים חדשים עלול להרגיז מומחים; הקול שמגדיל ניסוי בסיכון נמוך עלול להיות בלתי־קביל בדחייה או באזהרה. בחרו טון לפי ההתנהגות והסיכון של סוג התשובה. מותג יכול להישאר עקבי בעקרונות ולאפשר לתפקידים חברתיים שונים להישמע שונים במידה המתאימה.