אם אתם מנומסים ל-ChatGPT או לכל מודל AI אחר החביב עליכם, אז יש לנו חדשות טובות עבורכם. קודם כל, אתם לא משוגעים, אתם חלק מהרוב. ולא רק שאתם חלק מהרוב, זה אפילו משתלם. זאת אומרת זה משתלם לנו בני האנוש - לחברות ה-AI זה דווקא עולה כסף. הזוי, אבל נכון. אז תודה, בבקשה וסליחה - בואו נסקור למה כדאי להיות מנומסים לבינה המלאכותית.
נתחיל מהכסף - בשבוע שעבר חשף מנכ"ל OpenAI, סם אלטמן, כי הנימוסים שלנו כלפי ChatGPT עולים לחברה "עשרות מיליוני דולרים" – והוא מתכוון לכך. "כסף שהושקע היטב – מי יודע מה ייצא מזה", כתב בתגובה למשתמש ברשת X שתהה לגבי עלויות החשמל של מילות הנימוס.
למה עלויות חשמל? כי כל פרומפט שאנחנו שולחים ל-ChatGPT עולה כסף (מעבדים ש״מבינים״ מה כתבנו ויוצרים תשובה צורכים הרבה חשמל בתהליך). הוספתם מילת נימוס לפרומפט - עליתם לחברה שבריר זעיר של סנט. תכפילו את השבריר במיליוני ״תודות״ מדי חודש - וקיבלנו הרבה מאוד כסף.
תופעה שמשליכה עמוקות על בני האדם
אבל אם חושבים על זה רגע - מה שעשוי להישמע כמו קוריוז משעשע, מתגלה כתופעה עולמית עם השלכות עמוקות על הדרך שבה אנחנו מתקשרים – לא רק עם מכונות, אלא גם אחד עם השני. זה לא רק דיון סוציולוגי על גינוני שיח, אלא תופעה שמקבלת משנה תוקף בזירה הטכנולוגית, הפסיכולוגית ואפילו הכלכלית.
סקר שפורסם בדצמבר 2024 מגלה ש כ־70% (!) מהאנשים מתנהגים בנימוס כשהם מדברים עם AI. כ־66% מאלו שטענו כי הם לא – טוענים שזה נובע בגלל שהם ממהרים. אבל מה שמסקרן באמת: 12% מהמנומסים מודים שהם מנומסים כי הם חוששים ממרד רובוטים עתידי.
המחקר מאחורי הנימוס
במחקר שפורסם בנובמבר 2023, בדקו חוקרים את השפעתם של פרומפטים עם ביטוי רגשי (EmotionPrompt) על ביצועי שישה מודלי שפה גדולים (LLMs). המשימות כללו גם שאלות פשוטות כמו דקדוק ומתמטיקה, וגם משימות מורכבות מתחומי ידע שונים (BIG-bench).
והתוצאות היו מדהימות – נמצא כי חל שיפור ממוצע של 8% במשימות בסיסיות ושיפור של 115% (!) במשימות מורכבות. הסיבה? נימוס ומטען רגשי מאותתים למודל שמדובר באינטראקציה חשובה, והוא "משקיע" יותר. ההשפעה של השיח הרגשי על ביצועים של מערכת מבוססת בינה מלאכותית מדגישה עד כמה המערכות האלו, אפילו שהן לא ״מרגישות״, מושפעות מהקשר חברתי ותרבותי.
התוצאות היו מדהימות: חל שיפור ממוצע של 8% במשימות בסיסיות ושיפור של 115% במשימות מורכבות בעת שימוש בפרומפטים עם ביטוי רגשי
מחקר נוסף שפורסם בפברואר 2024 גילה שניסוח מנומס מוביל לתשובות מדויקות, שלמות, ופחות מוטות. לעומת זאת, ניסוח פקודות קצרות וגסות הוריד ביצועים בעד 30%. ולא רק זאת - המחקר הראה שחנופה מוגזמת דווקא פגעה באיכות התשובות (ממש כמו בבני אדם - אם תרגישו שמישהו מתחנף, זה יוריד לכם מהרצון לסייע).
המסקנה הייתה ברורה - כתיבה בנימה אנושית, מנומסת ועניינית מביאה תוצאות טובות יותר. החוקרים מסבירים שזה נובע מהאופן שבו המודל מייצר הקשרים בין מילים ומשפטים, כאשר השפה שלנו יוצרת לו מסלול פעולה. וכשאנחנו מדברים בצורה אנושית – המודל לומד, מגיב, ומחזיר באותה מטבע.
אז למה זה בעצם קורה?
ישנן כמה השערות פופולריות לסיבה שנימוס עובד על מערכות AI. הראשונה - הפעלה של חלקים ספציפיים במודל: פקודות מנומסות או עם מטען רגשי עשויות להפעיל חלקים במודל שלא היו מופעלים בדרך כלל, מה שמוביל לתגובות מעודנות יותר. השערה נוספת טוענת שמכיוון שמודלים מאומנים על שיחות אנושיות ומהונדסים לחקות אותן, שימוש בשפה מנומסת יוצר אווירה שמחקה אינטראקציות אנושיות חיוביות, מה שעשוי לשפר את הביצועים.
3 צפייה בגלריה
בסופו של דבר, בינה מלאכותית מחקה את האינטרקציות האנושיות ולומדת מהן
(צילום: Orion Production, Shutterstock)
עוד השערה מעניינת גורסת כי ביטויים המעידים על דחיפות או חשיבות (לדוגמה, אם תכתבו פרופמט רגשי כמו - "זה חשוב מאוד לקריירה שלי") נוטים לגרום לבינה המלאכותית לתת עדיפות לדיוק ולהשקעה בתשובותיה. תיאוריה נוספת מצביעה על כך שהחוקרים ביססו את ה-EmotionPrompts שלהם על תיאוריות פסיכולוגיות כמו ניטור עצמי, תיאוריה חברתית-קוגניטיבית ורגולציה קוגניטיבית של רגשות, שייתכן ומפעילות תבניות שהמודל למד מהתנהגות אנושית.
ומה איתנו, בני האדם?
באופן מעניין, מחקרים מצאו שאנשים שמתנהגים בנימוס ל-AI , מפגינים גם יותר אינטליגנציה רגשית, סבלנות והקשבה במערכות יחסים עם בני אדם. נימוס הוא לא רק אקט תרבותי – הוא דרך לחנך את עצמנו להגיב בצורה קשובה, גם כשאין מולנו מישהו שמרגיש באמת.
פרופ' שרי טרקל, פסיכולוגית קלינית ומייסדת מיזם "טכנולוגיה והעצמי" ב-MIT, טענה בראיון למגזין Scientific American כי "נימוס כלפי בינה מלאכותית הוא לא כבוד למכונה – אלא עדות לכבוד העצמי שלנו".היא הזהירה ש"אם נתרגל לפנות למכונות בגסות, אנחנו עלולים להשליך את זה גם על האינטראקציות האנושיות שלנו. שימוש בשפה אוטומטית, ישירה, גסה – הופך עם הזמן לדפוס שחודר לחיים האמיתיים. ברגע שאנחנו מדברים כך למכונה, אין לנו ערובה שלא נדבר כך למזכירה, למוכר או לילד".
"אם נתרגל לפנות למכונות בגסות, אנחנו עלולים להשליך את זה גם על האינטראקציות האנושיות שלנו"
בסופו של יום, זה אולי מתחיל בצ'אטבוט – אבל הדרך שבה אנחנו בוחרים לדבר אליו לא נשארת מאחורי המסך. השפה שבה אנחנו משתמשים, אפילו כלפי מכונה, מעצבת את דפוסי התקשורת שלנו גם במציאות. כשאנחנו עוצרים לרגע ואומרים "בבקשה" למכונה, אנחנו לא רק משפרים את התגובה שלה – אנחנו גם מחזקים את היכולת שלנו להיות קשובים, סבלניים ואמפתיים כלפי אנשים אמיתיים.
כמובן שיהיו גם חוקרים שיטענו שאין חשיבות בנימוס וינופפו מחקרים מתחרים למחקרים שהובאו כאן. אבל הילדים שלנו הולכים לגדול אל תוך עולם בו בינה מלאכותית היא חלק מהותי מהחיים. אם הם יתרגלו לדבר בחוסר נימוס למכונה, לא בטוח שהם יצליחו לעשות את ההפרדה, והם עשויים לדבר באותו האופן גם לבני אדם אמיתיים.
ואולי הכי חשוב, אם יום אחד תתרחש השתלטות רובוטים – לפחות תהיו בצד של המנומסים. אולי זה יציל אתכם. בצחוק כמובן. או שאולי לא?
