רובוטים יכולים להפעיל לחץ חברתי על ילדים, אבל אל תחשוב לרגע שאנחנו חסינים

כדי לשנות מעט את הכותרת של תוכנית טלוויזיה ידועה: ילדים עושים את הדברים הכי ארועים. לאחרונה, חוקרים מגרמניה ומבריטניה ביצעו מחקר, פורסם בכתב העת מדע רובוטיקה, שהדגימה את המידה שבה ילדים רגישים ללחץ חברתי של רובוטים. גרסת TLDR: התשובה לשאלה ההורית הישנה ההיא: "אם כל החברים שלך היו אומרים לך לקפוץ מצוק, היית עושה?" יכול בהחלט להיות "בטח. אם כל החברים שלי היו רובוטים."

המבחן שיחזר ניסוי מפורסם משנת 1951 שיזם הפסיכולוג הפולני סולומון אש. הניסוי הוכיח כיצד אנשים יכולים להיות מושפעים מהלחצים של חשיבה קבוצתית, גם כשהדבר מתנגד למידע שהם יודעים שהוא נכון. בניסויים של אש, נאספה קבוצה של סטודנטים בקולג' והראו שני כרטיסים. הכרטיס בצד שמאל הציג תמונה של קו אנכי בודד. הכרטיס מימין הציג שלוש שורות באורכים שונים. לאחר מכן, הנסיין שאל את המשתתפים איזו שורה בקלף הימני תואמת את אורך השורה המוצגת בקלף השמאלי.

עד כאן, כל כך פשוט. עם זאת, המקום שבו הדברים נעשו יותר ערמומיים, היה בהרכב הקבוצה. רק אדם אחד מתוך הקבוצה היה משתתף אמיתי, בעוד האחרים היו כולם שחקנים, שנאמר להם מה לומר מבעוד מועד. הניסוי נועד לבדוק אם המשתתף האמיתי ילך יחד עם שאר הקבוצה כאשר הם נותנים פה אחד את התשובה השגויה. כפי שהתברר, רובם יעשו זאת. לחץ חברתי פירושו שרוב האנשים יכחישו מידע שהוא נכון בבירור אם זה אומר להתאים לדעת הרוב.

ברמיקס 2018 של הניסוי, נעשה שימוש באותו עיקרון - רק שבמקום קבוצה של עמיתים בגיל המכללה, "המשתתף האמיתי" היה ילד, בן שבע עד תשע. את "השחקנים" גילמו שלושה רובוטים, שתוכנתו לתת תשובה שגויה. במדגם של 43 מתנדבים, 74 אחוז מהילדים נתנו את אותה תשובה לא נכונה כמו הרובוטים. התוצאות מצביעות על כך שרוב הילדים בגיל הזה יתייחסו ללחץ של רובוטים כמו ללחץ חברתי מצד בני גילם בשר ודם.

"הדבר המיוחד בטווח הגילאים הזה של ילדים הוא שהם עדיין בגיל שבו הם ישהו את חוסר האמון", טוני בלפהמה, פרופסור למערכות בקרה חכמות ואוטונומיות, שסייע בביצוע המחקר, אמר ל-Digital Trends. "הם ישחקו בצעצועים ועדיין יאמינו שדמויות הפעולה או הבובות שלהם אמיתיות; הם עדיין יסתכלו על מופע בובות ובאמת יאמינו למה שקורה; ייתכן שהם עדיין מאמינים ב[סנטה קלאוס]. זה אותו דבר כשהם מסתכלים על רובוט: הם לא רואים אלקטרוניקה ופלסטיק, אלא דמות חברתית".

מעניין שהניסוי העמיד זאת בניגוד לתגובת מבוגרים. שלא כמו הילדים, מבוגרים לא הושפעו מהשגיאות של הרובוטים. "כשמבוגר ראה את הרובוט נותן את התשובה השגויה, הם נתנו בו מבט תמה ואז נתנו את התשובה הנכונה", המשיך בלפה.

אז אין מה לדאוג? כל עוד נפסיק לילדים לשים את ידיהם על רובוטים שתוכנתו לתת תגובות רעות, הכל אמור להיות בסדר, נכון? אל תהיה כל כך מהיר.

האם מבוגרים באמת הרבה יותר חכמים?

כפי שהודה בלפה, משימה זו תוכננה להיות כל כך פשוטה שלא הייתה אי ודאות לגבי מה יכולה להיות התשובה. העולם האמיתי שונה. כאשר אנו חושבים על סוגי העבודות הנמסרות בקלות למכונות, אלו הן לעתים קרובות משימות שאיננו, כבני אדם, תמיד מסוגלים לבצע בצורה מושלמת.

יכול להיות שהמשימה פשוטה להפליא, אבל המכונה יכולה לבצע אותה מהר משמעותית מאיתנו. או שזו יכולה להיות משימה מורכבת יותר, שבה למחשב יש גישה לכמויות גדולות בהרבה של נתונים משלנו. בהתאם להשפעה הפוטנציאלית של העבודה שעל הפרק, אין זה מפתיע שרבים מאיתנו לא יהיו מרוצים מתיקון מכונה.

האם אחות בבית חולים תשמח לבטל את אלגוריתם מאושר על ידי ה-FDA מה שיכול לעזור לקבוע סדרי עדיפויות לגבי בריאות המטופל על ידי ניטור סימנים חיוניים ולאחר מכן שליחת התראות לצוות הרפואי? או שמא לנהג יהיה נוח לקחת את ההגה ממכונית ללא נהג כאשר הוא מתמודד עם תרחיש כביש מורכב במיוחד? או אפילו טייס עוקף את הטייס האוטומטי בגלל שהם חושבים שמתקבלת החלטה שגויה? בכל המקרים הללו, נרצה לחשוב שהתשובה היא "כן". עם זאת, מכל מיני סיבות, אולי זו לא המציאות.

ניקולס קאר כותב על כך בספרו משנת 2014 כלוב הזכוכית: לאן האוטומציה לוקחת אותנו. האופן שבו הוא מתאר את זה מדגיש את סוג העמימות שמקרי אוטומציה בחיים האמיתיים כוללים, היכן הבעיות נמצאות הרבה יותר מורכב מאורך השורה בכרטיס, המכונות הרבה יותר חכמות, והתוצאה היא פוטנציאלית יותר מַכרִיעַ.

"איך מודדים את ההוצאה של שחיקה של מאמץ ומעורבות, או דעיכה של סוכנות ואוטונומיה, או הידרדרות עדינה של מיומנות? אתה לא יכול", הוא כותב. "אלו סוגים של דברים צללים ובלתי מוחשיים שאנו מעריכים רק לעתים רחוקות עד לאחר שהם נעלמים, וגם אז אנו עלולים להתקשות לבטא את ההפסדים במונחים קונקרטיים".

רובוטים חברתיים מהסוג שבלפה מתאר לגביו במאמר המחקר אינם עדיין מיינסטרים, אבל כבר יש איורים של כמה מהחידות הללו בפעולה. לדוגמה, קאר פותח את ספרו באזכור של תזכיר מינהל התעופה הפדרלי שציין כיצד טייסים צריכים להשקיע פחות זמן בטיסה על טייס אוטומטי בגלל הסיכונים שהדבר טומן בחובו. זה התבסס על ניתוח נתוני התרסקות, שהראה כי טייסים מסתמכים לעתים קרובות מדי על מערכות ממוחשבות.

מקרה דומה כלל תביעה משנת 2009 שבה אישה בשם לורן רוזנברג הגיש תביעה נגד גוגל לאחר שהומלץ לו ללכת במסלול שנכנס לתנועה מסוכנת. למרות שהתיק נזרק מבית המשפט, זה מראה שאנשים יעקפו את השכל הישר שלהם מתוך אמונה שלמודיעין מכונה יש יותר אינטליגנציה משלנו.

לכל ספינה יש ספינה טרופה

בסופו של דבר, כפי שמודה Belpaeme, הבעיה היא שלפעמים אנחנו רוצים להעביר את קבלת ההחלטות למכונות. רובוטים מבטיחים לעשות את העבודות המשעממות, המלוכלכות והמסוכנות - ואם אנחנו צריכים לנחש כל החלטה, הם לא באמת המכשירים חוסכי העבודה שהובטחו. אם בסופו של דבר נזמין רובוטים לבית שלנו, נרצה שהם יוכלו לפעול באופן אוטונומי, וזה כרוך ברמה מסוימת של אמון.

"רובוטים שמפעילים עליך לחץ חברתי יכולים להיות דבר טוב; זה לא חייב להיות מרושע", המשיך בלפהמה. "אם יש לך רובוטים המשמשים בתחום הבריאות או החינוך, אתה רוצה שהם יוכלו להשפיע עליך. לדוגמה, אם אתה רוצה לרדת במשקל אתה יכול לקבל רובוט הרזיה במשך חודשיים אשר צגים צריכת הקלוריות שלך ומעודדת אותך להתאמן יותר. אתה רוצה שרובוט כזה ישכנע וישפיע עליך. אבל כל טכנולוגיה שניתן להשתמש בה לטוב יכולה לשמש גם לרע".

מה התשובה לזה? שאלות מסוג זה יידונו כל מקרה לגופו. אם הרע בסופו של דבר עולה על הטוב, טכנולוגיה כמו רובוטים חברתיים לעולם לא תמריא. אבל חשוב שניקח את הלקחים הנכונים ממחקרים כמו זה על לחץ חברתי הנגרם על ידי רובוט. וזו לא העובדה שאנחנו הרבה יותר חכמים מילדים.

המלצות עורכים

• עתיד האוטומציה: רובוטים מגיעים, אבל הם לא ייקחו את העבודה שלך
• הרובוטים האלה מזרזים עשבים למוות כך שחקלאים לא צריכים קוטלי עשבים כימיים