לעוזרת הקולית שבחרת כנראה יש קול נשי. אמנם אתה אולי לא חושב על זה הרבה, אבל ארגון החינוך, המדע והתרבות של האומות המאוחדות (UNESCO) מאמין שהעוזרים המופעלים על ידי A.I. לחזק סטריאוטיפים מגדריים שליליים ובמקביל גם לא להדוף כראוי שפה אלימה ופוגענית, מה שמוביל לכמה תוצאות שעלולות להיות מזיקות.
במאמר שכותרתו "אני הייתי מסמיק אם הייתי יכול", חוקרים מאת אונסק"ו חקרו כמה מההטיות המשתמעות שמתרחשות בחקר הבינה המלאכותית. מחברי המאמר מציעים על ידי הענקת עוזרות קוליות שמות נשיים באופן מסורתי והקצאתן כברירת מחדל, חברות חיזקו ללא כוונה רעיונות שליליים ורגרסיביים לגבי קולות שנשמעים נשים. היא ממצבת אותם ככפופים ובתפקיד שבו מצפים מהם לעשות את מה שמתבקש מהם.
סרטונים מומלצים
בנוסף, העיתון בחן כיצד עוזרים קוליים מגיבים כשהם מציגים שפה פוגענית. מה שהם מצאו זה ה-A.I. מסיט הערות כאלה במקום לנקוט כל סוג של פעולה כדי להרתיע אותן. אם משתמש מאיים על עוזר קולי, לעתים קרובות הוא מייצר בדיחה מטופשת או הודעה מזלזלת. חוקרים מ-UNESCO מאמינים שחברות טכנולוגיה צריכות לבנות אמצעי הגנה במערכות אלו שיסייעו להפחית את השפה הפוגענית המופנית כלפי הקולות הנשמעים. החוקרים מאמינים כי אם לא עושים זאת, חברות מסתכנות בנורמליזציה של התנהגות כמו איומים אלימים נגד נשים.
קָשׁוּר
- איך למכור את ההורים שלך על עוזר חכם
- האם הבית החכם שלך יכול לחסוך לך כסף על ביטוח דירה?
- האפליקציה הופכת את Breville Joule Oven Air Fryer Pro לחכם באמת
חלק מהבעיה הזו, לפי אונסק"ו, הוא שלרוב חברות הטכנולוגיה יש צוותי הנדסה המאוישים באופן נרחב וברובם מכריע על ידי גברים. מכיוון שסביר להניח שאין להם ניסיון ישיר בהתמודדות עם סוג זה של שפה המכוונת כלפיהם וגם לא היו הקורבנות של הסוג של סטריאוטיפים שליליים ותפקידים מגדריים מיושנים שעמם מתמודדות נשים, הן לא בהכרח חושבות על הדברים האלה כשהן מעצבות A.I. מערכות.
"חברות כמו אפל ואמזון, המאויישות ברובן על ידי צוותי הנדסה גברים, בנו A.I. מערכות שגורמות להם עוזרות דיגיטליות מונשות לברך על התעללות מילולית עם פלירטוט לתפוס אותי אם אתה יכול", כותבים החוקרים להגיש תלונה. "מכיוון שהדיבור של רוב העוזרות הקוליות הוא נשי, זה משדר אות שנשים הן... צייתניות ו עוזרים להוטים בבקשה, זמינים בלחיצת כפתור או בפקודה קולית בוטה כמו 'היי' או 'בסדר'. לעוזר אין כוח סוכנות מעבר למה שמבקש ממנו המפקד. הוא מכבד פקודות ומגיב לשאלות ללא קשר לטון או לעוינות שלהם".
אונסק"ו מאמינה שהפתרון הטוב ביותר לבעיה הוא ליצור א קול נייטרלי מגדר כי א.י. עוזרים יכולים להשתמש. הארגון גם מציע לבנות תגובות ומערכות שיסגרו וימנעו שפה אגרסיבית ואלימה ועלבונות. חוקרים מאמינים שחברות טכנולוגיה צריכות גם להפסיק למקם את העוזרים הקוליים כבני אדם כפופים בניסיון להימנע מהרחבת סטריאוטיפים מזיקים.
המלצות עורכים
- מומחים מזהירים שעוזרי AI פוגעים בהתפתחות החברתית של ילדים
- סיכום של חיות מחמד שמתעסקות עם גוגל ואלקסה
- הפריטים החדשים התואמים Hubspace של Home Depot כוללים תקע חכם
- האם זה אפשרי ללכת על הכל עם מערכת אקולוגית אחת של בית חכם?
- Google Home (Nest Audio) לעומת אמזון אקו
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
