שני בכירים בגוגל אמרו ביום שישי שהטיה בבינה מלאכותית פוגעת בקהילות שכבר נדדו לשוליים באמריקה, ושצריך לעשות יותר כדי להבטיח שזה לא יקרה. איקס. עין, מוביל הסברה לחדשנות אחראית ב-Google, וכן אנג'לה וויליאמס, מנהל מדיניות בגוגל, דיבר ב (לא IRL) פסגת הגאווה, אירוע מאורגן על ידי Lesbians Who Tech & Allies, ארגון ה-LGBTQ הגדול בעולם המתמקד בטכנולוגיה לנשים, אנשים לא-בינאריים וטרנסים ברחבי העולם.
ב נפרדשיחות, הם התייחסו לדרכים שבהן ניתן להשתמש בטכנולוגיית למידת מכונה כדי לפגוע בקהילה השחורה ובקהילות אחרות באמריקה - וברחבי יותר ברחבי העולם.
סרטונים מומלצים
הטיה באלגוריתמים אינה רק בעיית נתונים. הבחירה להשתמש ב-AI יכולה להיות מוטה, האופן שבו האלגוריתם לומד יכול להיות מוטה, והאופן שבו המשתמשים מושפעים/מתקשרים עם/תופסים מערכת יכולה לחזק את ההטיה! לבדוק @timnitGebruהעבודה של ללמוד יותר!
- איקס. עין??? (@TechWithX) 26 ביוני 2020
וויליאמס דן בשימוש ב-A.I. למעקב גורף, תפקידו ב שיטור יתר, ויישומה לענישה מוטה. "[זה] לא שהטכנולוגיה היא גזענית, אבל אנחנו יכולים לקודד בהטיה הלא מודעת שלנו לתוך הטכנולוגיה", אמרה. וויליאמס הדגיש את
המקרה של רוברט ג'וליאן-בורצ'ק וויליאמס, גבר אפרו-אמריקאי מדטרויט שנעצר לאחרונה בטעות לאחר שמערכת זיהוי פנים התאימה באופן שגוי את תמונתו לצילומי אבטחה של גנב בחנות. מחקרים קודמים הראו שמערכות זיהוי פנים יכולות להיאבק להבחין בין אנשים שחורים שונים. "זה המקום שבו A.I.... מעקב יכול להשתבש מאוד בעולם האמיתי", אמר וויליאמס.איקס. Eyeé גם דנה כיצד A.I. יכול לעזור "להגדיל ולחזק הטיה לא הוגנת". בנוסף לשימושים הכמו-דיסטופיים יותר, מושכי תשומת הלב של איי.איי, Eyeé התמקדה בדרך שבה הטיה יכולה לזחול לשימושים יומיומיים יותר לכאורה, בטכנולוגיה - כולל השימוש של גוגל. כלים. "בגוגל, אנחנו לא זרים לאתגרים האלה", אמר Eyeé. "בשנים האחרונות... היינו בכותרות מספר פעמים על האופן שבו האלגוריתמים שלנו השפיעו לרעה על אנשים." למשל, גוגל פיתחה כלי עבור סיווג הרעילות של הערות באינטרנט. למרות שזה יכול לעזור מאוד, זה גם היה בעייתי: ביטויים כמו "אני אישה הומו שחורה" סווגו בתחילה כיותר רעיל מאשר "אני אדם לבן". זה נבע מפער במערך הנתונים של ההדרכה, עם יותר שיחות על זהויות מסוימות מאשר אחרים.
אין תיקונים מקיפים לבעיות הללו, אמרו שני המנהלים של גוגל. בכל מקום שבו מתגלים בעיות, גוגל פועלת לברור הטיה. אבל היקף המקומות הפוטנציאליים שבהם הטיה יכולה להיכנס למערכות - מתכנון האלגוריתמים ועד שלהם פריסה להקשר החברתי שתחתיו מופק נתונים - פירושה שתמיד יהיו בעייתיים דוגמאות. המפתח הוא להיות מודעים לכך, לאפשר לבחון כלים כאלה ולאפשר לקהילות מגוונות להשמיע את קולן על השימוש בטכנולוגיות הללו.
המלצות עורכים
- האם א.י. לנצח את מהנדסי האנוש בתכנון שבבים? גוגל חושב שכן
- ה-BigSleep A.I. זה כמו חיפוש תמונות בגוגל לתמונות שעדיין לא קיימות
- גוגל מחזירה בני אדם להשתלט על ניהול תוכן YouTube מ-A.I.
- חדשות מזויפות? א.י. האלגוריתם חושף הטיה פוליטית בסיפורים שאתה קורא
- א.י. שינוי קנה מידה גורם לסרט הזה משנת 1896 להיראות כאילו צולם ב-4K מסנוור
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
