ייתכן שאמזון תרצה לחזור ללוח השרטוטים עבור זה. כלי לזיהוי פנים שענקית הקמעונאות מציעה למפתחים כיום ממש טעות במבחן שנערך על ידי האיגוד האמריקאי לחירויות האזרח (ACLU), מדווח הניו יורק טיימס. במקום לזהות 28 חברי קונגרס כחברים ברשות המחוקקת במדינה, הכלי סיווג את האנשים האלה כחשודים במשטרה. כדי להחמיר את המצב, מספר לא פרופורציונלי של חברי קונגרס אפרו-אמריקאים ולטיניים לא היה נכון זוהה, ומעלה שאלות לגבי עד כמה הפרופיל הגזעי הוטמע את עצמו אפילו בלמידת המכונה שלנו תוֹכנָה.
כעת, הקונגרס רוצה תשובות. חמישה מהמחוקקים שזוהו בטעות מבקשים פגישה "מיידית" עם מנכ"ל אמזון, ג'ף בזוס. ביום חמישי, 26 ביולי, נציגים. ג'ימי גומז, ג'ון לואיס, לואיס גוטיירז ומארק דה-סולנייה, כמו גם הסנאטור. אדוארד מארקי, שלח מכתבים לענקית הקמעונאות המקוונת ושאל מדוע הם לא תואמים. אבל מעבר להשפעות האישיות של מקרים אלה של טעות בזהות, חברי הקונגרס מבקשים תשובות לגבי "כיצד לטפל בפגמים של טכנולוגיה זו על מנת למנוע אי מדויק תוצאות."
סרטונים מומלצים
אמזון עדיין לא ציינה אם המנכ"ל שלה יקבל את הפגישות הללו.
בהצהרה נפרדת, נציג נציג G.K. באטרפילד ציין, "אני מוטרד מהתוצאות הלא מדויקות הקשורות לטכנולוגיה הזו, שכן יש נקודות עיוורות ברורות שיהיו להן השלכות לא רצויות במיוחד עבור אנשים של צֶבַע. אמנם לטכנולוגיה זו יכולה להיות פוטנציאל כלכלי מרחיק לכת, אני מעודד את אמזון להכשיר טוב יותר את המשתמשים שלה לגבי שיטות עבודה מומלצות לשימוש זה טכנולוגיה, היו פתוחים ומעודכנים לגבי המגבלות שלה, ושכרו עובדים נוספים בצבע שיוכלו לסייע כראוי בטיפול בפגמים של זה טֶכנוֹלוֹגִיָה."
קָשׁוּר
- חברי אמזון פריים יכולים לתבוע חבילה חינמית של אקזוטיות Destiny 2 צבעוניות
- בעלי עסקים קטנים קוראים לקונגרס להגריל את Bezos של אמזון
- אמזון אוסרת על המשטרה להשתמש בטכנולוגיית זיהוי פנים לזיהוי פנים למשך שנה
בין המחוקקים שזוהו בטעות היו נציגים. ג'ון לואיס ובובי ראש, שניהם מנהיגי זכויות אזרח ידועים וחברים בוועידה השחורה של הקונגרס. אבל במקום להיות מוכרים כנציגים נבחרים, שני הגברים הללו (יחד עם 26 אחרים), סומנו בכזב כפושעים. הטעויות הללו התרחשו כאשר ACLU לקחה את התוכנה של אמזון כדי לנתח תמונות של כל חברי הקונגרס מול מסד נתונים של 25,000 תמונות מוגשות לציבור. זה הביא לכך ש-28 חברי הקונגרס זוהו באופן שגוי כפורעי חוק, מה שמייצג שיעור שגיאות של 5%.
"הבדיקה הזו מאשרת שזיהוי פנים פגום, מוטה ומסוכן", אמר לניו יורק טיימס ג'ייקוב סנואו, עורך דין טכנולוגי וחירויות אזרחיות ב-ACLU של צפון קליפורניה.
בתגובה לבדיקה אמרה נינה לינדזי, דוברת שירותי האינטרנט של אמזון, כי ה-ACLU השתמשה בכלי התאמת הפנים (הנקרא זיהוי אמזון) שונה מההמלצות של אמזון. "ראוי לציין שבתרחישים בעולם האמיתי, אמזון זיהוי משמש כמעט אך ורק כדי לעזור לצמצם את בתחום ולאפשר לבני אדם לסקור במהירות ולשקול אפשרויות תוך שימוש בשיקול הדעת שלהם", אמרה לינדזי ב-a הַצהָרָה.
עוד היא ציינה שה-ACLU שמרה על "סף הביטחון" של הכלי ברירת המחדל של 80 אחוז. המשמעות היא שהקבוצה לקחה בחשבון כל פנים שהותאמו כ-80 אחוזים דומים למאגר המידע של המשטרה. עם זאת, כדאי לציין שאמזון משתמשת באותו סף בדוגמה באתר שלה, המראה כיצד ניתן להתאים את פני העובדים לתגי הזיהוי שלהם. לינדזי אמרה שבמקרה של מחלקות משטרה, אמזון ממליצה ליישם סף של 95 אחוז דמיון כדי למנוע טעויות מסוג זה.
אמזון ספגה בעבר אש על מכירת Rekognition. במאי, 24 קבוצות לחירויות האזרח, בראשות ACLU, כתבו מכתב למנכ"ל אמזון, ג'ף בזוס, בבקשה שהתוכנה תפסיק להימכר לרשויות אכיפת החוק. הקבוצות הביעו דאגה כי התוכנה יכולה לשמש למעקב אחר מפגינים, מהגרים או כלל ציבור, ולא רק חשודים במשטרה. עובדי אמזון, משקיעים ואנשי אקדמיה העלו מאז דרישות דומות מאמזון.
עם זאת, לעת עתה, נראה שזה לא נמצא בקלפים של ענקית האינטרנט. כפי שאמר הדובר של אמזון, "אנחנו נשארים נרגשים לגבי האופן שבו ניתוח תמונה ווידאו יכול להיות מניע לטובה בעולם".
עודכן ב-27 ביולי: הקונגרס דורש תשובות מאמזון בנוגע לטעויות שנעשו על ידי תוכנת ההכרה שלה.
המלצות עורכים
- אאוץ! חלק מחברי אמזון פריים עומדים בפני עליית מחירים של 43%.
- איך לצפות במנכ"לים של פייסבוק, גוגל, אמזון ואפל מעידים בפני הקונגרס
- אמזון, אפל, פייסבוק וגוגל יעידו בפני הקונגרס ביולי
- סנטור ג'וש האולי קורא לחקירת הגבלים עסקיים פליליים על אמזון
- זיהוי פנים של צבא ארה"ב יכול לזהות אנשים ממרחק של ק"מ אחד
שדרג את אורח החיים שלךמגמות דיגיטליות עוזרות לקוראים לעקוב אחר עולם הטכנולוגיה המהיר עם כל החדשות האחרונות, ביקורות מהנות על מוצרים, מאמרי מערכת מעוררי תובנות והצצות מיוחדות במינן.
