בתחילת החודש, שניהם אֲמָזוֹנָה ו IBM נסוג מטכנולוגיית זיהוי פנים השנויה במחלוקת.
תוכן
- טכנולוגיית זיהוי פנים ציבורית מול פרטית
- מערכת אתית
אמזון הודיעה שהיא לא תאפשר עוד למשטרה להשתמש בטכנולוגיית זיהוי הפנים שלה Rekognition, ו-IBM התחייבה לסגת מכל פיתוח נוסף של הטכנולוגיה.
סרטונים מומלצים
המהלכים הגיעו כאשר הכלים ספגו ביקורת על אי דיוקים ושימוש לרעה פוטנציאלי כטכניקת מעקב המוני עבור ערים חכמות.
קָשׁוּר
- הרשויות בקנדה פתחו בחקירה על אפליקציית זיהוי הפנים של Clearview
אמזון כתבה בהודעתה כי החלטתה נבעה ישירות מהדחיפה של פעילים לאסור על המשטרה להשתמש בזיהוי פנים. ב ההצהרה של IBM, החברה כתבה כי "מתנגדת בתוקף ולא תסכים לשימוש בטכנולוגיה כלשהי, כולל טכנולוגיית זיהוי פנים... למעקב המוני, פרופיל גזעי, הפרות של זכויות אדם וחירויות בסיסיות, או כל מטרה שאינה עולה בקנה אחד עם הערכים ועקרונות האמון שלנו שְׁקִיפוּת.
אבל כמה מומחי אבטחת סייבר לא נמכרים - וסביר להניח שההחלטות יעשו מעט כדי להאט את המבול של טכנולוגיית זיהוי פנים בעתיד.
"זה רק פותח חבורה שלמה של שאלות, כמו, האם הם היו מעורבים במעקב המוני תוכנה לפני?" שאל דיוויד הרדינג, המנהל הטכני הראשי של חברת אבטחת הסייבר ImageWare. "מדוע זה לא הפר את עקרונות האמון והשקיפות שלהם לפני זה? זה נראה מאוד מוזר. יש כאן הרבה מה לפרוק".
ג'ורג' ברוסטופ, מנכ"ל חברת טכנולוגיית סריקת הפנים התלת-ממדית SensibleVision, אמר ל-Digital Trends כי הוא מאמין שאולי היה מניע קדמי להחלטות.
"כמו בדברים רבים, סביר להניח שהכרזה של יבמ מורכבת יותר ממה שהיא נראית על פני השטח", אמר, והציע כי לא סביר שליבמ הייתה חלק רב בזיהוי פנים מלכתחילה.
יבמ לא הגיבה לבקשת תגובה לגבי מידת ההשפעה של מהלך כזה על השורה התחתונה שלהם, או כמה הם השקיעו במחקר ופיתוח של זיהוי פנים.
גם ברוסטופ וגם הרדינג ציינו ש-IBM אינה בהכרח קבלן ממשלתי ידוע בעולם מעקב הפנים.
"הרבה מהחברות שעושות [טכנולוגיית זיהוי פנים] בקנה מידה ממשלתי חברות שאף אחד לא שמע עליהן", אמר בן גודמן, סגן נשיא בכיר בחברת אבטחת סייבר ForgeRock. "החברות האלה לא צריכות לדאוג לגבי סיכון מוניטין. אמזון ויבמ הן שמות גדולים, יש להן יותר בסיכון".
גודמן שאל איזו תמורה חברה כמו אמזון מקבלת עכשיו על פיתוח טכנולוגיית זיהוי פנים.
"הם באמת צריכים לחשוב אם כדאי לפגוע בפרטיות של אנשים. האם אתה מקבל מספיק תמורה על זה", אמר. "תראה את Clearview A.I. [חברת FRT שהתגלתה כמגרדת מדיה חברתית ומוכרת תוכנה לאכיפת החוק], שדיברו בחוצפה על מה שהם עושים, והם היו נהרס. אני בטוח שהם לא היחידים שעושים את זה, אבל זה מראה מה מצב הרוח של הציבור".
ואמנם מעקבי פנים כבר נדנו חוסר הדיוק הידוע לשמצה שלו, שימוש שמועות בתור א כלי משטרתי במהלך הפגנות, והפרות פוטנציאליות של זכויות הפרטיות, סביר להניח שהאחרון יתחיל לצוץ כחלק מחיי היומיום בקרוב מאוד.
טכנולוגיית זיהוי פנים ציבורית מול פרטית
"לממשלה לעולם לא צריכה להיות גישה ל[טכנולוגיית זיהוי פנים] וזה לא תואם עם חברה דמוקרטית", אמרה סירה חוסיין, עורכת דין ב-Electronic Frontier קרן. "זה פוגע בזכויות התיקון הראשון והרביעי שלנו."
אבל התפשטות טכנולוגיית זיהוי הפנים במרחב הפרטי עשויה להיות בלתי נמנעת מכיוון שהטכנולוגיה הופכת קלה יותר לשימוש. Brostoff חזה שתוך שנתיים, השימוש ב-FaceID או המקביל לו יהפוך לנוהג סטנדרטי עבור משימות יומיומיות כמו צ'ק-אאוט בחנות או צ'ק-אין בשדה התעופה.
כשזה מגיע לתחום הפרטי, חוסיין אמרה ל-Digital Trends שהיא חוששת שתאגידים יפתחו את הטכנולוגיה הזו מבלי להתחשב בהשלכות האתיות. אם, למשל, תעשיית המלונאות תתחיל לאמץ טכנולוגיית זיהוי פנים, חייבת להיות דרך לאנשים להצטרף, היא אמרה, במקום פשוט להפוך אותה לכל מקום.
"תמיד צריכה להיות דרך למלונות לעשות צ'ק אין מישהו שלא רוצה להצטרף למערכת", אמרה.
הרולד לי, סגן נשיא ExpressVPN, אמר ל-Digital Trends שהוא ראה בעיני רוחו את ההשקה כזמינה לראשונה כיישומי עבודה לעובדים, "מי פחות נוטה או מסוגל לדחות את הטכנולוגיה הזו, בין אם זה בשביל להסתכל, או לקבלנים לאמת את זהותם", כתב ב אימייל.
לאחר מכן, יישומים מכוונים לצרכן - שכבר קיימים במדינות מסוימות.
"אנחנו כבר רואים את זה בחלקים פחות מודעים לפרטיות של העולם, כמו סין, שם סופרמרקטים ותחנות רכבת תחתית כאחד מאפשרות לאנשים לשלם על ידי סריקת הפנים שלהם", כתב. "בסינגפור, החלו גם כמה ניסויים לביצוע צ'ק-אין במלון באמצעות פנים. למרות שנראה שזה עדיין לא עשה את דרכו לארה"ב, חנויות כבדות מעקב כמו אמזון גו עשויות להתחיל לנרמל את המסחר בפרטיות מטעמי נוחות".
"זה בערך כמו הכוח הבלתי ניתן לעצירה הפוגש את החפץ הבלתי ניתן להזזה," אמר גודמן. "ברור שיש גורם ריגול ואת גורם השחיל וגורם הפרטיות, אבל יש גם את גורם הנוחות. זה אומר שאני יכול ללכת ללא מגע בשדה תעופה. זה אומר שאני יכול לעלות על מטוס בלי לשים את הטלפון שלי על משטח שעוד עשרה אנשים נגעו בו".
מערכת אתית
אם המומחים צודקים והתפשטות טכנולוגיית זיהוי הפנים היא בלתי נמנעת, איך נוודא שנגיע לשם מבלי לקרוע את הפרטיות של כולם בדרך?
"אל לנו לשכוח שאנו מתפתים לוותר על הפרטיות למען היתרונות הנתפסים", אמרה גבריאל הרמייר, קצינת תקשורת ב- Surfshark. "השאלות של פרטיות המשתמשים, הסכמתם והטיית המגדר והגזע של ה-FRT הן מרכזיות בדיון ויש להתייחס אליהן תחילה. ספקי FRT כמו אמזון או מיקרוסופט והמשתמשים שלה, כולל סוכנויות אכיפת חוק ושדות תעופה, צריכים לחלוק אחריות להבטיח ש-FRT לא יהיה מוטה".
שאלת ההטיה נשואה למעשה לשאלת FRT. כפי שציין טום צ'יברס מ-ProPrivacy שבסיסה בבריטניה, "הפוטנציאל להתעללות הוא הרבה יותר מדי גבוה. מחקרים בנושא זיהוי פנים הראו שיעור כישלון של 81% בהתאמת פנים", כתב בהודעה ל-DT, בהתייחס למה שחוקרים בבריטניה מצאו כשבדקו את זיהוי הפנים של משטרת המטרופולין טֶכנוֹלוֹגִיָה.
מחקר זה מצא שהטכנולוגיה זיהתה אנשים חפים מפשע באופן שגוי בשיעור גבוה מבחינה אסטרונומית, לפי SkyNews.
הסכמה של לי ושקיפות הם המפתח. "אל תהפוך טכנולוגיה כזו לחובה. תן למשתמשים להצטרף ולא לבטל את הסכמתו", כתב, מהדהד את חששותיו של חוסיין. הוא גם אמר שסקר ExpressVPN מצא לאחרונה ש-68% מהמבוגרים בארה"ב אמרו שהם מודאגים מהשכנות ההולכת וגוברת של טכנולוגיית זיהוי פנים. בהתבסס על זה בלבד, שאלות דחיפה ומשפטיות הן כמעט בוודאות בלתי נמנעות.
"אנחנו בהחלט לא שם עדיין מבחינה חוקית", אמר גודמן. "למרבה הצער, נראה שהמסגרות המשפטיות שלנו הן אינדיקטור מפגר לרגשות של אנשים לגבי זה. כנראה תצטרך אירוע משכנע שיתרחש סביב FRT לפני שמישהו ישים לב אליו."
בסופו של יום, אלו הפנים שלך שאנחנו מדברים עליהן - ואנשים יצטרכו להיות מסוגלים לשלוט בגישה לפנים שלהם, אמרו הסנגורים.
"אם אין תהליך משמעותי שבאמצעותו אנשים יכולים להצטרף ולהיות בעלי יכולת לקבל את ההחלטה הזו בעצמם, אז זה לא אתי", אמר חוסיין. "כשאתה מדבר על ביומטריה פרטית כמו הפנים שלך, והאם זה לא יכול לכסות בפומבי כמו שאתה יכול לכסות את הידיים שלך, זו שחיקה בפרטיות."
המלצות עורכים
- מיקרוסופט לא תשקיע עוד בטכנולוגיות זיהוי פנים
