אפליקציית זיהוי פנים של Clearview AI היא סיוט למעקב אחר קורבנות

הדוגמה האחרונה להיבריס של עמק הסיליקון היא אפליקציית זיהוי הפנים Clearview AI. האפליקציה של הסטארט-אפ הקטן כל כך חזקה שמישהו יכול לגשת אליך ברחוב, לצלם את התמונה שלך ולגלות במהירות את שמך, כתובתך ומספר הטלפון שלך, לפי דיווח בניו יורק טיימס.

הטכנולוגיה הזו כנראה נשמעת כמו רעיון מצוין לשני סוגים של אנשים: אכיפת חוק וזוחל. התומכים חוששים שטכנולוגיה מסוג זה של זיהוי פנים עשויה להיות ברכה לעוקבים, אנשים עם היסטוריה של התעללות במשפחה, וכל אחד אחר שירצה לגלות עליך הכל בשביל מרושע מַטָרָה.

"כשהחדשות על האפליקציה הזו התפשטו, נשים בכל מקום נאנחו", אמר ג'ו אוריילי, תומך פרטיות ב-ProPrivacy שבסיסה בבריטניה, בהצהרה ל-Digital Trends. "שוב, בטיחות הנשים הן באינטרנט והן בחיים האמיתיים הגיעה למקום השני לרצון של סטארט-אפים טכנולוגיים ליצור - ולהפיק רווחים - טכנולוגיה פולשנית יותר מתמיד".

Clearview עובד, בין השאר, על ידי גירוד של נתונים זמינים לציבור מאתרי מדיה חברתית פופולריים כמו פייסבוק, טוויטר, יוטיוב ו-Venmo, בין היתר. דובר חברת פייסבוק אמר ל-Digital Trends כי "גרידה פייסבוק מידע או הוספתו לספרייה אסורים על פי המדיניות שלנו, ולכן אנו בודקים את התביעות על החברה הזו וננקוט פעולה מתאימה אם נגלה שהם מפרים את הכללים שלנו". טוויטר גַם אומר שזה אוסר השימוש הזה בנתונים שלו.

כלי חדש למתעללים

מעקב כבר מזמן מהווה בעיה עבור נשים באינטרנט, וזה ללא כלי שיכול לאתר מישהו רק על סמך הפנים שלהם. לעת עתה, קלרוויו טוענת שהיא מוכרת את שירותיה רק ​​לרשויות אכיפת החוק, מה שנתן ביקורות זוהרות באמת על הטכנולוגיה. "עם זאת, הם שותקים באופן מוזר לגבי העובדה שבידיים הלא נכונות, התוכנה הזו יכולה לשמש כדי להטריד ולעקוף כמעט כל אחד", אמר אוריילי. "אי אפשר יהיה למנוע זאת אם התוכנה הייתה זמינה לציבור - תרחיש שמשקיעי Clearview הכירו שהוא אפשרי".

"כל טכנולוגיה שאתה מפתח שתיצרך על ידי בני אדם, אתה צריך לחשוב על הפגמים", אמר קריסטל ג'סטיס, סמנכ"ל השיווק והפיתוח של המוקד הלאומי לאלימות במשפחה . "מתעללים תמיד מחפשים את הכלי הבא בארגז הכלים שלהם."

הקו החם החל לדווח על התעללות דיגיטלית כקטגוריה ספציפית משלו בשנת 2015, וראה עלייה ניכרת במספרים מאז, במיוחד בקרב צעירים. Justice אמר ל-Digital Trends שהקו החם קיבל 371,000 אנשי קשר ב-2018, ו-15% מהם היו תלונות על התעללות דיגיטלית. בממוצע במדינה, אחת מכל ארבע נשים ואחד מכל שבעה גברים הם ניצולים של אלימות במשפחה, על פי מספרי המוקד.

"הניצולים מהווים חלק כה גדול מהאוכלוסייה שלנו", אמר צדק. "חברות טכנולוגיה חייבות לשקול את חוויית ההישרדות בעת עיצוב האפליקציות שלהן."

בעיה מתמשכת

זהו דפוס מתמשך עם הרבה טכנולוגיה משבשת בימינו. כאשר אובר הושקה ב-2009, הטכנולוגיה נראתה מגניבה מכדי להיות אמיתית. כבר לא היינו עבדים לתעשיות המוניות או תחבורה ציבורית חסרת יכולת בערים שלנו.

כמובן, הדגם של אובר גם עף ישירות מול החוכמה המקובלת שלימדו אותנו בילדותנו: אל תכנסו למכוניות עם זרים. עשר שנים ו כמה אלפי תביעות משפטיותעל תקיפה מינית מאוחר יותר, נראה שהייתה סיבה שהיא החוכמה המקובלת. עבור הרבה אנשים, הכניסה למכונית של זר אינה בטוחה, גם כאשר אתה משלם כדי להיות שם.

אבל האלמנט הזה של חשיבה על בטיחות, או של צורך לנוע בעולם תוך דאגה מתמדת לבטיחותך הפיזית, כמו רבים נשים ואנשים ממין מיעוטים חייבים, לא נראה שהיו בראשם של הגברים (לרוב הלבנים) שהקימו חברות טכנולוגיה כמו אובר, כמו טוויטר, כמו רבים אחרים. הם רק רצו לעשות משהו מגניב שישנה את העולם. הרעיון שהוא ישמש למטרות מרושעות לא עבר בראשם עד שהיה מאוחר מדי.

הפרטיות והבטיחות צריכות להיות מובנות באפליקציה מההתחלה, אמרה רייצ'ל גיבסון, מומחית בטיחות טכנולוגית בכירה של הרשת הלאומית לסיום אלימות במשפחה. "זה דבר אחד שמשהו נבנה מתוך כוונה טובה, אבל אנחנו יודעים שאפשר להשתמש בטכנולוגיה לרעה", אמר גיבסון ל-Digital Trends. "אנחנו חושבים על זה כעל טכנולוגיה חדשה, התנהגות ישנה. אנשים עדיין נאנסו במוניות [לפני אובר], אבל אנחנו צריכים לחשוב איך הטכנולוגיה בימינו יכולה להקל על התנהגויות ישנות כמו מעקב ותקיפה".

משהו כמו קלירוויו, אמר גיבסון, אמנם יש לו את השימושים שלו לאכיפת חוק, אבל בהחלט מעלה שאלות לגבי איך ולמה זה יהיה שימושי לציבור הרחב. "הפיכת הדברים האלה לצריכה ציבורית מסכנת את הניצולים, ואנחנו צריכים לחשוב על ההשלכות הלא מכוונות", אמרה.

צדק אמרה שהיא רואה את השיחה על תפקידה של הטכנולוגיה בביטחון הציבור משתנה. "השיח השתנה מאז MeToo", אמרה. "וגם הגיע הזמן. זה לא נושא חדש. אנחנו לא רואים עלייה באלימות במשפחה בהכרח, אנחנו רואים שזה סוף סוף נדון. ועכשיו אנחנו יכולים לכלול במרכיבים המורכבים את האופן שבו הטכנולוגיה היא חלק מזה."

גיבסון גם אמרה שניהלה שיחות עם כמה "חברות טכנולוגיה גדולות" (אם כי היא לא הייתה ציין איזה), והם אמרו שהם עכשיו "מנסים להיות מודעים" לבנייה למען פרטיות ו בִּטָחוֹן.

Clearview נתן ל-Digital Trends הצהרה קצרה, ואמרה שהם "לוקחים את החששות האלה ברצינות, ואין להם תוכניות לפרסום מסחרי". ב פוסט בבלוג, החברה הדגישה כי המוצר שלהם אינו זמין לציבור, וכי הוא יהיה זמין "רק לרשויות אכיפת החוק ולאנשי מקצוע נבחרים בתחום האבטחה".

אם אתה מאמין שאתה או מישהו שאתה מכיר סובל מהתעללות בפרטנר אינטימי, פנה למוקד הלאומי לאלימות במשפחה 24/7 בטלפון 1−800−799−7233.

המלצות עורכים

• פרשנות מבוססת בינה מלאכותית מגיעה לווימבלדון בחודש הבא
• אילון מאסק מקים פרויקט גנרטיבי-AI בטוויטר, כך נטען בדיווח
• Google Smart Canvas מקבל אינטגרציה עמוקה יותר בין אפליקציות
• Nvidia משכירה את פלטפורמת ה-AI Superpod שלה תמורת 90 אלף דולר לחודש
• פורטלנד אוסרת על שימוש פרטי וציבורי בטכנולוגיית זיהוי פנים