La începutul acestei luni, ambele Amazon și IBM s-a retras de la tehnologia controversată de recunoaștere facială.
Cuprins
- Tehnologia de recunoaștere facială publică versus privată
- Un sistem etic
Amazon a anunțat că nu va mai permite poliției să folosească tehnologia de recunoaștere facială Rekognition, iar IBM a promis că se va retrage de la orice dezvoltare ulterioară a tehnologiei.
Videoclipuri recomandate
Mișcările au venit pe măsură ce instrumentele au fost criticate pentru inexactități și potențiale utilizare greșită ca tehnică de supraveghere în masă pentru orașe inteligente.
Legate de
- Autoritățile canadiene lansează o anchetă asupra aplicației de recunoaștere facială Clearview
Amazon a scris în anunțul său că decizia sa a fost direct inspirată de eforturile activiștilor de a interzice poliției să folosească recunoașterea facială. În Declarația IBM, compania a scris-o „se opune ferm și nu va tolera utilizarea vreunei tehnologii, inclusiv a tehnologiei de recunoaștere facială... pentru supravegherea în masă, profilarea rasială, încălcarea drepturilor și libertăților fundamentale ale omului sau orice scop care nu este în concordanță cu valorile și principiile noastre de încredere și Transparenţă.
Însă unii experți în securitate cibernetică nu sunt vânduți – iar deciziile probabil nu vor face puțin pentru a încetini fluxul de tehnologie de recunoaștere facială în viitor.
„Acest lucru deschide o grămadă de întrebări, cum ar fi dacă au fost implicați în supravegherea în masă software înainte?” a întrebat David Harding, directorul tehnic al companiei de securitate cibernetică ImageWare. „De ce nu le-a încălcat principiile încrederii și transparenței înainte de aceasta? Pare a fi foarte ciudat. Sunt multe de despachetat aici.”
George Brostoff, CEO-ul firmei de tehnologie de scanare a feței 3D SensibleVision, a declarat pentru Digital Trends că el crede că ar fi putut exista un motiv anterior al deciziilor.
„Ca și în multe lucruri, anunțul IBM este probabil mai complex decât pare la suprafață”, a spus el, sugerând că este puțin probabil ca IBM să aibă un mare interes în recunoașterea facială în primul rând.
IBM nu a răspuns la o solicitare de comentarii cu privire la cât de mult le-ar afecta o astfel de mișcare rezultatul lor sau cât de mult au investit în cercetarea și dezvoltarea recunoașterii faciale.
Atât Brostoff, cât și Harding au remarcat că IBM nu este neapărat un contractant guvernamental remarcat în lumea supravegherii faciale.
„Multe dintre companiile care fac [tehnologie de recunoaștere facială] la scară guvernamentală sunt companii despre care nimeni nu a auzit”, a declarat Ben Goodman, vicepreședinte senior al companiei de securitate cibernetică ForgeRock. „Aceste companii nu trebuie să-și facă griji cu privire la riscul reputațional. Amazon și IBM sunt nume mari, au mai multe riscuri.”
Goodman a pus la îndoială ce fel de profit obține o companie precum Amazon în acest moment în ceea ce privește dezvoltarea tehnologiei de recunoaștere facială.
„Ei chiar trebuie să se gândească dacă merită să împiedice confidențialitatea oamenilor. Obțineți suficient profit pentru asta, a spus el. „Uită-te la Clearview A.I. [compania FRT despre care s-a dezvăluit că elimină rețelele de socializare și vinde software către organele de aplicare a legii], care au vorbit cu nerăbdare despre ceea ce făceau și au fost distrus. Sunt sigur că nu sunt singurii care fac asta, dar asta arată care este starea de spirit a publicului.”
Și în timp ce supravegherea facială a fost pusă la piloți inexactitatea sa notorie, se zvonește utilizarea ca a instrument de poliție în timpul protestelor, și potențiale încălcări ale drepturilor de confidențialitate, cel din urmă este probabil să înceapă să apară ca parte a vieții de zi cu zi foarte curând.
Tehnologia de recunoaștere facială publică versus privată
„Guvernul nu ar trebui să aibă niciodată acces la [tehnologia de recunoaștere facială] și nu este compatibilă cu o societate democratică”, a spus Saira Hussain, avocat al personalului de la Frontiera electronică Fundație. „Încalcă drepturile noastre privind primul și al patrulea amendament.”
Dar proliferarea tehnologiei de recunoaștere facială în sfera privată ar putea fi inevitabilă, deoarece tehnologia devine mai ușor de utilizat. Brostoff a prezis că în doi ani, utilizarea FaceID sau echivalentul său va deveni o practică standard pentru sarcinile de zi cu zi, cum ar fi check-out la un magazin sau check-in la aeroport.
Când vine vorba de sfera privată, Hussain a declarat pentru Digital Trends că se teme că corporațiile vor dezvolta această tehnologie fără a lua în considerare implicațiile etice. Dacă, de exemplu, industria hotelieră începe să adopte tehnologia de recunoaștere facială, trebuie să existe o modalitate prin care oamenii să se înscrie, a spus ea, în loc să o facă pur și simplu omniprezentă.
„Ar trebui să existe întotdeauna o modalitate ca hotelurile să se înregistreze pe cineva care nu dorește să se înscrie în sistem”, a spus ea.
Harold Li, vicepreședintele ExpressVPN, a declarat pentru Digital Trends că a preconizat lansarea ca fiind disponibilă pentru prima dată ca aplicații de lucru pentru angajați. „care sunt mai puțin înclinați sau capabili să respingă această tehnologie, fie că este vorba de înregistrarea sau de a solicita contractanților să-și verifice identitățile”, a scris el într-un e-mail.
Aceasta ar fi urmată de aplicații direcționate către consumatori – care sunt deja în vigoare în unele țări.
„Deja vedem acest lucru în părți ale lumii mai puțin conștiente de confidențialitate, cum ar fi China, unde supermarketurile și stațiile de metrou deopotrivă le permit oamenilor să plătească prin scanarea feței lor”, a scris el. „În Singapore, au început și unele încercări pentru check-in la hotel personal. Deși acest lucru nu pare să fi ajuns încă în S.U.A., magazinele intense de supraveghere precum Amazon Go ar putea începe să normalizeze schimbul de confidențialitate pentru comoditate.”
„Este un fel ca forța de neoprit care întâlnește obiectul imobil”, a spus Goodman. „Evident că există un factor de spionaj și un factor de înșelăciune și un factor de confidențialitate, dar există și un factor de confort. Înseamnă că pot merge fără contact într-un aeroport. Înseamnă că pot să mă îmbarc într-un avion fără să-mi pun telefonul pe o suprafață pe care alte zece persoane tocmai au atins-o.”
Un sistem etic
Dacă experții au dreptate și răspândirea tehnologiei de recunoaștere facială este inevitabilă, cum ne asigurăm că ajungem acolo fără a distruge intimitatea tuturor pe parcurs?
„Nu ar trebui să uităm că suntem tentați să renunțăm la confidențialitate pentru beneficiile percepute”, a declarat Gabrielle Hermier, ofițer media la Surfshark. „Întrebările privind confidențialitatea utilizatorilor, consimțământul și părtinirea de gen și rasă ale FRT sunt esențiale pentru dezbatere și ar trebui abordate mai întâi. Furnizorii de FRT precum Amazon sau Microsoft și utilizatorii săi, inclusiv agențiile de aplicare a legii și aeroporturile, ar trebui să împărtășească responsabilitatea de a se asigura că FRT nu este părtinitoare.”
Întrebarea părtinirii este practic căsătorită cu problema FRT. După cum a subliniat Tom Chivers de la ProPrivacy, cu sediul în Regatul Unit, „Potențialul de abuz este mult prea mare. Studiile privind recunoașterea facială au arătat o rată de eșec de 81% pentru potrivirea feței”, a scris el într-un mesaj către DT, referindu-se la ceea ce au descoperit cercetătorii din Marea Britanie când au testat recunoașterea facială a Poliției Metropolitane tehnologie.
Studiul respectiv a descoperit că tehnologia a identificat incorect oameni nevinovați la un ritm astronomic ridicat, conform SkyNews.
Li a fost de acord că consimțământul și transparența sunt esențiale. „Nu faceți o astfel de tehnologie obligatorie. Lăsați utilizatorii să se înscrie, mai degrabă decât să renunțe”, a scris el, făcând ecou îngrijorărilor lui Hussain. El a mai spus că un sondaj ExpressVPN a constatat recent că 68% dintre adulții din SUA au spus că sunt îngrijorați de omniprezentarea în creștere a tehnologiei de recunoaștere facială. Pe baza acestui lucru numai, respingerea și întrebările juridice sunt aproape sigur inevitabile.
„Cu siguranță nu suntem încă acolo din punct de vedere al legii”, a spus Goodman. „Din păcate, cadrele noastre legale par să fie un indicator întârziat al emoțiilor oamenilor în legătură cu acest lucru. Probabil că veți avea nevoie de un eveniment convingător în jurul FRT înainte ca cineva să-i acorde atenție.”
La sfârșitul zilei, aceasta este chipul tău despre care vorbim – iar oamenii vor trebui să poată controla accesul la propriile fețe, au spus avocații.
„Dacă nu există un proces semnificativ prin care oamenii să se poată înscrie și să aibă capacitatea de a lua singuri acea decizie, atunci nu este etic”, a spus Hussain. „Când vorbești despre biometrie la fel de private precum fața ta și nu poți acoperi asta în public în același mod în care poți mâinile tale, aceasta este o eroziune a confidențialității.”
Recomandările editorilor
- Microsoft nu va mai investi în tehnologii de recunoaștere facială
