Plus tôt ce mois-ci, les deux Amazone et IBM s’est éloigné de la technologie controversée de reconnaissance faciale.
Contenu
- Technologie de reconnaissance faciale publique ou privée
- Un système éthique
Amazon a annoncé qu'il n'autoriserait plus la police à utiliser sa technologie de reconnaissance faciale Rekognition, et IBM s'est engagé à renoncer à tout développement ultérieur de cette technologie.
Vidéos recommandées
Ces mesures ont été prises alors que les outils ont été critiqués pour leur inexactitude et leur utilisation abusive potentielle en tant que technique de surveillance de masse. Villes intelligentes.
En rapport
- Les autorités canadiennes lancent une enquête sur l'application de reconnaissance faciale Clearview
Amazon a écrit dans son annonce que sa décision était directement inspirée par les pressions des militants visant à interdire à la police d’utiliser la reconnaissance faciale. Dans Déclaration d'IBM, la société a écrit qu'elle « s'oppose fermement et ne tolérera l'utilisation d'aucune technologie, y compris la technologie de reconnaissance faciale… pour la surveillance de masse, le profilage racial, les violations des droits et libertés humains fondamentaux, ou tout objectif non conforme à nos valeurs et à nos principes de confiance et Transparence.
Mais certains experts en cybersécurité ne sont pas convaincus – et ces décisions ne contribueront probablement pas à ralentir le flot de technologies de reconnaissance faciale à l’avenir.
« Cela soulève tout un tas de questions, par exemple: ont-ils été impliqués dans une surveillance de masse? logiciel avant? a demandé David Harding, directeur technique de la société de cybersécurité ImageWare. « Pourquoi n’a-t-il pas violé leurs principes de confiance et de transparence avant cela? Cela semble très étrange. Il y a beaucoup de choses à déballer ici.
George Brostoff, PDG de la société de technologie de numérisation faciale 3D SensibleVision, a déclaré à Digital Trends qu'il pensait qu'il pouvait y avoir un motif antérieur à ces décisions.
"Comme dans beaucoup de choses, l'annonce d'IBM est probablement plus complexe qu'il n'y paraît à première vue", a-t-il déclaré, suggérant qu'il était peu probable qu'IBM ait un intérêt majeur dans la reconnaissance faciale en premier lieu.
IBM n'a pas répondu à une demande de commentaires sur l'impact d'une telle décision sur ses résultats financiers ou sur l'ampleur de ses investissements dans la recherche et le développement de la reconnaissance faciale.
Brostoff et Harding ont tous deux noté qu'IBM n'est pas nécessairement un entrepreneur gouvernemental réputé dans le monde de la surveillance faciale.
« Beaucoup d'entreprises qui mettent en œuvre des technologies de reconnaissance faciale à l'échelle gouvernementale sont des entreprises dont personne n’a entendu parler », a déclaré Ben Goodman, vice-président senior de la société de cybersécurité. ForgeRock. « Ces entreprises n’ont pas à se soucier du risque de réputation. Amazon et IBM sont de grands noms, ils courent davantage de risques.»
Goodman s'est demandé quel genre de retour une entreprise comme Amazon obtenait actuellement sur le développement de la technologie de reconnaissance faciale.
«Ils doivent vraiment réfléchir à l’opportunité de porter atteinte à la vie privée des gens. Obtenez-vous un retour sur investissement suffisant sur ce plan », a-t-il déclaré. « Regardez Clearview A.I. [la société FRT qui s'est révélée supprimer les réseaux sociaux et vendre logiciel aux forces de l'ordre], qui parlaient effrontément de ce qu'ils faisaient, et ils étaient détruit. Je suis sûr qu’ils ne sont pas les seuls à faire cela, mais cela montre l’humeur du public.
Et même si la surveillance faciale est mise au pilori depuis son inexactitude notoire, selon la rumeur, il serait utilisé comme outil de police lors des manifestations, et les violations potentielles du droit à la vie privée, ces dernières devraient très bientôt faire leur apparition dans la vie quotidienne.
Technologie de reconnaissance faciale publique ou privée
« Le gouvernement ne devrait jamais avoir accès à [la technologie de reconnaissance faciale] et ce n’est pas compatible avec avec une société démocratique », a déclaré Saira Hussain, avocate à l'Electronic Frontier Fondation. "Cela porte atteinte à nos droits aux premier et quatrième amendements."
Mais la prolifération de la technologie de reconnaissance faciale dans la sphère privée pourrait être inévitable à mesure que cette technologie devient plus facile à utiliser. Brostoff a prédit que d’ici deux ans, l’utilisation de FaceID ou son équivalent deviendrait une pratique courante pour les tâches quotidiennes comme le paiement dans un magasin ou l’enregistrement à l’aéroport.
En ce qui concerne la sphère privée, Hussain a déclaré à Digital Trends qu'elle craignait que les entreprises développent cette technologie sans tenir compte des implications éthiques. Si, par exemple, l’industrie hôtelière commence à adopter la technologie de reconnaissance faciale, il doit y avoir un moyen pour les gens d’y participer, a-t-elle déclaré, plutôt que de simplement la rendre omniprésente.
« Il devrait toujours y avoir un moyen pour les hôtels d’enregistrer quelqu’un qui ne souhaite pas adhérer au système », a-t-elle déclaré.
Harold Li, vice-président d'ExpressVPN, a déclaré à Digital Trends qu'il envisageait le déploiement comme étant d'abord disponible sous forme d'applications professionnelles pour les employés, "qui sont moins enclins ou capables de rejeter cette technologie, que ce soit pour pointer ou pour demander aux entrepreneurs de vérifier leur identité", a-t-il écrit dans un communiqué. e-mail.
Cela serait suivi par des applications destinées aux consommateurs – qui sont déjà en place dans certains pays.
« Nous constatons déjà cela dans des régions du monde moins soucieuses de la vie privée, comme la Chine, où les supermarchés et les stations de métro permettent aux gens de payer en scannant leur visage », a-t-il écrit. « À Singapour, des essais d'enregistrement en personne à l'hôtel ont également commencé. Bien que cela ne semble pas encore avoir atteint les États-Unis, les magasins très surveillés comme Amazon Go pourraient commencer à normaliser le compromis entre la confidentialité et la commodité.
"C'est un peu comme si une force imparable rencontrait un objet immobile", a déclaré Goodman. « Évidemment, il y a un facteur d’espionnage, un facteur de fluage et un facteur de confidentialité, mais il y a aussi le facteur commodité. Cela signifie que je peux me déplacer sans contact dans un aéroport. Cela signifie que je peux monter à bord d’un avion sans poser mon téléphone sur une surface que dix autres personnes viennent de toucher. »
Un système éthique
Si les experts ont raison et que la diffusion de la technologie de reconnaissance faciale est inévitable, comment pouvons-nous nous assurer d’y parvenir sans porter atteinte à la vie privée de chacun en cours de route ?
"Nous ne devons pas oublier que nous sommes tentés de renoncer à la vie privée pour des avantages perçus", a déclaré Gabrielle Hermier, chargée de presse à Surfrequin. « Les questions de la vie privée des utilisateurs, du consentement et des préjugés sexistes et raciaux du FRT sont au cœur du débat et doivent être abordées en premier. Les fournisseurs de FRT comme Amazon ou Microsoft et leurs utilisateurs, y compris les forces de l’ordre et les aéroports, devraient partager la responsabilité de garantir que FRT n’est pas biaisé.
La question du biais est pratiquement liée à la question du FRT. Comme l’a souligné Tom Chivers de ProPrivacy, une société basée au Royaume-Uni: « Le risque d’abus est bien trop élevé. Des études sur la reconnaissance faciale ont montré un taux d'échec de 81 % pour la reconnaissance faciale", a-t-il écrit dans un message à DT: faisant référence à ce que des chercheurs britanniques ont découvert en testant la reconnaissance faciale de la police métropolitaine technologie.
Cette étude a révélé que la technologie identifiait incorrectement des personnes innocentes à un taux astronomiquement élevé, selon SkyNews.
Li a convenu que le consentement et la transparence sont essentiels. « Ne rendez pas une telle technologie obligatoire. Laissez les utilisateurs s’inscrire plutôt que se désinscrire », a-t-il écrit, faisant écho aux préoccupations de Hussain. Il a également déclaré qu’un récent sondage ExpressVPN a révélé que 68 % des adultes américains se disaient préoccupés par l’omniprésence croissante de la technologie de reconnaissance faciale. Sur cette seule base, les refus et les questions juridiques sont également presque certainement inévitables.
"Nous n'en sommes certainement pas encore là sur le plan juridique", a déclaré Goodman. « Malheureusement, nos cadres juridiques semblent être un indicateur tardif des émotions des gens à ce sujet. Vous aurez probablement besoin qu’un événement convaincant se produise autour de FRT avant que quiconque n’y prête attention.
En fin de compte, c’est de votre visage dont nous parlons – et les gens devront pouvoir contrôler l’accès à leur propre visage, ont déclaré les défenseurs.
« S’il n’existe pas de processus significatif par lequel les gens peuvent s’inscrire et avoir la capacité de prendre cette décision par eux-mêmes, alors ce n’est pas éthique », a déclaré Hussain. "Quand vous parlez de données biométriques aussi privées que votre visage, et que cela ne peut pas être dissimulé en public de la même manière que vos mains, c'est une érosion de la vie privée."
Recommandations des rédacteurs
- Microsoft n'investira plus dans les technologies de reconnaissance faciale
