Odborníci varují, že rozpoznávání obličeje může být brzy všude

Začátkem tohoto měsíce oba Amazonka a IBM ustoupil od kontroverzní technologie rozpoznávání obličeje.

Amazon oznámil, že již nedovolí policii používat její technologii rozpoznávání obličeje Rekognition, a IBM se zavázala, že ustoupí od dalšího vývoje této technologie.

Tyto kroky přišly v době, kdy byly nástroje kritizovány za nepřesnosti a potenciální zneužití jako techniky hromadného sledování chytrá města.

Amazon ve svém oznámení napsal, že jeho rozhodnutí bylo přímo inspirováno snahou aktivistů zakázat policii používat rozpoznávání obličeje. v prohlášení IBM, společnost napsala, že „rozhodně odmítá a nebude tolerovat použití jakékoli technologie, včetně technologie rozpoznávání obličeje … pro hromadné sledování, rasové profilování, porušování základních lidských práv a svobod nebo jakýkoli účel, který není v souladu s našimi hodnotami a zásadami důvěry a Průhlednost.

Někteří odborníci na kybernetickou bezpečnost se však neprodávají – a tato rozhodnutí pravděpodobně zpomalí záplavu technologií rozpoznávání obličejů v budoucnu jen málo.

"To jen otevírá celou řadu otázek, například zda byli zapojeni do hromadného sledování." software předtím?" zeptal se David Harding, technický ředitel společnosti zabývající se kybernetickou bezpečností ImageWare. „Proč to předtím neporušilo jejich zásady důvěry a transparentnosti? Zdá se to být velmi zvláštní. Je tu toho hodně k vybalení."

George Brostoff, generální ředitel společnosti SensibleVision zabývající se technologií 3D skenování obličeje, pro Digital Trends řekl, že se domnívá, že rozhodnutí mohla mít nějaký dřívější motiv.

„Jako v mnoha věcech je oznámení IBM pravděpodobně složitější, než se na první pohled zdá,“ řekl a naznačil, že je nepravděpodobné, že by IBM měla v první řadě velký zájem na rozpoznávání obličejů.

IBM neodpověděla na žádost o komentář ohledně toho, jak moc by takový krok ovlivnil jejich hospodářský výsledek, ani kolik investovala do výzkumu a vývoje rozpoznávání obličejů.

Jak Brostoff, tak Harding poznamenali, že IBM není nutně významným vládním dodavatelem ve světě sledování obličeje.

„Mnoho společností, které dělají [technologii rozpoznávání obličeje] ve vládním měřítku, je společnosti, o kterých nikdo neslyšel,“ řekl Ben Goodman, senior viceprezident společnosti pro kybernetickou bezpečnost ForgeRock. „Tyto společnosti se nemusejí obávat reputačního rizika. Amazon a IBM jsou velká jména, jsou více ohroženi.“

Goodman zpochybnil, jaký druh návratnosti společnosti, jako je Amazon, právě nyní získává vývoj technologie rozpoznávání obličejů.

„Opravdu se musí zamyslet nad tím, zda má cenu bránit v soukromí lidí. Dostáváte z toho dostatečnou návratnost,“ řekl. „Podívejte se na Clearview A.I. [společnost FRT, o které bylo odhaleno, že stahuje sociální média a prodává software k vymáhání práva], kteří drze mluvili o tom, co dělali, a byli zničeno. Jsem si jistý, že nejsou jediní, kdo to dělá, ale to ukazuje, jaká je nálada veřejnosti."

A zatímco sledování obličeje bylo pranýřováno jeho notoricky známá nepřesnost, říká se použití jako a policejní nástroj během protestůa potenciální porušování práv na soukromí se pravděpodobně velmi brzy začnou objevovat jako součást každodenního života.

Veřejná versus soukromá technologie rozpoznávání obličeje

„Vláda by nikdy neměla mít přístup k [technologii rozpoznávání obličeje] a ta není kompatibilní s demokratickou společností,“ řekla Saira Hussain, právní zástupkyně společnosti Electronic Frontier Nadace. "Porušuje to naše práva prvního a čtvrtého dodatku."

Rozšíření technologie rozpoznávání obličeje v soukromé sféře však může být nevyhnutelné, protože se tato technologie stává snadněji použitelnou. Brostoff předpověděl, že do dvou let se používání FaceID nebo jeho ekvivalentu stane běžnou praxí pro každodenní úkoly, jako je odbavení v obchodě nebo odbavení na letišti.

Pokud jde o soukromou sféru, Hussain pro Digital Trends řekla, že se obává, že korporace vyvinou tuto technologii, aniž by zvážily etické důsledky. Pokud například hotelový průmysl začne přijímat technologii rozpoznávání obličejů, musí existovat způsob, jak se lidé mohou přihlásit, řekla, spíše než aby to bylo všudypřítomné.

"Vždy by měl existovat způsob, jak hotely odbavit někoho, kdo se nechce přihlásit do systému," řekla.

Harold Li, viceprezident ExpressVPN, řekl Digital Trends, že si představoval zavedení jako první dostupné jako pracovní aplikace pro zaměstnance, "kteří jsou méně nakloněni nebo schopni odmítnout tuto technologii, ať už je to kvůli načasování, nebo kvůli tomu, aby dodavatelé ověřili jejich identitu," napsal v prohlášení. e-mailem.

Poté by následovaly aplikace zaměřené na spotřebitele – které jsou již v některých zemích zavedeny.

„Už to vidíme v částech světa, které méně dbají na soukromí, jako je Čína, kde supermarkety a stanice metra umožňují lidem platit skenováním obličeje,“ napsal. „V Singapuru také začaly některé pokusy o odbavení v hotelu přes obličej. I když se zdá, že se to zatím do USA nedostalo, obchody náročné na dohled, jako je Amazon Go, mohou začít normalizovat obchodování se soukromím kvůli pohodlí.“

"Je to něco jako nezastavitelná síla, která se setká s nehybným objektem," řekl Goodman. „Samozřejmě je tu faktor špionáže a faktor plížení a faktor soukromí, ale je tu také faktor pohodlí. Znamená to, že na letišti můžu být bez dotyku. Znamená to, že mohu nastoupit do letadla, aniž bych položil svůj telefon na povrch, kterého se právě dotklo deset dalších lidí.“

Etický systém

Pokud mají odborníci pravdu a rozšíření technologie rozpoznávání obličeje je nevyhnutelné, jak zajistíme, že se tam dostaneme, aniž bychom přitom prolomili soukromí všech?

„Neměli bychom zapomínat, že jsme v pokušení vzdát se soukromí kvůli domnělým výhodám,“ řekla Gabrielle Hermier, mediální zástupkyně společnosti Surfshark. „Otázky soukromí uživatelů, souhlasu a genderové a rasové zaujatosti FRT jsou ústředním bodem debaty a měly by být řešeny jako první. Prodejci FRT jako Amazon nebo Microsoft a jejich uživatelé, včetně donucovacích orgánů a letišť, by měli sdílet odpovědnost za to, že FRT nebude zaujatá.“

Otázka zaujatosti je prakticky spojena s otázkou FRT. Jak zdůraznil Tom Chivers z ProPrivacy se sídlem ve Spojeném království: „Potenciál zneužití je příliš vysoký. Studie zaměřené na rozpoznávání obličeje prokázaly 81% míru selhání při vyhledávání obličejů,“ napsal ve zprávě pro DT, s odkazem na to, co zjistili vědci ve Spojeném království, když testovali rozpoznávání obličeje Metropolitní policie technika.

Tato studie zjistila, že technologie nesprávně identifikovala nevinné lidi v astronomicky vysoké míře, podle SkyNews.

Klíčem je souhlas a transparentnost. „Nedělejte takovou technologii povinnou. Nechte uživatele raději se přihlásit než odhlásit,“ napsal a zopakoval Hussainovy ​​obavy. Řekl také, že průzkum ExpressVPN nedávno zjistil, že 68 % dospělých v USA uvedlo, že mají obavy z rostoucí všudypřítomnosti technologie rozpoznávání obličeje. Již na základě toho jsou téměř jistě nevyhnutelné zpětné vazby a právní otázky.

"Určitě tam ještě nejsme z hlediska zákona," řekl Goodman. „Naše právní rámce se bohužel zdají být zaostávajícím ukazatelem emocí lidí v této věci. Pravděpodobně budete potřebovat, aby se kolem FRT odehrála nějaká přesvědčivá událost, než jí někdo začne věnovat pozornost."

Na konci dne mluvíme o vaší tváři – a lidé budou muset mít možnost ovládat přístup ke svým vlastním tvářím, řekli obhájci.

"Pokud neexistuje smysluplný proces, kterým by se lidé mohli přihlásit a měli možnost učinit toto rozhodnutí sami, pak to není etické," řekl Hussain. "Když mluvíte o biometrických údajích, které jsou stejně soukromé jako váš obličej, a nemůžete to na veřejnosti zakrýt stejným způsobem jako své ruce, je to narušení soukromí."

Doporučení redakce

• Microsoft již nebude investovat do technologií pro rozpoznávání obličeje