Sme bližšie k znepokojivému čínskemu „systému sociálnych kreditov“, ako si uvedomujete

Počuli ste už niekedy príslovie, že ste priemerom piatich ľudí, s ktorými trávite najviac času? Je celkom možné, že niekto v čínskej vláde je s touto myšlienkou dôverne oboznámený. V posledných rokoch sa krajina snažila vyčísliť dôveryhodnosť každého občana v Číne. Trochu ako finančné kreditné skóre, ktoré sa vzťahuje len na to, koľko akcií môžeme vložiť do charakteru človeka, myšlienky je, že pomocou veľkých dát a A.I. Algoritmy na analýzu dôveryhodnosti môžu viesť k novej ére bezúhonnosti občianstvo.

Alebo ako pôvodný návrh systému s názvom „Plán plánovania výstavby systému sociálnych kreditov“, povedal: „[Takáto iniciatíva] vytvorí prostredie verejnej mienky, v ktorom je úžasné udržať si dôveru. Posilní to úprimnosť vo vládnych záležitostiach, obchodnú úprimnosť, spoločenskú úprimnosť a budovanie súdnej dôveryhodnosti.“

Odkiaľ teda prichádza citát podnikateľa a motivačného rečníka Jima Rohna o tom, že človek je súčtom piatich ďalších ľudí? Pretože jeden prvok systému sociálnych kreditov – ktorý bude pre občanov povinný do roku 2020 – závisí od toho, s kým sa online spájate.

Okrem všednejších oblastí, ako je to, či platíte komunitný poplatok včas, algoritmus reputácie systému zohľadní aj váš výber online priateľov. Ten človek, ktorý sa sťažuje na to, ako si vláda robí svoju prácu, by vás zrazu mohol stáť vážne sociálne presvedčenie. Spriateľte sa s príliš mnohými nesprávnymi mysliteľmi a rýchlo sa môžete ocitnúť zaradený medzi nesprávne mysliteľov.

Je to myšlienka priamo z často vzývanej dystopie Georgea Orwella Devätnásť osemdesiatštyri. Ale tiež to nie je úplne jedinečné pre Čínu. Je pravda, že vláda USA verejne nezavádza systém sociálnych kreditov, ale myšlienka, že analýza digitálnej reputácie nie je niečo, čo nás všetkých ovplyvňuje v roku 2018, je zjavne nepravdivá.

Vaše sociálne postavenie, algoritmizované

The nedávna prebiehajúca sága na Facebooku zahrnutie potenciálneho zneužitia používateľských údajov opäť podčiarkuje spôsoby, akými sú naše online persony vyberané, zhromažďované, speňažené a krájané na kocky všetkými možnými spôsobmi. Čoraz častejšie sa s nimi bude zaobchádzať ako s kreditnými skóre novej generácie, nielen že budú môcť sledovať naše finančnej slušnosti, ale aj spôsobu iných metrík, podľa ktorých nás možno považovať za kvalitu občanov.

Nedávno som v takomto teste neuspel. Na Twitteri sa snažím sledovať rôznorodú škálu mysliteľov, pretože sa to zdá byť dobrý spôsob, ako sa vyhnúť efektu „filtračnej bubliny“. Ak mám nejaký problém, rád sledujem „myšlienkových vodcov“ na druhej strane ideologickej priepasti, aby som bol vystavený ich reakciám na články v správach.

Kto vie: dobre vyargumentovaný prípad môže dokonca zmeniť váš názor na niečo, čo ste považovali za pravdivé. Prinajmenšom vám to dáva šancu poznať najpresvedčivejšie argumenty použité proti vášmu postoju. Všetko išlo dobre, kým som nezistil, že ma zablokoval istý používateľ, ktorého zavolám „používateľ X“, s ktorým som predtým nekomunikoval.

Na základe ďalšieho hľadania som objavil vysvetlenie: ďalšia osoba, ktorú som sledoval, bola pridaná k an automatizovaný blokovaný zoznam používateľom X, takže ktokoľvek, kto ich sledoval, mal potom zakázané prezerať tweety používateľa X. Niekde v efemérnom svete interwebov som cítil, ako môj osobný sociálny kredit výrazne klesol spôsobom, akým sa to nestalo, odkedy moji spolužiaci na strednej zistili, že stále pozerám Power Rangers.

Na internete každý vie, že ste pes

Stále sa stretávame so spôsobom, akým sa menia naše digitálne identity. Pred dvadsiatimi piatimi rokmi sme sa o online reputáciu nebáli, pretože celá vzrušujúca myšlienka internetu bola postavená na anonymite. Slávny rok 1993 New Yorker karikatúra zobrazovala dvoch počítačovo zdatných psov pomocou počítača. “Na internete nikto nevie, že ste pes“ znel slogan. Dnes nielen spoločnosti online vedia, že ste pes; vedia, akú značku krmiva pre psov máte radi, aký obojok nosíte, kde si naťahujete nohy a – v dobrom aj zlom – kde robíte neporiadok.

Tu v roku 2018 považujeme za samozrejmosť, že internet vie, kto sme. Ak sa tak nestane, považuje sa to za urážku. Ak webové stránky nevedia, kto sme, nedostávame prispôsobené odporúčania správ, aktualizácie priateľov zo sociálnych médií ani navrhované videá. Sakra, na Twitteri je myšlienka byť „overený“ ako vy sám o sebe len tou najvyššou odmenou, ktorú môžete mať: nápadom, ktorý by raným používateľom webu pripadal bizarný.

Aj keď môžeme mať online viacero osôb, rovnako ako v reálnom svete, tieto identity nie sú úhľadne samostatné. Môžu sa preniesť do iných oblastí nášho života; čoraz viac sa stiera hranica medzi verejnými a súkromnými osobami, či spoločenskými a profesionálnymi. Viaceré štúdie napríklad naznačujú, že profily sociálnych médií (určené pre, viete, naše sociálna životy) možno použiť aj na presné predpovedanie nášho úspechu v zamestnaní. Jeden výskumný projekt z roku 2016 výskumníci z belgickej univerzity v Gente dospeli k záveru Facebook profilové obrázky môžu zvýšiť alebo znížiť vaše šance, že vám ponúknu pracovný pohovor, až o 40 percent.

„Myslím si, že životopis súčasnosti a budúcnosti prechádza z papierového životopisu, ktorý posielame, k tomu, ako vyzeráme pri Google,“ Simon Wadsworth, vedúci partner Igniyte, online spoločnosť spravujúca reputáciu, povedala pre Digital Trends. „Vieme, že toto je prvá zastávka pre zamestnávateľov. Vyzerať čo najlepšie online bude hlavným faktorom, keď sa niekto snaží ísť na vyššie vzdelanie, získať prácu alebo dokonca kúpiť dom.“

Hra, ktorú musíte hrať

Nemyslite si, že sa môžete dostať preč bez hrania. „Myslím si tiež, že existuje problém, ak osobu nemožno žiadnym spôsobom nájsť online – takže je potrebné šťastné médium,“ pokračoval. Neexistencia objaviteľnosti online môže znamenať, že človek má čo skrývať. Prízemnejšie, ale čo je najdôležitejšie, môže to človeka jednoducho nechať v digitálnej pohode. „Pre generáciu, ktorá chodí na vysokú školu a získava prácu, to naznačuje, že nie je veľmi digitálne zdatná, ak nemá žiadnu prítomnosť online,“ povedal Wadsworth.

Ak dobrý profil na Facebooku zvyšuje pravdepodobnosť, že dostanete rozhovor, čo nie Facebook profil vôbec zlý?

Problematická povaha digitálnych identít bude len zložitejšia, keď budeme stále viac žiť online. Úverové skóre meria jeden aspekt našej reputácie: našu schopnosť splácať peniaze. Zohľadňujú veci, ako napríklad to, či sa platby uskutočňujú načas, aká časť nášho úverového rámca ktoré sme použili, dĺžku našej úverovej histórie, typy úverov, ktoré používame, a náš predchádzajúci úver aplikácie. Odtiaľ sa vytvára skóre FICO a používajú ho banky a maloobchodníci.

Myšlienka skóre FICO sa datuje do 50-tych rokov minulého storočia, predtým ako bola v roku 1989 predstavená. Dnes je možné získať množstvo informácií o používateľoch, o ktorých v 80. rokoch minulého storočia nebolo možné vedieť. Čo má človek na internete rád, čo kupuje, kde to kupuje, s kým sa stretáva, čo robí ich domovy, to všetko sa dá stále viac zhromaždiť a prečesať pomocou inteligentného strojového učenia nástrojov.

Ako sa stále viac nás samých virtualizuje, rozširuje sa to, čo je možné „poznať“. Údaje o fitness, zdravotné záznamy, online zoznamovacie profily a preferencie, naše emocionálne stavy, ako sa učíme v v triede, ako rýchlo čítame e-knihy na dovolenke a oveľa viac si dokáže vytvoriť neuveriteľne presný obraz kto sme. Je pravda, že veľa z týchto údajov je anonymizovaných, ale možnosť čerpať z týchto informácií a porovnávať ich všetkými možnými novými spôsobmi je nevyhnutnou realitou.

Návrat sociálneho kreditu

Systém, ktorý kreditné skóre nahradil, bol založený na reputácii a kvalitatívnych úsudkoch. Osobe môže byť zamietnutá úverová linka, pretože bankárovi sa nepáčilo jej správanie. Okrem histórie platieb to znamenalo, že rozsudky boli výsledkom vecí, ako sú domáce návštevy, vnímané postavenie osoby v komunite a ďalšie. Úverové skóre bolo určené na odstránenie subjektivity a, čo je rovnako dôležité, nepriehľadnosti tohto procesu.

Dnes je sociálny kredit opäť realitou. Všetko od informácií, ktoré sa nám zobrazujú, až po ceny a príležitosti, ktoré ponúkame, je zabalené do byzantského spôsobu, akým digitálny svet určuje identitu. Máme jednoduchý prístup k našim kreditným skóre a vieme, ako ich zlepšiť. Pokiaľ ide o online svet, nie je to také jednoduché. Kto o nás zhromažďuje údaje, ako sa používajú a čo to znamená pre spôsob, akým vnímame digitálny svet okolo nás; všetky tieto otázky nie sú ani zďaleka jasné.

Projekty ako čínsky systém sociálnych kreditov by mali ľudí znepokojovať z viacerých dôvodov. Ale rovnako ako sci-fi dystópie, ku ktorým sa prirovnáva, nás to desí, pretože vrodene chápeme, že je to svet, ktorý poznáme – len s hlasitosťou na jedenásť. Ani na chvíľu si nemyslite, že impulz, ktorý ho poháňa, nie je ten istý, ktorý si nájde cestu do každej interakcie, ktorú máme online.

Odporúčania redaktorov

• Ako budeme vedieť, kedy sa AI skutočne stane vnímavou?
• Čo je to kvapalina? „E-jazyk“ IBM identifikujúci príchuť vám to povie
• Podobne ako dychový test na vyčerpanie, aj nový krvný test dokáže zistiť, ako ste unavení
• Súdny A.I. zrkadlo hodnotí, ako ste dôveryhodní na základe vášho vzhľadu