Bliži smo kineskom uznemirujućem 'sustavu socijalnog kreditiranja' nego što mislite

Jeste li ikada čuli za izreku da ste vi prosjek petero ljudi s kojima provodite najviše vremena? Vrlo je moguće da je netko u kineskoj vladi blisko upoznat s tom idejom. Tijekom proteklih nekoliko godina, zemlja je radila na kvantificiranju pouzdanosti svakog građanina u Kini. Pomalo poput financijske kreditne sposobnosti, samo se odnosi na to koliko dionica možemo staviti u nečiji karakter, ideju je da korištenje velikih podataka i A.I. algoritmi za analizu pouzdanosti mogu dovesti do nove ere u ispravnosti građanstvo.

Ili kao izvorni prijedlog za sustav pod nazivom “Nacrt planiranja za izgradnju sustava društvenog kreditiranja”, rekao je: “[Takva inicijativa] stvorit će okruženje javnog mnijenja u kojem je očuvanje povjerenja veličanstveno. To će ojačati iskrenost u državnim poslovima, komercijalnu iskrenost, društvenu iskrenost i izgradnju sudskog kredibiliteta.”

Preporučeni videozapisi

Dakle, gdje dolazi citat poslovnog čovjeka i motivacijskog govornika Jima Rohna o tome da je osoba zbroj pet drugih ljudi? Jer jedan element sustava socijalnog kreditiranja — koji će postati obavezan za građane do 2020. — ovisi o tome s kim se družite na internetu.

Povezano

  • Ne govori: ovaj nosivi uređaj omogućuje vam davanje glasovnih naredbi bez izgovaranja riječi
  • Kako A.I. za praćenje emocija promijenit će računalstvo kakvo poznajemo
  • A.I. dizajnira retro videoigre — i one su iznenađujuće dobre

To je ideja izravno iz često pozivane distopije Georgea Orwella Tisuću devetsto osamdeset četvrta.

Uz običnija područja kao što je plaćate li svoju naknadu za zajednicu na vrijeme, reputacijski algoritam sustava također će uzeti u obzir vaš izbor prijatelja na mreži. Ta osoba koja se žali na to kako vlada radi svoj posao mogla bi vas iznenada stajati ozbiljnog društvenog statusa. Sprijateljite se s previše pogrešnih mislilaca i brzo biste i vi mogli biti klasificirani kao pogrešni ljudi.

To je ideja izravno iz često pozivane distopije Georgea Orwella Tisuću devetsto osamdeset četvrta. Ali to također nije potpuno jedinstveno za Kinu. Istina, američka vlada ne uvodi javno Sustav društvenog kreditiranja, ali ideja da analiza digitalne reputacije nije nešto što utječe na sve nas u 2018. očito je neistinita.

Vaš društveni položaj, algoritmiziran

The nedavna Facebook saga u tijeku uključujući potencijalnu zlouporabu korisničkih podataka još jednom naglašava načine na koje se naše online osobe pripremaju, prikupljaju, unovčavaju i režu na razne načine. Sve više će ih se tretirati kao kreditne rezultate sljedeće generacije, ne samo da će moći pratiti naše financijsku respektabilnost, ali i niz drugih mjerila po kojima se možemo smatrati kvalitetnima građana.

Nedavno sam pao na takvom testu. Na Twitteru pokušavam pratiti različite mislioce, jer se čini da je to dobar način da se klonim efekta "mjehurića filtera". Ako postoji problem koji me snažno osjeća, volim pratiti "vođe mišljenja" s druge strane ideološke podjele kako bih bio izložen njihovim reakcijama na stavke u vijestima.

Westend61/Getty Images

Tko zna: dobro argumentirani slučaj mogao bi promijeniti vaše mišljenje o nečemu što ste mislili da je istina. U najmanju ruku, daje vam priliku da saznate najuvjerljivije argumente koji se koriste protiv vašeg stava. Sve je išlo dobro dok nisam otkrio da me blokirao određeni korisnik kojeg ću nazvati "korisnik X" s kojim nisam imao nikakvu prethodnu interakciju.

Na temelju malo daljnjeg kopanja otkrio sam objašnjenje: još jedna osoba koju sam pratio dodana je u automatizirani popis blokiranih od strane korisnika X, tako da je svima koji su ih slijedili zabranjeno pregledavanje tweetova korisnika X. Negdje u efemernom svijetu međumreža osjetio sam kako moj osobni društveni kredit primjetno pada na način na koji nije otkad su moji srednjoškolski kolege otkrili da još uvijek gledam Power Rangers.

Na internetu svi znaju da ste pas

Još uvijek se suočavamo s načinom na koji se mijenjaju naši digitalni identiteti. Prije dvadeset i pet godina nismo brinuli o reputaciji na internetu jer je cijela ideja o pokretanju interneta bila izgrađena oko anonimnosti. Čuvena 1993 New Yorker crtani film prikazuje dva očnjaka vješta u radu s računalom kako koriste računalo. “Na internetu nitko ne zna da ste pas”, glasio je slogan. Danas ne samo da tvrtke na internetu znaju da ste pas; oni znaju u kojoj marki pseće hrane uživate, koju ogrlicu nosite, gdje protežete noge i - u dobru i zlu - gdje radite nered.

Igniyte UK - Zašto su rezultati tražilice važni za vaš online ugled

Ovdje u 2018. uzimamo zdravo za gotovo da internet zna tko smo. Smatra se uvredom ako nije tako. Ako web stranice ne znaju tko smo, tada ne dobivamo prilagođene preporuke vijesti, ažuriranja prijatelja na društvenim mrežama ili predložene videozapise. K vragu, na Twitteru je ideja da budete "potvrđeni" kao vi zapravo najveća nagrada koju možete dobiti: ideja koja bi se prvim korisnicima interneta učinila bizarnom.

Studije su pokazale da se profili na društvenim mrežama također mogu koristiti za točno predviđanje uspjeha u zapošljavanju.

Iako možemo imati više likova na mreži, baš kao iu stvarnom svijetu, ti identiteti nisu uredno zatvoreni. Mogu se preliti u druga područja našeg života; granica se sve više briše između javnih i privatnih osoba, odnosno društvenih i profesionalnih. Na primjer, više studija sugeriralo je da profili na društvenim mrežama (osmišljeni za, znate, naše društveni živote) također se može koristiti za točno predviđanje našeg uspjeha u zapošljavanju. Jedan Istraživački projekt iz 2016 koju su proveli istraživači na belgijskom Sveučilištu Ghent došli su do zaključka da Facebook profilne slike mogu povećati ili smanjiti vaše šanse da vam se ponudi razgovor za posao do 40 posto.

"Mislim da se sadašnji i budući životopis pomiče od papirnatog koji šaljemo do toga kako izgledamo kada ga guglamo", Simon Wadsworth, izvršni partner Zapalite, tvrtka za upravljanje internetskom reputacijom, rekla je za Digital Trends. “Znamo da je to prva luka za poslodavce. Najbolji izgled na internetu bit će glavni čimbenik kada bilo tko želi upisati visoko obrazovanje, zaposliti se ili čak kupiti kuću.”

Igra koju morate igrati

Chris DeGraw/Digitalni trendovi

Nemojte misliti da se možete izvući i bez igranja. “Mislim da također postoji problem ako se osoba ni na koji način ne može pronaći na internetu – stoga je potreban sretan medij”, nastavio je. Nevidljivost na internetu može značiti da osoba ima nešto za skrivati. Jednostavnije, ali ključno, moglo bi jednostavno ostaviti osobu vani na digitalnom hladnoći. "Za generaciju koja ide na koledž i dobiva posao, to sugerira da nisu baš digitalno pametni ako nisu prisutni na internetu", rekao je Wadsworth.

Ako dobar Facebook profil povećava vjerojatnost da ćete dobiti intervju, što znači ne Facebook profil uopće znači?

Problematična priroda digitalnih identiteta samo će postati složenija kako nastavljamo sve više živjeti online. Kreditni rezultati mjere jedan aspekt naše reputacije: našu sposobnost da vratimo novac. Oni uzimaju u obzir stvari kao što su jesu li plaćanja izvršena na vrijeme, koliki je iznos naše kreditne linije koje smo koristili, duljinu naše kreditne povijesti, vrste kredita koje koristimo i naš prošli kredit aplikacije. Odatle se stvara FICO rezultat koji koriste banke i trgovci.

Ideja koja stoji iza FICO rezultata datira iz 1950-ih, prije nego što je konačno predstavljena 1989. Danas postoji mnoštvo informacija koje se mogu prikupiti o korisnicima za koje se nije moglo znati 1980-ih. Što neka osoba “lajka” na internetu, što kupuje, gdje kupuje, s kim se druži, što radi u njihovih domova, sve se to može sve više skupljati i pročešljati pomoću pametnog strojnog učenja alata.

Kako se sve više i više od nas virtualizira, ono što je moguće "znati" se širi. Podaci o fizičkoj kondiciji, zdravstveni kartoni, profili i sklonosti za upoznavanje na mreži, naša emocionalna stanja, kako učimo u učionici, koliko brzo čitamo e-knjige na godišnjem odmoru i mnogo više može izgraditi zapanjujuće točnu sliku tko smo mi. Istina, većina ovih podataka je anonimizirana, ali mogućnost da se te informacije koriste i unakrsno upućuju na razne nove načine je neizbježna stvarnost.

Povratak društvenog kredita

Sustav koji je kreditni rezultat zamijenio temeljio se na reputaciji i kvalitativnim prosudbama. Nekoj osobi može biti uskraćena kreditna linija jer se bankaru nije svidjelo njeno ponašanje. Osim povijesti plaćanja, to je značilo da su presude bile rezultat stvari kao što su kućni posjeti, percipirani položaj osobe u zajednici i više. Kreditni rezultati su trebali ukloniti subjektivnost i, jednako važno, neprozirnost iz ovog procesa.

Danas je društveni kredit ponovno stvarnost.

Danas je društveni kredit ponovno stvarnost. Sve, od informacija koje nam se prikazuju do cijena i mogućnosti koje nudimo, umotano je u bizantski način na koji digitalni svijet njeguje identitet. Imamo jednostavan pristup našim kreditnim rezultatima i znamo kako ih poboljšati. Kada je riječ o online svijetu, to nije ni približno tako jednostavno. Tko prikuplja podatke o nama, kako se koriste i što to znači za način na koji percipiramo digitalni svijet oko nas; sva su ova pitanja daleko od jasnih.

Projekti poput kineskog sustava socijalnog kreditiranja trebali bi zabrinuti ljude iz više razloga. Ali baš kao i znanstveno-fantastične distopije s kojima se uspoređuje, plaši nas jer urođeno razumijemo da je to svijet koji nam je poznat - samo s glasnoćom pojačanom na jedanaest. Nemojte ni na trenutak pomisliti da poticaj koji ga pokreće nije isti onaj koji se nalazi u svakoj interakciji koju imamo online.

Preporuke urednika

  • Kako ćemo znati kada umjetna inteligencija stvarno postane osjećajna?
  • Što je to tekućina? IBM-ov 'e-jezik' za prepoznavanje okusa će vam reći
  • Poput alkotesta za iscrpljenost, nova analiza krvi može pokazati koliko ste umorni
  • Osuđujući A.I. ogledalo procjenjuje koliko ste pouzdani na temelju vašeg izgleda