Vi er tættere på Kinas foruroligende 'Social Credit System', end du er klar over

Har du nogensinde hørt ordsproget, at du er gennemsnittet af de fem personer, du bruger mest tid sammen med? Det er meget muligt, at nogen i den kinesiske regering er indgående bekendt med ideen. I løbet af de sidste mange år har landet arbejdet på at kvantificere troværdigheden af ​​enhver borger i Kina. Lidt som en finansiel kreditscore, der kun gælder for, hvor meget aktie vi kan lægge i en persons karakter, ideen er at bruge big data og A.I. algoritmer til at analysere troværdighed kan føre til en ny æra i upstanding borgerskab.

Eller som det oprindelige forslag til systemet, med titlen "Planlægningsoversigt for opbygningen af ​​et socialt kreditsystem," sagde det: "[Sådan et initiativ] vil skabe et offentligt miljø, hvor det er strålende at bevare tillid. Det vil styrke oprigtighed i regeringsanliggender, kommerciel oprigtighed, social oprigtighed og opbygningen af ​​retlig troværdighed."

Så hvor kommer forretningsmanden og motivationstaleren Jim Rohns citat om, at en person er summen af ​​fem andre mennesker ind i det? Fordi et element i det sociale kreditsystem - som bliver obligatorisk for borgerne i 2020 - afhænger af, hvem du omgås online.

Ud over mere hverdagsagtige områder som om du betaler dit samfundsgebyr til tiden, vil systemets omdømmealgoritme også tage højde for dit valg af onlinevenner. Den person, der brokker sig over, hvordan regeringen gør sit arbejde, kan pludselig koste dig noget alvorlig social troværdighed. Bliv ven med for mange forkerttænkere, og du kan hurtigt blive klassificeret som en forkert tænker.

Det er en idé lige ud af den ofte påberåbte George Orwell-dystopi Nitten Firogfirs. Men det er heller ikke helt unikt for Kina. Det er sandt, at den amerikanske regering ikke offentligt indfører et socialt kreditsystem, men ideen om, at digital omdømmeanalyse ikke er noget, der påvirker os alle i 2018, er åbenlyst usand.

Din sociale status, algoritmiseret

Det seneste igangværende Facebook-saga involvering af potentielt brugerdatamisbrug understreger endnu en gang de måder, hvorpå vores online-personas er kurateret, indsamlet, indtægtsført og skåret i terninger på alle mulige måder. De vil i stigende grad blive behandlet som næste generations kreditscore, ikke kun i stand til at holde øje med vores økonomisk respektabilitet, men også måden af ​​andre målinger, som vi kan betragtes som kvalitet borgere.

For nylig bestod jeg sådan en test. På Twitter forsøger jeg at følge en bred vifte af tænkere, da det virker som en god måde at undgå "filterboble"-effekten. Hvis der er et emne, som jeg føler stærkt for, kan jeg godt lide at følge "tankeledere" på den anden side af det ideologiske skel for at blive udsat for deres reaktion på nyheder.

Hvem ved: en velargumenteret sag kan endda ændre din mening om noget, du troede var sandt. Det giver dig i det mindste en chance for at kende de mest overbevisende argumenter, der bruges mod din holdning. Alt gik godt, indtil jeg opdagede, at jeg var blevet blokeret af en bestemt bruger, jeg vil kalde "bruger X", som jeg ikke havde haft nogen tidligere interaktion med.

Baseret på lidt yderligere gravning opdagede jeg forklaringen: en anden person, jeg fulgte, var blevet tilføjet til en automatiseret blokeringsliste af bruger X, så alle, der fulgte dem, blev udelukket fra at se brugerens tweets X. Et sted i den flygtige verden af ​​interwebs følte jeg min personlige sociale kredit mærkbart glide på en måde, som den ikke havde gjort, siden mine klassekammerater på ungdomsskolen opdagede, at jeg stadig så Power Rangers.

På internettet ved alle, at du er en hund

Vi er stadig ved at få styr på den måde, vores digitale identiteter ændrer sig på. For 25 år siden bekymrede vi os ikke om online omdømme, fordi hele den galvaniserende idé med internettet var bygget op omkring anonymitet. En berømt 1993 New Yorker tegneserie afbildede to computerkyndige hjørnetænder, der bruger en computer. “På internettet er der ingen, der ved, at du er en hund", stod der på sloganet. I dag ved ikke kun virksomheder online, at du er en hund; de ved, hvilket mærke hundefoder du nyder, hvilket halsbånd du har på, hvor du strækker dine ben og - på godt og ondt - hvor du roder.

Her i 2018 tager vi det for givet, at internettet ved, hvem vi er. Det betragtes som en fornærmelse, hvis det ikke gør det. Hvis websteder ikke ved, hvem vi er, modtager vi ikke personlige nyhedsanbefalinger, venneopdateringer på sociale medier eller foreslåede videoer. For pokker, på Twitter, handler ideen om at blive "verificeret" som dig selv bare om den ultimative belønning, du kan få: en idé, der ville have slået tidlige webbrugere som bizar.

Selvom vi måske har flere personas online, ligesom vi gør i den virkelige verden, er disse identiteter ikke pænt selvstændige. De kan smitte af på andre områder af vores liv; grænsen udviskes i stigende grad mellem offentlige og private personer, eller sociale og professionelle. For eksempel har flere undersøgelser antydet, at profiler på sociale medier (designet til, du ved, vores social liv) kan også bruges til nøjagtigt at forudsige vores ansættelsessucces. En 2016 forskningsprojekt udført af forskere ved Belgiens Gent Universitet kom til den konklusion, at Facebook profilbilleder kan øge eller mindske dine chancer for at blive tilbudt en samtale til et job med op til 40 procent.

"Jeg tror, ​​at CV'et for nu og fremtiden flytter sig fra et papir, vi sender ud til, hvordan vi ser ud, når vi Googlede," Simon Wadsworth, en administrerende partner Igniyte, et online omdømmeadministrationsfirma, fortalte Digital Trends. »Vi ved, at det er det første anløbssted for arbejdsgivere. At se bedst ud på nettet vil være en vigtig faktor, når nogen ønsker at gå på en videregående uddannelse, få et job eller endda købe et hus."

Et spil du skal spille

Tror heller ikke, at du kan komme væk uden at spille. "Jeg tror også, der er et problem, hvis en person ikke kan findes online på nogen måde - så et glad medie er påkrævet," fortsatte han. Ikke at være opdaget online kan betyde, at en person har noget at skjule. Mere hverdagsagtigt, men altafgørende, kan det også blot efterlade en person ude i den digitale kulde. "For generationen, der går på college og får job, tyder det på, at de ikke er meget digitalt kyndige, hvis de ikke har nogen tilstedeværelse online," sagde Wadsworth.

Hvis en god Facebook-profil gør det mere sandsynligt, at du får et interview, hvad gør nej Facebook profil overhovedet betyder?

Den problematiske karakter af digitale identiteter vil kun blive mere kompleks, efterhånden som vi fortsætter med at leve mere og mere online. Kreditscore måler et aspekt af vores omdømme: vores evne til at betale penge tilbage. De tager højde for ting som om betalinger foretages til tiden, hvor meget af vores kreditlinje vi har brugt, længden af ​​vores kredithistorik, kredittyper, vi bruger, og vores tidligere kredit applikationer. Derfra oprettes en FICO-score og bruges af banker og detailhandlere.

Idéen bag FICO-scoren går tilbage til 1950'erne, før den i sidste ende blev introduceret i 1989. I dag er der et væld af informationer, der kan indsamles om brugere, som man umuligt kunne kende til i 1980'erne. Hvad en person "kan lide" online, hvad de køber, hvor de køber det, hvem de socialiserer med, hvad de laver i deres hjem, kan det hele i stigende grad samles og kæmmes ved hjælp af smart machine learning værktøjer.

Efterhånden som flere og flere af os selv bliver virtualiseret, udvides det, der er muligt at "vide". Fitness data, helbredsjournaler, online dating profiler og præferencer, vores følelsesmæssige tilstande, hvordan vi lærer i klasseværelset, hvor hurtigt vi læser e-bøger på vores ferie og meget mere kan opbygge et forbavsende præcist billede af hvem vi er. Sandt nok er meget af disse data anonymiseret, men evnen til at trække på denne information og krydshenvise den på alle mulige nye måder er en uundgåelig realitet.

Afkastet af social kredit

Systemet, som kreditvurderinger erstattede, var baseret på omdømme og kvalitative vurderinger. En person kan blive nægtet en kreditlinje, fordi en bankmand ikke kunne lide deres opførsel. Ud over betalingshistorik betød dette, at domme var resultatet af ting som hjemmebesøg, en persons opfattede status i samfundet og meget mere. Kreditvurderinger var beregnet til at tage subjektiviteten og, lige så vigtigt, uigennemsigtigheden ud af denne proces.

I dag er social kredit igen en realitet. Alt fra den information, vi bliver vist til de priser og muligheder, vi tilbydes, er pakket ind i den byzantinske måde, hvorpå den digitale verden kuraterer identitet. Vi har nem adgang til vores kreditscore og kender vejen til at forbedre dem. Når det kommer til onlineverdenen, er dette ikke nær så ligetil. Hvem indsamler data om os, hvordan bruges det, og hvad betyder det for den måde, vi opfatter den digitale verden omkring os på; alle disse spørgsmål er langt fra klare.

Projekter som Kinas sociale kreditsystem burde bekymre folk af en række årsager. Men ligesom de sci-fi-dystopier, det bliver sammenlignet med, skræmmer det os, fordi vi medfødte forstår, at det er en verden, vi kender - kun med lydstyrken skruet op til elleve. Tro ikke et sekund, at drivkraften, der driver den, ikke er den samme, der finder vej til enhver interaktion, vi har online.

Redaktørernes anbefalinger

• Hvordan ved vi, hvornår en AI rent faktisk bliver sansende?
• Hvad er den væske? IBMs smagsidentificerende 'e-tunge' vil fortælle dig
• Som en alkometer til udmattelse kan en ny blodprøve fortælle, hvor træt du er
• Judgmental A.I. spejlvurderinger, hvor troværdig du er baseret på dit udseende