Vi är närmare Kinas oroande "sociala kreditsystem" än du inser

Har du någonsin hört talesättet att du är genomsnittet av de fem personer som du spenderar mest tid med? Det är mycket möjligt att någon i den kinesiska regeringen är väl bekant med idén. Under de senaste åren har landet arbetat för att kvantifiera trovärdigheten för alla medborgare i Kina. Lite som en finansiell kreditpoäng, gäller bara hur mycket lager vi kan lägga i en persons karaktär, idén är att använda big data och A.I. algoritmer för att analysera tillförlitlighet kan leda till en ny era i upstanding medborgarskap.

Eller som det ursprungliga förslaget till systemet, med titeln "Planeringsöversikt för uppbyggnaden av ett socialt kreditsystem", uttryckte det: "[Ett sådant initiativ] kommer att skapa en opinionsmiljö där det är fantastiskt att behålla förtroende. Det kommer att stärka uppriktighet i regeringsärenden, kommersiell uppriktighet, social uppriktighet och uppbyggnaden av rättslig trovärdighet.”

Så var kommer affärsmannen och motivationstalaren Jim Rohns citat om att en person är summan av fem andra personer in i det? Eftersom en del av det sociala kreditsystemet – som kommer att bli obligatoriskt för medborgare 2020 – beror på vem du umgås med online.

Förutom mer vardagliga områden som om du betalar din communityavgift i tid, kommer systemets ryktealgoritm också att ta hänsyn till ditt val av onlinevänner. Den personen som klagar på hur regeringen gör sitt jobb kan plötsligt kosta dig en seriös social cred. Bli vän med för många feltänkare och du kan snabbt komma att klassas som en feltänkare också.

Det är en idé direkt ur den ofta åberopade George Orwell-dystopin Nitton åttiofyra. Men det är inte heller helt unikt för Kina. Det är sant att den amerikanska regeringen inte offentligt inrättar ett socialt kreditsystem, men tanken att digital rykteanalys inte är något som påverkar oss alla under 2018 är uppenbart osann.

Din sociala ställning, algoritmiserad

De senaste pågående Facebook-saga Att involvera potentiellt missbruk av användardata understryker än en gång de sätt på vilka våra online-personas kureras, samlas in, tjänar pengar och delas upp och tärnas på alla möjliga sätt. Allt oftare kommer de att behandlas som nästa generations kreditpoäng, inte bara kunna hålla koll på våra ekonomisk respektabilitet men också sätt på andra mått som vi kan betraktas som kvalitet medborgare.

Nyligen misslyckades jag på ett sådant test. På Twitter försöker jag följa en mängd olika tänkare, eftersom det verkar vara ett bra sätt att undvika "filterbubblan"-effekten. Om det finns en fråga som jag känner starkt för, gillar jag att följa "tankeledare" på andra sidan den ideologiska klyftan för att bli utsatt för deras svar på nyheter i nyheterna.

Vem vet: ett välargumenterat fall kan till och med ändra dig om något du trodde var sant. Det ger dig åtminstone en chans att känna till de mest övertygande argumenten som används mot din position. Allt gick bra tills jag upptäckte att jag hade blivit blockerad av en viss användare som jag kallar "användare X" som jag inte hade haft någon tidigare interaktion med.

Baserat på lite ytterligare grävande upptäckte jag förklaringen: en annan person som jag följde hade lagts till i en automatiserad blockeringslista av användare X, så att alla som följde dem sedan blockerades från att se användarens tweets X. Någonstans i den tillfälliga världen av interwebs kände jag att min personliga sociala kredit märkbart gled på ett sätt som den inte gjort sedan mina klasskamrater på mellanstadiet upptäckte att jag fortfarande tittade på Power Rangers.

På internet vet alla att du är en hund

Vi håller fortfarande på att ta itu med hur våra digitala identiteter förändras. För tjugofem år sedan oroade vi oss inte för rykte online eftersom hela den galvaniserande idén med internet byggdes kring anonymitet. En berömd 1993 New York-bo tecknad film föreställde två datorkunniga hundar som använder en dator. “På Internet vet ingen att du är en hund", stod det i slagordet. Idag vet inte bara företag online att du är en hund; de vet vilket märke av hundmat du gillar, vilket halsband du har på dig, var du sträcker på benen och - på gott och ont - var du stökar.

Här under 2018 tar vi för givet att internet vet vilka vi är. Det anses vara en förolämpning om det inte gör det. Om webbplatser inte vet vilka vi är får vi inte personliga nyhetsrekommendationer, vänuppdateringar för sociala medier eller föreslagna videor. Heck, på Twitter handlar idén om att bli "verifierad" som dig själv bara om den ultimata belöningen du kan få: en idé som skulle ha slagit tidiga webbanvändare som bisarr.

Även om vi kan ha flera personligheter online, precis som vi gör i den verkliga världen, är dessa identiteter inte helt fristående. De kan spilla över till andra områden i våra liv; gränsen suddas ut alltmer mellan offentliga och privata personer, eller sociala och professionella. Till exempel har flera studier föreslagit att sociala medieprofiler (designade för, du vet, våra social liv) kan också användas för att exakt förutsäga vår anställningsframgång. Ett 2016 års forskningsprojekt utfört av forskare vid Belgiens universitet i Gent kom till slutsatsen att Facebook profilbilder kan öka eller minska dina chanser att bli erbjudna en intervju för ett jobb med upp till 40 procent.

"Jag tror att CV: t för nu och i framtiden flyttas från ett papper som vi skickar ut till hur vi ser ut när vi googlade," Simon Wadsworth, en managing partner Igniyte, ett online reputation management företag, berättade för Digital Trends. "Vi vet att det är den första anlöpshamnen för arbetsgivare. Att se bäst ut på nätet kommer att vara en viktig faktor när någon vill gå in på högre utbildning, få ett jobb eller till och med köpa ett hus."

Ett spel du måste spela

Tro inte att du kan komma undan utan att spela heller. "Jag tror också att det finns ett problem om en person inte kan hittas online på något sätt - så ett lyckligt medium krävs," fortsatte han. Att inte kunna upptäckas online kan innebära att en person har något att dölja. Mer vardagligt, men avgörande, det kan också helt enkelt lämna en person ute i den digitala kylan. "För den generation som går på college och får jobb, tyder det på att de inte är särskilt kunniga om digitalt om de inte har någon närvaro online," sa Wadsworth.

Om en bra Facebook-profil gör att du är mer benägen att få en intervju, vad gör nej Facebook profil överhuvudtaget elak?

Den problematiska karaktären hos digitala identiteter kommer bara att bli mer komplex när vi fortsätter att leva allt mer online. Kreditpoäng mäter en aspekt av vårt rykte: vår förmåga att betala tillbaka pengar. De tar hänsyn till saker som om betalningar görs i tid, hur stor del av vår kreditgräns vi har använt, längden på vår kredithistorik, typer av krediter vi använder och vår tidigare kredit applikationer. Därifrån skapas en FICO-poäng och används av banker och återförsäljare.

Idén bakom FICO-resultatet går tillbaka till 1950-talet, innan det slutligen introducerades 1989. Idag finns det en mängd information som kan samlas in om användare som man omöjligt kunde känna till på 1980-talet. Vad en person "gillar" på nätet, vad de köper, var de köper det, vem de umgås med, vad de gör i deras hem kan allt allt mer samlas och kammas med hjälp av smart maskininlärning verktyg.

När fler och fler av oss själva virtualiseras, expanderar det som är möjligt att "veta". Fitnessdata, hälsojournaler, online dating profiler och preferenser, våra känslomässiga tillstånd, hur vi lär oss i klassrummet, hur snabbt vi läser e-böcker på vår semester och mycket mer kan bygga upp en häpnadsväckande korrekt bild av vilka vi är. Det är sant att mycket av denna data är anonymiserad, men möjligheten att dra på denna information och korsreferens på alla möjliga nya sätt är en oundviklig verklighet.

Återkomsten av social kredit

Systemet som kreditpoäng ersatte var baserat på rykte och kvalitativa bedömningar. En person kan nekas en kredit för att en bankir inte gillade deras uppförande. Förutom betalningshistorik innebar detta att bedömningar var resultatet av saker som hembesök, en persons upplevda ställning i samhället och mer. Kreditpoäng var avsedda att ta bort subjektiviteten och, lika viktigt, opaciteten ur denna process.

Idag är social kredit återigen verklighet. Allt från informationen som vi visas till priserna och möjligheterna vi erbjuds är insvept i det bysantinska sättet som den digitala världen kurerar identitet. Vi har enkel tillgång till våra kreditvärden och vet hur vi kan förbättra dem. När det kommer till onlinevärlden är detta inte alls så enkelt. Vem samlar in data om oss, hur används det och vad betyder det för hur vi uppfattar den digitala världen omkring oss; alla dessa frågor är långt ifrån klara.

Projekt som Kinas sociala kreditsystem borde oroa människor av ett antal anledningar. Men precis som de sci-fi-dystopier det liknas vid, skrämmer det oss eftersom vi medfödd förstår att det är en värld vi är bekanta med - bara med volymen skruvad upp till elva. Tro inte för en sekund att drivkraften som driver den inte är densamma som hittar in i varje interaktion som vi har online.

Redaktörens rekommendationer

• Hur ska vi veta när en AI faktiskt blir kännande?
• Vad är det för vätska? IBM: s smakidentifierande "e-tunga" kommer att berätta för dig
• Som en alkomätare för utmattning kan nya blodprov avgöra hur trött du är
• Judgmental A.I. speglar hur pålitlig du är baserat på ditt utseende