Har du noen gang hørt ordtaket om at du er gjennomsnittet av de fem personene du tilbringer mest tid med? Det er godt mulig at noen i den kinesiske regjeringen er godt kjent med ideen. I løpet av de siste årene har landet jobbet for å kvantifisere påliteligheten til alle innbyggere i Kina. Litt som en finansiell kredittscore, bare gjelder hvor mye aksjer vi kan legge i en persons karakter, ideen er at bruk av big data og A.I. Algoritmer for å analysere pålitelighet kan føre til en ny æra i upstanding borgerskap.
Eller som det opprinnelige forslaget til systemet, med tittelen "Planleggingsskisse for bygging av et sosialt kredittsystem," sa det: "[Et slikt initiativ] vil skape et opinionsmiljø der det er strålende å beholde tillit. Det vil styrke oppriktighet i regjeringssaker, kommersiell oppriktighet, sosial oppriktighet og bygging av rettslig troverdighet.»
Anbefalte videoer
Så hvor kommer forretningsmannen og motivasjonstaleren Jim Rohns sitat om at en person er summen av fem andre mennesker inn i det? Fordi ett element i det sosiale kredittsystemet – som vil bli obligatorisk for innbyggerne innen 2020 – avhenger av hvem du omgås på nettet.
I slekt
- Ikke snakk: Denne bærbare enheten lar deg gi talekommandoer uten å si et ord
- Hvordan følelsessporing A.I. vil endre databehandling slik vi kjenner den
- En A.I. designer retro videospill - og de er overraskende gode
Det er en idé rett ut av den ofte påberopte George Orwell-dystopien Nitten åtti fire.
I tillegg til mer verdslige områder som om du betaler fellesavgiften din i tide, vil systemets omdømmealgoritme også ta hensyn til ditt valg av nettvenner. Den personen som klager over hvordan regjeringen gjør jobben sin, kan plutselig koste deg en seriøs sosial tro. Bli venn med for mange feiltenkere, og du kan fort bli klassifisert som en feiltenker også.
Det er en idé rett ut av den ofte påberopte George Orwell-dystopien Nitten åtti fire. Men det er heller ikke helt unikt for Kina. Det er sant at den amerikanske regjeringen ikke offentlig innfører et sosialt kredittsystem, men ideen om at digital omdømmeanalyse ikke er noe som påvirker oss alle i 2018 er åpenbart usann.
Din sosiale status, algoritmert
De nylig pågående Facebook-saga involvering av potensielt misbruk av brukerdata understreker nok en gang måtene våre online-personas kurateres, samles inn, tjener penger på og skjæres i terninger på alle mulige måter. I økende grad vil de bli behandlet som neste generasjons kredittpoeng, ikke bare i stand til å følge med på økonomisk respektabilitet, men også andre beregninger som gjør at vi kan betraktes som kvalitet innbyggere.
Nylig strøk jeg på en slik test. På Twitter prøver jeg å følge et mangfold av tenkere, siden det virker som en god måte å unngå "filterboble"-effekten. Hvis det er en sak jeg føler sterkt for, liker jeg å følge "tankeledere" på den andre siden av det ideologiske skillet for å bli utsatt for deres respons på nyheter i nyhetene.
Hvem vet: En godt argumentert sak kan til og med endre mening om noe du trodde var sant. I det minste gir det deg en sjanse til å kjenne til de mest overbevisende argumentene som brukes mot din posisjon. Alt gikk bra inntil jeg oppdaget at jeg hadde blitt blokkert av en bestemt bruker jeg vil kalle "bruker X" som jeg ikke hadde hatt noen tidligere interaksjon med.
Basert på litt videre graving oppdaget jeg forklaringen: en annen person jeg fulgte hadde blitt lagt til en automatisert blokkeringsliste av bruker X, slik at alle som fulgte dem ble utestengt fra å se brukerens tweets X. Et sted i intervevenes flyktige verden følte jeg at min personlige sosiale kreditt falt merkbart på en måte som den ikke hadde gjort siden klassekameratene mine på ungdomsskolen oppdaget at jeg fortsatt så på Power Rangers.
På internett vet alle at du er en hund
Vi er fortsatt i ferd med å ta tak i måten de digitale identitetene våre endrer seg på. For 25 år siden bekymret vi oss ikke for omdømmet på nettet fordi hele den galvaniserende ideen om internett var bygget rundt anonymitet. En berømt 1993 En fra New York tegneserien avbildet to datakyndige hjørnetenner som bruker en datamaskin. “På Internett er det ingen som vet at du er en hund", sto det på slagordet. I dag vet ikke bare selskaper på nettet at du er en hund; de vet hvilket merke hundemat du liker, hvilket halsbånd du har på deg, hvor du strekker bena og – på godt og vondt – hvor du roter.
Igniyte UK - Hvorfor søkemotorresultater betyr noe for ditt rykte på nettet
Her i 2018 tar vi det for gitt at internett vet hvem vi er. Det anses som en fornærmelse hvis det ikke gjør det. Hvis nettsteder ikke vet hvem vi er, får vi ikke personlige nyhetsanbefalinger, venneoppdateringer på sosiale medier eller foreslåtte videoer. Pokker, på Twitter, handler ideen om å bli "verifisert" som deg selv omtrent den ultimate belønningen du kan få: en idé som ville ha slått tidlige nettbrukere som bisarr.
Studier har antydet at profiler på sosiale medier også kan brukes til nøyaktig å forutsi ansettelsessuksessen vår.
Selv om vi kan ha flere personas på nettet, akkurat som vi gjør i den virkelige verden, er ikke disse identitetene pent selvstendige. De kan smitte over på andre områder av livene våre; grensen ble stadig mer utvisket mellom offentlige og private personer, eller sosiale og profesjonelle. For eksempel har flere studier antydet at sosiale medier-profiler (designet for, du vet, vår sosial liv) kan også brukes til nøyaktig å forutsi vår ansettelsessuksess. En 2016 forskningsprosjekt utført av forskere ved Belgias Ghent University kom til konklusjonen at Facebook profilbilder kan øke eller redusere sjansene dine for å bli tilbudt et jobbintervju med opptil 40 prosent.
"Jeg tror CV-en til nå og fremtiden beveger seg fra en papir-en vi sender ut til hvordan vi ser ut når Google Google," Simon Wadsworth, en administrerende partner Igniyte, et online selskap for administrasjon av omdømme, fortalte Digital Trends. "Vi vet at dette er den første anløpet for arbeidsgivere. Å se best ut på nettet vil være en viktig faktor når noen ønsker å gå inn i høyere utdanning, få en jobb eller til og med kjøpe et hus."
Et spill du må spille
Tror ikke du kan komme deg unna uten å spille heller. "Jeg tror også det er et problem hvis en person ikke kan bli funnet online på noen måte - så et lykkelig medium er nødvendig," fortsatte han. Å ikke bli oppdaget på nettet kan bety at en person har noe å skjule. Mer hverdagslig, men avgjørende, kan det også ganske enkelt forlate en person ute i den digitale kulden. "For generasjonen som går på høyskole og får jobb, tyder det på at de ikke er veldig digitalt kunnskapsrike hvis de ikke er tilstede på nettet," sa Wadsworth.
Hvis en god Facebook-profil gjør det mer sannsynlig at du får et intervju, hva gjør da nei
Den problematiske naturen til digitale identiteter vil bare bli mer kompleks ettersom vi fortsetter å leve stadig mer på nett. Kredittpoeng måler ett aspekt av vårt omdømme: vår evne til å betale tilbake penger. De tar hensyn til ting som om betalinger skjer i tide, hvor mye av kredittgrensen vår vi har brukt, lengden på kreditthistorikken vår, kreditttyper vi bruker og tidligere kreditt applikasjoner. Derfra blir en FICO-score opprettet og brukt av banker og forhandlere.
Ideen bak FICO-poengsummen går tilbake til 1950-tallet, før den til slutt ble introdusert i 1989. I dag er det et vell av informasjon som kan samles om brukere som man umulig kunne vite om på 1980-tallet. Hva en person "liker" på nettet, hva de kjøper, hvor de kjøper det, hvem de sosialiserer med, hva de gjør i hjemmene deres, kan alt i økende grad samles og finkjemmes ved hjelp av smart maskinlæring verktøy.
Ettersom flere og flere av oss selv blir virtualiserte, utvides det som er mulig å "vite". Treningsdata, helsejournaler, online dating profiler og preferanser, våre følelsesmessige tilstander, hvordan vi lærer i klasserom, hvor raskt vi leser e-bøker på ferien og mye mer kan bygge opp et forbløffende nøyaktig bilde av hvem vi er. Riktignok er mye av disse dataene anonymisert, men muligheten til å trekke på denne informasjonen og kryssreferanse på alle mulige nye måter er en uunngåelig realitet.
Retur av sosial kreditt
Systemet som kredittscore erstattet var basert på omdømme og kvalitative vurderinger. En person kan bli nektet en kredittlinje fordi en bankmann ikke likte oppførselen deres. I tillegg til betalingshistorikk, betydde dette at dommer var et resultat av ting som hjemmebesøk, en persons oppfattede status i samfunnet og mer. Kredittscore var ment å ta subjektiviteten og, like viktig, opasiteten ut av denne prosessen.
I dag er sosial kreditt igjen en realitet.
I dag er sosial kreditt igjen en realitet. Alt fra informasjonen vi blir vist til prisene og mulighetene vi tilbys, er pakket inn i den bysantinske måten den digitale verden kuraterer identitet. Vi har enkel tilgang til kredittscorene våre, og vet hvordan vi kan forbedre dem. Når det kommer til nettverdenen, er dette ikke på langt nær så enkelt. Hvem samler inn data om oss, hvordan brukes det og hva betyr dette for måten vi oppfatter den digitale verden rundt oss på; alle disse spørsmålene er langt fra klare.
Prosjekter som Kinas sosiale kredittsystem burde bekymre folk av en rekke årsaker. Men akkurat som sci-fi-dystopiene det blir sammenlignet med, skremmer det oss fordi vi medfødt forstår at det er en verden vi er kjent med - bare med volumet skrudd opp til elleve. Ikke et sekund tenk at drivkraften som driver den ikke er den samme som finner veien inn i hver interaksjon vi har på nettet.
Redaktørenes anbefalinger
- Hvordan vil vi vite når en AI faktisk blir sansende?
- Hva er den væsken? IBMs smaksidentifiserende "e-tunge" vil fortelle deg
- Som en alkometer for utmattelse, kan ny blodprøve fortelle hvor sliten du er
- Judgmental A.I. speilvurderer hvor pålitelig du er basert på utseendet ditt
