Heb je ooit het gezegde gehoord dat je het gemiddelde bent van de vijf mensen met wie je de meeste tijd doorbrengt? Het is heel goed mogelijk dat iemand binnen de Chinese regering goed op de hoogte is van het idee. De afgelopen jaren heeft het land gewerkt aan het kwantificeren van de betrouwbaarheid van elke burger in China. Een beetje zoals een financiële kredietscore, die alleen betrekking heeft op hoeveel waarde we kunnen hechten aan iemands karakter, het idee is dat het gebruik van big data en A.I. Algoritmen om de betrouwbaarheid te analyseren kunnen leiden tot een nieuw tijdperk van opwaardering burgerij.
Of zoals het oorspronkelijke voorstel voor het systeem, getiteld “Planningsoverzicht voor de opbouw van een sociaal kredietsysteem”, luidde het als volgt: “[Een dergelijk initiatief] zal een omgeving voor de publieke opinie scheppen waarin het behouden van vertrouwen glorieus is. Het zal de oprechtheid in overheidszaken, de commerciële oprechtheid, de sociale oprechtheid en de opbouw van rechterlijke geloofwaardigheid versterken.”
Aanbevolen video's
Dus waar komt het citaat van zakenman en motiverende spreker Jim Rohn over dat een persoon de optelsom is van vijf andere mensen? Omdat een onderdeel van het sociale kredietsysteem – dat in 2020 verplicht zal worden voor burgers – afhangt van met wie je online omgaat.
Verwant
- Niet spreken: met deze wearable kunt u spraakopdrachten geven zonder een woord te zeggen
- Hoe emotie-tracking A.I. zal de computer zoals wij die kennen veranderen
- Een A.I. ontwerpt retro-videogames – en ze zijn verrassend goed
Het is een idee dat rechtstreeks voortkomt uit de vaak aangeroepen dystopie van George Orwell Negentienvierentachtig.
Naast meer alledaagse kwesties, zoals of u uw gemeenschapskosten op tijd betaalt, zal het reputatie-algoritme van het systeem ook rekening houden met uw keuze van online vrienden. Die persoon die klaagt over de manier waarop de overheid haar werk doet, kan je plotseling een serieuze sociale reputatie kosten. Sluit vriendschap met te veel foute denkers en je zou al snel ook als een foute denker kunnen worden aangemerkt.
Het is een idee dat rechtstreeks voortkomt uit de vaak aangeroepen dystopie van George Orwell Negentienvierentachtig. Maar het is ook niet geheel uniek voor China. Het is waar dat de Amerikaanse overheid niet publiekelijk een sociaal kredietsysteem instelt, maar het idee dat digitale reputatieanalyse niet iets is dat ons allemaal in 2018 aangaat, is overduidelijk niet waar.
Je sociale status, algoritmisch
De recente lopende Facebook-saga Het betrekken van potentieel misbruik van gebruikersgegevens onderstreept eens te meer de manieren waarop onze online persona's op allerlei manieren worden samengesteld, verzameld, gemonetariseerd en in stukken gesneden. Ze zullen steeds meer worden behandeld als kredietscores van de volgende generatie, die niet alleen onze kredietscores in de gaten kunnen houden financiële respectabiliteit, maar ook de manier waarop we als kwaliteit kunnen worden beschouwd burgers.
Onlangs heb ik zo'n test niet doorstaan. Op Twitter probeer ik een breed scala aan denkers te volgen, omdat dit een goede manier lijkt om het ‘filterbubbel’-effect te vermijden. Als er een kwestie is waar ik een sterke mening over heb, volg ik graag ‘gedachteleiders’ aan de andere kant van de ideologische kloof, zodat ik kan worden blootgesteld aan hun reactie op onderwerpen in het nieuws.
Wie weet: een goed beargumenteerde zaak kan je zelfs van gedachten doen veranderen over iets waarvan je dacht dat het waar was. Het geeft je op zijn minst de kans om de meest overtuigende argumenten te kennen die tegen jouw standpunt worden gebruikt. Alles ging goed totdat ik ontdekte dat ik was geblokkeerd door een bepaalde gebruiker die ik 'gebruiker X' noem, met wie ik geen eerdere interactie had gehad.
Na wat verder graven ontdekte ik de verklaring: een andere persoon die ik volgde was toegevoegd aan een geautomatiseerde blokkeerlijst door gebruiker X, zodat iedereen die hen volgde vervolgens werd uitgesloten van het bekijken van de tweets van gebruiker X. Ergens in de kortstondige wereld van de interwebs voelde ik dat mijn persoonlijke sociale krediet merkbaar daalde op een manier die niet meer was gebeurd sinds mijn klasgenoten op de middelbare school ontdekten dat ik nog steeds keek Power Rangers.
Op internet weet iedereen dat je een hond bent
We hebben nog steeds geen grip op de manier waarop onze digitale identiteit verandert. Vijfentwintig jaar geleden maakten we ons geen zorgen over de online reputatie, omdat het hele stimulerende idee van internet rond anonimiteit was gebouwd. Een beroemd 1993 New Yorker cartoon beeldde twee computervaardige hoektanden af die een computer gebruikten. “Op internet weet niemand dat je een hond bent”, luidde de slogan. Tegenwoordig weten niet alleen bedrijven online dat je een hond bent; ze weten van welk merk hondenvoer u houdt, welke halsband u draagt, waar u uw benen strekt en – in positieve of negatieve zin – waar u uw rotzooi doet.
Igniyte UK - Waarom zoekresultaten van zoekmachines belangrijk zijn voor uw online reputatie
Anno 2018 gaan we ervan uit dat het internet weet wie we zijn. Als dat niet het geval is, wordt het als een belediging beschouwd. Als websites niet weten wie we zijn, krijgen we geen gepersonaliseerde nieuwsaanbevelingen, updates van vrienden op sociale media of voorgestelde video's. Ach, op Twitter is het idee om “geverifieerd” te worden als jezelf zo ongeveer de ultieme beloning die je kunt krijgen: een idee dat vroege webgebruikers als bizar zou hebben gezien.
Studies hebben gesuggereerd dat profielen op sociale media ook kunnen worden gebruikt om ons succes op de arbeidsmarkt nauwkeurig te voorspellen.
Hoewel we online misschien meerdere persona’s hebben, net als in de echte wereld, zijn deze identiteiten niet netjes op zichzelf staand. Ze kunnen overslaan naar andere gebieden van ons leven; de grens tussen publieke en private persona’s, of tussen sociale en professionele persona’s, vervaagt steeds meer. Meerdere onderzoeken hebben bijvoorbeeld gesuggereerd dat sociale-mediaprofielen (ontworpen voor, weet je, onze sociaal levens) kunnen ook worden gebruikt om ons succes op de arbeidsmarkt nauwkeurig te voorspellen. Een Onderzoeksproject 2016 uitgevoerd door onderzoekers van de Belgische Universiteit Gent kwamen tot de conclusie dat Facebook Profielfoto's kunnen uw kansen op een sollicitatiegesprek voor een baan met wel 40 procent vergroten of verkleinen.
“Ik denk dat het CV van nu en de toekomst zich verplaatst van een papieren cv dat we versturen naar hoe we eruit zien als we Googlen”, zegt Simon Wadsworth, managing partner Ontsteken, een online reputatiemanagementbedrijf, aan Digital Trends. “We weten dat dit het eerste aanspreekpunt is voor werkgevers. Er online op je best uitzien zal een belangrijke factor zijn als iemand hoger onderwijs wil gaan volgen, een baan wil zoeken of zelfs een huis wil kopen.”
Een spel dat je moet spelen
Denk ook niet dat je weg kunt komen zonder te spelen. “Ik denk dat er ook een probleem is als een persoon op geen enkele manier online gevonden kan worden – dus er is een gelukkig medium nodig”, vervolgde hij. Als iemand online niet vindbaar is, kan dit betekenen dat iemand iets te verbergen heeft. Meer alledaags, maar cruciaal, het kan iemand ook gewoon in de digitale kou laten staan. “Voor de generatie die gaat studeren en een baan krijgt, duidt dit erop dat ze niet erg digitaal onderlegd zijn als ze niet online aanwezig zijn”, zegt Wadsworth.
Als een goed Facebook-profiel de kans vergroot dat je een sollicitatiegesprek krijgt, wat dan niet?
De problematische aard van digitale identiteiten zal alleen maar complexer worden naarmate we steeds meer online blijven leven. Kredietscores meten één aspect van onze reputatie: ons vermogen om geld terug te betalen. Ze houden rekening met zaken als of betalingen op tijd worden gedaan en hoeveel van onze kredietlimiet die we hebben gebruikt, de lengte van onze kredietgeschiedenis, de soorten kredieten die we gebruiken en ons eerdere krediet toepassingen. Van daaruit wordt een FICO-score gemaakt en gebruikt door banken en detailhandelaren.
Het idee achter de FICO-score dateert uit de jaren vijftig, voordat het uiteindelijk in 1989 werd geïntroduceerd. Tegenwoordig kan er een schat aan informatie over gebruikers worden verzameld die in de jaren tachtig onmogelijk bekend kon zijn. Wat iemand online ‘leuk’ vindt, wat hij koopt, waar hij het koopt, met wie hij omgaat, wat hij doet Hun huizen kunnen in toenemende mate allemaal worden verzameld en uitgekamd met behulp van slimme machine learning hulpmiddelen.
Naarmate meer en meer van onszelf gevirtualiseerd worden, breidt de mogelijkheid om te ‘weten’ zich uit. Fitnessgegevens, medische dossiers, online datingprofielen en voorkeuren, onze emotionele toestanden, hoe we leren in de klaslokaal, hoe snel we e-boeken lezen tijdens onze vakantie en nog veel meer, waar we een verbazingwekkend accuraat beeld van kunnen krijgen wie we zijn. Het is waar dat veel van deze gegevens geanonimiseerd zijn, maar de mogelijkheid om uit deze informatie te putten en er op allerlei nieuwe manieren naar te verwijzen is een onvermijdelijke realiteit.
De terugkeer van het sociale krediet
Het systeem dat door kredietscores werd vervangen, was gebaseerd op reputatie en kwalitatieve oordelen. Iemand zou een kredietlijn kunnen worden ontzegd omdat een bankier zijn gedrag niet leuk vond. Naast de betalingsgeschiedenis betekende dit dat oordelen het resultaat waren van zaken als huisbezoeken, de waargenomen status van een persoon in de gemeenschap en meer. Kredietscores waren bedoeld om de subjectiviteit en, net zo belangrijk, de ondoorzichtigheid uit dit proces te halen.
Tegenwoordig is sociaal krediet opnieuw een realiteit.
Tegenwoordig is sociaal krediet opnieuw een realiteit. Alles, van de informatie die ons wordt getoond tot de prijzen en kansen die ons worden aangeboden, is verpakt in de byzantijnse manier waarop de digitale wereld identiteit beheert. We hebben gemakkelijk toegang tot onze kredietscores en weten hoe we deze kunnen verbeteren. Als het om de online wereld gaat, is dit lang niet zo eenvoudig. Wie verzamelt gegevens over ons, hoe worden deze gebruikt en wat betekent dit voor de manier waarop wij de digitale wereld om ons heen waarnemen; al deze vragen zijn verre van duidelijk.
Projecten als het Chinese sociale kredietsysteem zouden mensen om een aantal redenen zorgen moeten baren. Maar net als de sci-fi-dystopieën waarmee het wordt vergeleken, maakt het ons bang omdat we van nature begrijpen dat het een wereld is waarmee we vertrouwd zijn – alleen dan met het volume op elf. Denk geen seconde dat de drijvende kracht niet dezelfde is die zijn weg vindt in elke interactie die we online hebben.
Aanbevelingen van de redactie
- Hoe weten we wanneer een AI daadwerkelijk bewust wordt?
- Wat is die vloeistof? IBM’s smaakbepalende ‘e-tong’ zal het je vertellen
- Net als een blaastest voor uitputting kan een nieuwe bloedtest uitwijzen hoe moe u bent
- Oordelende AI spiegel beoordeelt hoe betrouwbaar u bent op basis van uw uiterlijk
