Den britiske journalist James O’Malley sad på højhastighedstoget mellem Beijing og Shanghai, da han hørte en foruroligende besked.
»Kære passagerer, de, som rejser uden billet, eller opfører sig upassende, eller ryger i fællesrum, vil blive straffet efter reglerne, og handlingen vil blive registreret i et personligt troværdigheds-informationssystem. For at undgå at din personlige troværdighed får et negativt hak, vær da venlig at følge reglerne, og hjælp til med ordrerne i toget og på stationen.«
Det var særligt skræmmende for dem, som kender George Orwells dystopiske klassiker ’1984’.
Det, som skræmte James O’Malley, er Kinas omdiskuterede og stærkt kritiserede Big Brother-lignende sociale troværdighedssystem.
Men før vi tænker os tilbage til 1984-dystopien, er vi nødt til at få en større viden om systemet, heriblandt nogle misforståede eller mindre diskuterede aspekter af det.
\ Læs mere
Troværdighedens mål
Nogle medier beskriver systemet som et big-data overvågningssystem, hvis formål det er at disciplinere, overvåge og bedømme borgerens sociale, politiske og økonomiske adfærd.
Systemet blev første gang beskrevet i et statsdokument i 2014 udsendt af statsrådet, den højeste befalingsmyndighed af statsmagten i Folkerepublikken Kina.
Dokumentet beskrev et omnipotent (med uindskrænket magt, red.) socialt troværdighedssystem, hvis mål var at bedømme alles ’troværdighed’, og som skulle iværksættes i 2020.
Ordet ‘troværdighed’, der refereres til i den foruroligende besked i toget, er en oversættelse af det kinesiske ord ’xinyong’, som betyder en persons ærlighed og troværdighed.
Systemet menes at generere en række big data- og kunstigt intelligensdrevne processer, som kortlægger en persons adfærd om for eksempel onlinekøb, brud på færdselsloven, rettidig betaling af regninger eller valg af venner.
En høj troværdighedsscore medfører sociale privilegier
Alle 1,35 milliarder kinesiske borgere vil blive underlagt systemet.
Mennesker med en høj troværdighedsscore vil gøre sig fortjent til bedre sociale privilegier og økonomiske fordele.
Omvendt vil en lav troværdighedsscore medføre en opskrivning på den sorte liste og et forbud mod for eksempel at bruge offentlige transporttjenester såsom fly og tog – som James O’Malley hørte på toget.
I nutidens datafølsomme tidsalder kan personlige oplysninger potentielt misbruges, og indsamlingen af private oplysninger tiltrækker da også offentlighedens opmærksomhed.
Den type data i hænderne på et autoritært system som det kinesiske bliver en selvopfyldende profeti.
Det illustrerer, hvordan digital teknologi hjælper autoritære regimer til at opretholde sig selv og understøtte reglerne ved at presse borgerne til at udvise en særlig regeringsforeskrevet adfærd.
I dette tilfælde ved at uddele pluspoint på den personlige troværdighedskonto.
Et igangværende arbejde
Mange af de bekymringer, der omgiver det sociale troværdighedssystem, er imidlertid baseret på unøjagtig eller ensidig viden.
For det første har den kinesiske regering endnu ikke offentliggjort, hvordan troværdighedssystemet vil fungere i praksis – herunder hvordan den algoritmiske pointscore vil blive indsamlet, og hvordan de forskellige ’personkvaliteter’ vægtes mod hinanden.
Nogle mener, at det højprofilerede system ’Sesam Credit’ (kinesisk: Zhima Xinyong), et privat kreditsystem styret af Ant Financial, som er tilknyttet den kinesiske e-handel gigant Alibaba, eksempelvis vil kunne bruges som masseovervågningssystem.
Med sine 520 millioner brugere er Sesam Credit førende indenfor Kinas ’sociale point’-industri. Men Sesam Credit evaluerer ’blot’ hvor meget der købes og til hvilken pris – ikke hvad der købes.
En Ant Financial talskvinde forklarer således: »Det er frekvensen, der betyder noget, ikke hvad du køber.«
Kokain eller kage: systemet er ligeglad med, hvad du køber
Sandheden er, at Sesame Credit er ligeglad med, om brugeren køber kokain eller kage.
Virksomheden ønsker kun at sælge produkter, så din pointscore vil stige, så længe du køber noget fra Alibaba.
Ret beset er Sesame Credit mere et loyalitetprogram, der belønner brugeren for at handle hos dem, end det er et pålideligt mål for ’xinyong’ eller ’troværdighed’.
Hvis man tror, at Sesame Credit vil kunne fungere som et statsgodkendt socialt troværdighedssystem i betaversion, risikerer man at overdrive brugbarheden af upræcis datasporing og information som et middel til at uddele belønning og straf.
Dette viser også udfordringen i at indsamle tilstrækkelig data, der dækker ethvert aspekt af en persons sociale liv, og som kan fungere som en brugbar målestok i et samlet panoptisk (hvor alle kan overvåges fra et centralt punkt uden at være klar over det, red.) socialt troværdighedssystem på en national skala.
For at bruge Jamie Horsley’s argument i Foreign Policy: »Kinas Orwellske sociale troværdighedsscore er ikke virkelighed (…) Der findes ikke en national ’social troværdighedsscore«.
\ Forskerzonen
Denne artikel er en del af Forskerzonen, som er stedet, hvor forskerne selv kommer direkte til orde.
Her skriver de om deres forskning og forskningsfelt, bringer relevant viden ind i den offentlige debat og formidler til et bredt publikum.
Forskerzonen er støttet af Lundbeckfonden.
Firmaer vil også blive bedømt
Ud over de (negative) politiske implikationer, det vil medføre at opbygge det sociale troværdighedssystem, bør vi også overveje de økonomiske konsekvenser af systemet.
Ifølge statsdokumentet fra 2014 er et af initiativerne i troværdighedssystemet at bedømme organisationer og virksomheder – altså ikke kun enkeltpersoner – for at kunne »fremme økonomisk vækst« og »fremme regeringens troværdighed«.
Den kinesiske regering har længe været i underskud af oplysninger om forbrug og kommercielle forhold i landet.
Kinas Folkebank, centralbanken i Kina, opererer landets eneste officielle kredit-bedømmelsessystem, og siden 2017 har banken tjent knap 300 millioner mennesker. Det svarer til mindre end 25 procent af Kinas samlede befolkning.
Det vil sige, at tre ud af fire kinesiske borgere ikke har en offentligt tilgængelig kredithistorik.
Til sammenligning har mere end 80 procent af den voksne befolkning i USA en kreditscore ifølge det amerikanske bureau for forbrugerbeskyttelse, Consumer Financial Protection Bureau.
\ Læs mere
Systemet kan potentielt booste investering og låntagning
I det nuværende system kæmper mange kinesiske forbrugere med at investere og låne penge i banken – især den yngre generation med større købekraft og konsumpotentiale.
Strenge regler i de fleste banker forhindrer nemlig størstedelen af de studerende og nyuddannede i at få kreditkort.
Det samme gælder små og mellemstore virksomheder, som står for mere end 80 procent af alle jobs i landet, og som kæmper med at låne penge fra Kinas finansielle institutioner, trods statens gåpåmod på virksomhedernes vegne.
Manglen på kreditinformation øger presset for at udlåne penge til små virksomheder – i direkte modstrid med statens forsøg på at nedsætte risici i det finansielle system.
Det hindrer det nationale forbrug og er en bekymrende faktor midt i Kinas økonomiske nedgang, som kun vil blive yderligere forværret under den igangværende handelskrig mellem Kina og USA.
Et nationalt udbredt kreditsystem ville give ansvarlige lånere adgang til kreditlinjer.
Dette vil ikke kun komme kinesiske banker til gode, men vil også medføre positive virkninger for enkeltpersoner og virksomheder – og på længere sigt hele den kinesiske økonomi.
