Automatiseringen av politikken

VAGANT EUROPA. Hvorfor er så mange kinesere fornøyd med et «sosialkredittsystem» som vurderer deres samlede adferd? Det som er under utvikling i Beijing, kan bli en alvorlig utfordring for de vestlige demokratiene.

[dropcap]H[/dropcap]vordan kan det ha seg at åtti prosent av kineserne aksepterer å bli registrert i et poengsystem basert på kunstig intelligens, hvor adferden deres på potensielt sett alle livets områder ikke bare vurderes, men automatisk belønnes eller straffes? En representativ spørreundersøkelse som Freie Universität Berlin nylig gjennomførte i Kina over nett, gav nøyaktig dette resultatet. Og det er nettopp de utdannede, velstående og litt eldre som gir sterkest støtte til poengsystemet – altså søylene i den middelklassen som ifølge en hittil gyldig politisk teori aller mest forlanger demokratisering og liberalisering i folkerepublikken.

Kanskje undervurderes fortsatt det såkalte sosialkredittsystemet, som fra 2020 skal omfatte alle kinesere. I Vesten har det fått stor oppmerksomhet og blitt møtt med både fascinasjon og redsel. Ofte forestiller man seg bare en utvidelse og perfeksjonering av statens overvåkningsmaskineri, altså det diktatoriske herredømmet kommunistpartiet har over befolkningen – med statsapparatet på den ene siden og, på den andre siden, et kuet folk som blir stadig mer kuet under presset fra den økende overvåkningen. I dagens globale konstellasjon står vår regjeringsform i konkurranse med ulike systemer, men det kinesiske systemet ville ikke ha vært noen reell konkurrent. Historien har ettertrykkelig vist oss at en statsform som kontrollerer samfunnet utenfra og ikke lar det fungere på egne premisser, ikke kan overleve rent økonomisk i lengden – derfor forblir den håpløst underlegent et liberaldemokratisk styresett.

Men undersøkelsen, som statsviter Genia Kostka står bak, gir indisier på at sosialkredittsystemet kan ha en annen og dypere hensikt. De som ble spurt, anser ikke først og fremst systemet som et middel til overvåkning, men til å tette institusjonelle og byråkratiske hull og dermed forbedre deres egen livskvalitet. De ser en allmenn mangel på tillit som det største problemet i det kinesiske samfunnet, samtidig som både staten og rettsvesenet er påfallende dårlige til å tvinge trege debitorer til å betale sin gjeld. Ifølge respondentene er dette et hinder for kredittgivningen og dermed for at markedsøkonomien overhodet skal kunne fungere. Gitt denne situasjonen forventer de at landets ulike sosialkredittsystemer skal måle kredittverdigheten deres ved hjelp av entydige og presise data og kriterier – og i sin tur forbedre deres egne muligheter i livet. For dem er dette et teknologisk fremskritt.

Men så langt har de fleste kinesere lite erfaring med det statlige sosialkredittsystemet. Det skal bli obligatorisk for alle borgere, men er fortsatt under utprøving og brukes kun i stor skala i enkelte prøvebyer. Bare syv prosent av det representative utvalget som deltok i spørreundersøkelsen, var med på et slikt prøveprosjekt. Åtti prosent oppgav at de frivillig var del av sosialkredittsystemene som Alibaba og andre store nettvarehus tilbyr sine kunder – og det selv om nettopp de kommersielle poengkontoene går svært langt i å utnytte private data. For eksempel anvender Alibabas «Zhima Credit» en ukjent algoritme for å skissere opp en personlighetsprofil ut fra betalingsmoralen, kjøpspreferansene i selve nettbutikken (kjøp av mange dataspill kan tyde på lettsinn, mens anskaffelse av babyklær kan tyde på ansvarlighet) og attpåtil kontaktene i sosiale nettverk. Den som omgås folk med lav poengsum, senker automatisk sin egen kredittverdighet, mens bekjentskaper med mange poeng fører til at man selv vises større tillit.

I et slikt kommersielt system kan kunden i verste fall miste gunstige kjøps- og kredittbetingelser. Men i det statlige systemet kan et lavt poengtall føre til offentlig blottstillelse og solide innskrenkninger i bevegelsesfriheten. Millioner av borgere står allerede på en svarteliste som domstolene har offentliggjort, fordi de har unnlatt å gjøre opp regninger eller betale bøter; konsekvensen er at de ikke lenger uten videre kan kjøpe flybilletter eller reise med høyhastighetstog. Det er derfor forbløffende at blant dem som ble spurt i Freie Universitäts undersøkelse, var det nettopp de som deltok i en statlig prøveordning, som var mest positive. I ledsagende intervjuer sa de at de uansett forventet at det kinesiske sikkerhetsapparatet satt på eller kunne sitte på alle deres personlige data. Det nye systemet gav derfor ingen større grunn til bekymring. Håpet lot til å være at overvåkningen som uansett foregår allerede, skulle bli mer pålitelig og mindre vilkårlig.

Det forbausende resultatet av studien er altså at flesteparten av respondentene oppfatter sosialkredittsystemet først og fremst som en styrking av markedsøkonomien, moralen og individets muligheter for utvikling – man kunne også si: av samfunnet. De som står bak undersøkelsen, tar høyde for at mange som lever i et autoritært system, vil være tilbakeholdne med kritikk, selv om de er sikret anonymitet; men uansett taler det sitt tydelige språk at hele 49 prosent stilte seg svært positive til prosjektet.

Tilsynelatende går regnestykket opp for Kinas kommunistiske parti, som både etter kulturrevolusjonen og under nye omstendigheter etter demokratibevegelsen i 1989 spurte seg: Hvordan kan partiet ha alt under kontroll og samtidig slippe løs den samfunnsdynamikken som er nødvendig for økonomisk suksess? De siste tiårene har KKP mestret dette paradokset langt mer effektivt enn alle tidligere kommunistiske systemer, særlig Sovjetunionen. Hos de kuede menneskene man forventer å finne i et stadig strengere autoritært system, skulle det knapt være mulig med den høyenergiske kapitalismen som har trengt inn på alle samfunnsområder og gjort Kina til en økonomisk stormakt. Sosialkredittsystemet setter selvmotsigelsen helt på spissen: Selve grunnideen lar total overvåkning smelte sammen med total selvorganisering.

Det er naturligvis bare idealtypen. I den sosiale og politiske virkeligheten fungerer det kinesiske partiregimet dårlig på mange områder som følge av ignoranse, skjødesløshet, opportunisme og korrupsjon. Utfordringen denne modellen skaper for vestlige demokratier, bør likevel tas på alvor. Statsviter Samantha Hoffman skriver i en artikkel for forskningssenteret Merics (Mercator Institute for China Studies) at ideer om en kybernetisk ledelse av samfunnet under det sentrale temaet «samfunnsstyring» har spilt en stadig større rolle i partiets teoridannelse over mange år; Hoffman snakker om Kinas «autonome nervesystem».

I studien fra Freie Universität nevnes med rette stikkordet «styringsrasjonalitet». Under dette begrepet forstod Michel Foucault sekulariseringen av pastorale strategier, som de europeiske statene har brukt i forsøket på å styre og kontrollere borgernes daglige adferd siden 1400-tallet. Han mente at nyliberalismen har hatt størst suksess med dette, i og med at undersåttenes selvrealisering blir tatt med i herskernes regnestykke: «De styrtes rasjonalitet skal tjene som reguleringsprinsipp for styringens rasjonalitet.» Man kan tenke seg at Kina fra første stund har basert sin politiske planlegging på dette begrepet, som Foucault først utledet da han abstraherte fra historiske kilder. Landet har innrettet et apparat som benytter markedets interne rasjonalitet (kreditt) og tradisjonell moral (pålitelighet, en viktig kategori allerede i konfutsianismen) for å tvinge igjennom den autoritære statens rasjonalitet: overvåkningen.

Den kunstige intelligensen gjør det dermed mulig for det ene å komme i direkte kontakt med det andre, nærmest automatisk: Den fører registreringsdata fra det digitale nettet sammen med registreringsdata fra det offentlige rom og forbinder dem umiddelbart med sanksjonsmulighetene, ved at den oppdaterte poengkontoen mates inn i ID- og chipkort. Uten disse er det ikke mulig å bestille billetter, booke hotellrom, gjøre større innkjøp – i neste omgang ikke engang kjøre bil gjennom et bysentrum. Den ønskede adferden oppstår gradvis uten at en ytre makt må gripe inn; enhver adferd får automatisk en konsekvens som er blitt varslet på forhånd, og som igjen følger av logikken i samfunnets ulike subsystemer. Også firmaer og attpåtil myndigheter skal vurderes og sanksjoneres med poengkontoer, slik at de integreres i det selvregulerende systemet. Som overordnet instans ved siden av de digitale apparatene står kun kommunistpartiet igjen, som selv sørger for å overvåke samfunnet og individene ved hjelp av markedet og moralen.

I lys av dette bortfaller forestillingen om at det er mennesker som skaper politikk gjennom konkurranse og kompromiss mellom ulike oppfatninger av verden. Foucault satset på motreaksjonene som i sin tid hadde vokst frem i Europa, for eksempel i form av naturrettstenkning og opplysningsidealer: viljen til «å ikke bli styrt på denne måten og for denne prisen». Men i direkte konkurranse med det totale teknokratiet må sannsynligvis også demokratiene anstrenge seg for å oppnå beste resultat.

Oversatt fra tysk av Stian M. Landgaard
© Alle rettigheter tilhører Frankfurter Allgemeine Zeitung GmbH, Frankfurt,
publisert første gang 6. august 2018
Gjort tilgjengelig av Frankfurter Allgemeine Archiv.

Europa

Vagant er et skandinavisk tidsskrift for kritikk og essayistikk. Tidsskriftet har litteratur som utgangspunkt, tar for seg alle kunstarter og rommer også idédebatt og kulturjournalistikk.

Redaksjonen utgir fire numre i året, i tillegg til ukentlige oppdateringer av nettsiden. Første nummer utkom i 1988. Siden 2017 utgir redaksjonen tidsskriftet på egen hånd. Vi oppfordrer alle lesere til å tegne abonnement på papirutgaven.

Vagant redigeres etter Redaktørplakaten, og er medlem i Eurozine og Norsk tidsskriftforening.