Tatt av Orwell

Se for deg at alt du foretar deg på nett, på telefonen din, og i betalings- og kortautomater blir overvåket, lagret og eiet av myndighetene. Hvor enn du ferdes, og hvem du omgir deg med, overvåkes også av myndighetene, ved hjelp av kameraer som i løpet av få minutter kan kjenne igjen ansiktet ditt.

 

Opptakene lagres for all fremtid.

 

Dine data, og med det i praksis alt du gjør, danner grunnlaget for myndighetenes evaluering av deg. Hvor pålitelig du er. Hvor god borger du er. La oss ta et eksempel: Du og partneren din kjøper bleier, som vanlig. Da betyr det at du trolig er småbarnsforelder som tar vare på barnet ditt. Det betyr dermed at du er pålitelig. Ekstra poeng til deg.

 

La oss ta et annet eksempel: Du har hatt en hyggelig, men fuktig, kveld på byen. Alt som frister dagen derpå, er å spille World of Warcraft. Gjerne hele dagen. Minuspoeng til deg.

 

Du har nå en poengsum. Denne er kjent, ikke bare for deg, men for alle andre rundt deg, både andre mennesker og institusjoner. Som ditt foretrukne togselskap, arbeidsgiveren din, banken din, og naboen din. Og ikke minst, bestevennen din. Din poengsum er offentlig.

 

Denne poengsummen blir også avgjørende for alt du vil foreta deg, og valg du tar i livet. Den blir avgjørende for alt du ennå ikke vet at du ønsker deg, men kan komme til å ønske deg.

 

Se for deg at du skal ta toget for å komme deg på jobb. Det er rushtid, og fullt av mennesker. Du legger merke til at en del av disse menneskene kan benytte seg av en egen fil for å komme raskere av toget og stasjonen. Men denne filen får ikke du lov til å bruke, fordi du har en for lav sosial poengsum. Dette konkrete scenariet er allerede realiteten for syv millioner mennesker. I Kina.

 

 

Sosialt kredittsystem

Verdens største land, med 1,4 milliarder innbyggere, innfører i 2020 det vi på norsk kaller «sosialt kredittsystem» (Social Credit System (SCS); Maurtvedt, 2017). Et system som skal overvåke alle landets innbyggere, og gi hver enkelt av dem en poengsum som igjen blir avgjørende for hvilke muligheter de får i livet. Planen ble lansert i 2014, og har allerede blitt rullet ut som en test i en rekke kinesiske provinser. Teknologiaktører som Alibaba og Wechat samarbeider med kinesiske myndigheter om å utvikle systemet.  

 

Kina er ikke bare verdens største, men også verdens eldste land. Gjennom historien har makten vært konsentrert rundt én keiser, med noen unntak. I dagens Kina er denne keiserskikkelsen, Xi Jinping, generalsekretær i kommunistpartiet og president i Kina. Hans offisielle tittel er ikke keiser, men en nylig grunnlovsendring åpner for at han kan sitte utover sin gitte periode, og i praksis ut livet (NTB, 2018).

 

Statlig kontroll er ikke fremmed for den kinesiske befolkningen, men SCS tar den statlige kontrollen til et nytt nivå. Kinesiske myndigheter har lansert planene i relativ stillhet, men samtidig helt offentlig. De omtaler det som en måte å bekjempe den økende korrupsjonen og kriminaliteten i landet, i tillegg til at de ikke hadde et ordinært kredittsystem fra før. For den gjengse kineser oppleves SCS som positiv, og de stoler på myndighetene sine. Millioner av mennesker har allerede tatt i bruk systemet frivillig, slik at de kan begynne å opparbeide seg en poengsum og få goder (Itera ASA, 2018b; Maurtvedt, 2017).

 

Selve planen er også oversatt til engelsk, men av frivillige aktører som ønsker at dette blir kjent for omverdenen (Creemers, 2018). Ved første øyekast, hvis man ikke visste hva dette var fra før, kan det være vanskelig å vite hva slags overvåking kinesiske myndigheter egentlig ser for seg – og i hvilket omfang. Det har innbyggere heller fått erfare gjennom den foreløpige utprøvingen av systemet så langt, i pilotfasen de er inne i nå.

 

En moralsk dannelsesprosess

Det kinesiske SCS bygger på grunnleggende læringsprinsipper. Skinnerianske straff- og belønningsmekanismer anvendes i en slags moralsk dannelsesprosess, der Skinners rotter er byttet ut med Kinas befolkning.

 

I sin masteroppgave fra 2017, The Chinese Social Credit System. Surveillance and Social Manipulation: A Solution to “Moral Decay”?, forklarer Martin Maurtvedt SCS som et rammeverk bestående av tre deler: overvåkning, analytisk intervensjon og sosial manipulering. «Overvåkning» viser til innsamling og lagring av data om enkeltpersoner, med den hensikt å dele ut kreditt. Kreditten er et uttrykk for den enkeltes pålitelighet og moralske integritet – hvorvidt en kan stoles på som en del av det aktuelle kollektivet – og konverteres gjennom «analytisk intervensjon», som bestemmer hvordan kreditten skal påvirke den enkeltes individuelle skåre. Tanken er å lære innbyggere opp, slik at det å være moralsk pålitelig blir en rettesnor for hva man foretar seg – eller ikke foretar seg – på internett, i sosiale relasjoner og finansielt, både i den private sfære og i det offentlige rom. Påliteligheten skal bli en bevisst norm for atferd i den kinesiske populasjonen som helhet. Dette er den siste delen i rammeverket, som Maurtvedt kaller «sosial manipulering» (2017, s. 17-18). Systemet vil fungere både ved direkte bruk av prinsipper fra operant læringsteori, som det å bli tildelt eller fratatt kreditt; og indirekte gjennom den overhengende realiteten om at ens minste handling overvåkes og krediteres.

 

Denne kollektive dannelsesprosessen forutsetter at alle er enige om at gruppens interesser skal komme før det enkelte individets. I følge Drew Westen (1985), kan kollektivisme forstås som en slags gruppenarsissisme, der samfunnet verdsettes mer enn den enkelte som bebor det. Nasjonens lykke blir dermed det rådførende, det moralske prinsippet som handlinger skal og bør veies opp mot. Gjennom SCS sementeres den moralske rettesnoren; ved hjelp av sosial kreditt, forenkles dannelsen gjennom enkle læringsprinsipper som den enkelte kan forholde seg til, samtidig som vokterne av systemet effektivt kan luke ut det moralske ugresset blant nasjonenes sønner og døtre.

 

I Kinas ståsted går det derfor an å se for seg at den eneste virkelige taperen av SCS, er det kinesiske samfunnet som helhet gitt fraværet av et slikt system. Samtidig grøsser vi ved tanken på et slikt system, og alle de sosiale taperne det må skape.

 

Alle veier fører til Rom

Vi er cirka syv milliarder mennesker på jorden i dag. Nå står 1,4 milliarder av dem overfor et dramatisk skifte som for alvor risikerer at de mister all rett til frihet. Frihet til å tenke selv og aktivt ta egne valg, valg som ikke er orkestrert av myndighetene. Til grunn for denne frihetsinnskrenkelsen ligger teknologi.

 

Tiden vi er inne i nå, populært kalt den fjerde industrielle revolusjonen innad i IT-bransjen, bidrar til enorme endringer for enkeltmennesker og verden som helhet. Teknologien vi i dag utvikler er som et tveegget sverd. Den kan uten tvil styrke oss som mennesker og gi oss bedre liv, og mange vil argumentere for at vi aldri har hatt det bedre enn i dag. Men den kan også skade oss. SCS kan være et eksempel på slik skadelig teknologi.

 

Det nye systemet i Kina vil ikke bare endre atferd; et av myndighetenes mål er å faktisk endre kinesiske innbyggeres kognisjoner (Maurtvedt, 2018). Se for deg at bestevennen din etterhvert begynner å få en dårligere poengsum enn deg, og du risikerer å få en dårlig poengsum selv, fordi du tilbringer tid online og offline med vedkommende. En dårlig poengsum kan føre til at du ikke får sende barna på den skolen du mener er best for dem (The Daily Bell, 2018).

 

Du bryter kontakten med bestevennen din.

 

Og tenk om du ikke liker de riktige tingene på Weibo, Kinas ekvivalent til Facebook, fordi Facebook er blokkert fra Kina; eller om du ikke kjøper de riktige matvarene på butikken; eller om du oppholder deg på et sted du ikke har noe å gjøre? Myndighetene bestemmer.

 

Kina som en svært sentral handelsmakt har muligheten til å påvirke andre stater til å innføre samme system, spesielt land i Afrika, Sør-Amerika og Sørøst-Asia. Alle områder som i stor grad allerede benytter seg av kinesisk teknologi. Veien kan fort bli kort til Europa, Skandinavia, Norge.

 

Det er to år igjen til systemet er implementert, men siden 2014 har det vært skrevet forstyrrende lite om fenomenet i internasjonal presse. En artikkel her og en artikkel der, men noen stor verdensdebatt har det ikke blitt. Årsaken til dette er kanskje at det finnes andre land og verdensledere hvis internettaktivitet (les: Trump på Twitter) får større oppmerksomhet i mediebildet. Det kan også skyldes at vi – fra universiteter til myndigheter – ikke tør kritisere Kina, på grunn av deres stadig økende globale innflytelse.

 

Bevisstgjøring rundt personvern er viktig, fordi folk flest sjekker Facebook flere titalls antall ganger daglig. For hver gang man logger seg inn på Facebook og foretar seg noe – hva som helst – gir man fra seg mer data enn man trolig er klar over, data som selges og brukes til å spisse innhold og reklame, ikke bare på Facebook, men på andre nettsteder du besøker også (Jørgensen, 2018).

 

Eksemplene over viser hvordan vi de siste 20 årene, med internett og sosiale medier, har blitt passive konsumenter av teknologi uten å legge merke til det. Konsekvensene av dette kan være mangefasetterte: Vi bruker mye tid på å sammenligne oss med andre, og det gjør oss triste og lei; og vi kaster bort dyrebar tid, vår eneste absolutte ressurs, på pusekatter og memes.

 

Det er viktigere enn noen gang at vi som konsumenter stiller oss selv spørsmålet, hva er riktig teknologibruk for meg? Og med den retningen utviklingen går i, er den riktig for verdenssamfunnet? SCS er et av flere eksempler på at svaret her kanskje er nei, den er ikke riktig – men hvordan skal vi klare å ta stilling til teknologiens utvikling hvis vi ikke får med oss hva som skjer?

 

Vi er alle rotter

Man tenker kanskje at den åpenbare taperen i dette Orwellske marerittet er de kinesiske innbyggerne med lave poengsummer. Kanskje havner disse menneskene i en ond spiral, som fortsetter å gi dem minuspoeng og frata dem samfunnsgoder. Hvis det å ikke underkaste seg systemet innebærer at man blir mer fri, hadde denne gruppen kanskje ikke endt opp som tapere allikevel, men slik det ligger an nå betyr dårlig poengsum færre muligheter og innsnevret økonomisk og utdanningsrettet frihet.

 

Den andre taperen er de kinesiske innbyggerne som kaster seg over systemet og alle de mulighetene det tilsynelatende gir dem. De får et større økonomisk handlingsrom, mulighet til å sende barna gode skoler, og fast track ved på- og avstigning i forbindelse med togreiser. Likevel må de underkaste seg en standard for pålitelighet, hvis gullstandard fastsettes av myndighetene, og som man tilegner seg gjennom et atferdsmønster de normalt kanskje ikke ville valgt, hadde de vært systemet foruten. I tillegg blir livet en lek; alt man gjør er for å sanke poeng. Som om man sanket likes.

 

Det dukker til stadighet opp indikasjoner på at verdens ledere generelt ikke har teknologisk kompetanse til å forstå hva som skjer, enten det er i Silicon Valley eller med SCS; Twitter humret over spørsmålene Facebook-sjef Mark Zuckerberg ble stilt i høringsrundene både i den amerikanske kongressen og i EU (Peck, 2018). De var banale, og han kunne sno seg unna tilsynelatende alt ansvar. Det er Zuckerbergs, og hans likes-regime, vi har blitt avhengige av og fortsetter å nøre opp under. Vi overvåkes allerede av dette teknologiske regimet, og det belønner og straffer oss. Kanskje er vi alle rotter.

 

Helene Jørum har master i medievitenskap fra UiO, og jobber som kommunikasjonsrådgiver i IT-selskapet Itera.

Hanne Gotaas Fredum går 8. semester på profesjonsstudiet i psykologi.

Illustrasjoner av Victoria Haallman Hamre

 

I forbindelse med produksjonen av podcasten Iterasjoner, episoden «Storebror ser deg» (Itera ASA, 2018b), laget av IT-selskapet Itera, intervjuet en av artikkelforfatterne Xiao Qiang, professor ved Berkeley University of California. Hans interessefelt er digital aktivisme og internettfrihet, spesielt i Kina, og han arbeider blant annet for at flere skal bli kjent med SCS. Episoden anbefales til de som ønsker å lære mer om SCS.

 

Referanser

Creemers, R. (red.) (2018, 25. april). Planning Outline for the Construction of a Social Credit System (2014-2020) [Blogginnlegg]. Hentet fra https://chinacopyrightandmedia.wordpress.com/2014/06/14/planning-outline-for-the-construction-of-a-social-credit-system-2014-2020/

Itera ASA (2018b, 25. april). Storebror ser deg: Menneskestyring basert på big data i Kina – Iterasjoner, S2E4 [Videoklipp]. Hentet fra https://www.youtube.com/watch?v=NWPmZyX68jY

Maurtvedt, M. (2017). The Chinese Social Credit System. Surveillance and Social Manipulation: A Solution to “Moral Decay”? (Masteroppgave, Universitetet i Oslo).  Hentet fra http://urn.nb.no/URN:NBN:no-63457

NTB (2018, 11. mars). Xi Jinping kan bli president på livstid. Aftenposten. Hentet fra https://www.aftenposten.no/verden/i/e1yoVl/Xi-Jinping-kan-bli-president-pa-livstid

Peck, T. (2018, 11. april). Congress interrogated Mark Zuckerberg as if he were the guy from the IT helpdesk. Independent. Hentet fra https://www.independent.co.uk/news/world/americas/mark-zuckerberg-hearing-facebook-data-scandal-capitol-hill-us-congress-questions-a8300321.html

The Daily Bell (2018, 6. mars). How China’s Social Credit Score Will Shape the “Perfect” Citizen. The Daily Bell. Hentet fra https://www.thedailybell.com/all-articles/news-analysis/how-chinas-social-credit-score-will-shape-the-perfect-citizen/

Westen, D. (1985). Self and Society. Narcissism, Collectivism, and the Development of Morals. Cambridge: Cambridge University Press

Litteratur

Itera ASA (2018a, 12. mars). Social Credit System in China – Interview with professor Xiao Qiang (Berkeley) [Videoklipp]. Hentet fra https://www.youtube.com/watch?v=td6HKvYM73I&t=9s

Legg igjen en kommentar