Styrt av sosiale poeng

Kineserne vil kontrollere sine egne innbyggere med en borgerscore som styrer hva man får tilgang på i samfunnet. Det minner […]

Kineserne vil kontrollere sine egne innbyggere med en borgerscore som styrer hva man får tilgang på i samfunnet. Det minner om et av framtidsscenarioene i serien Black Mirror. Men sosiale poeng er hverken scifi eller kinesisk fremtid. Det er lett tilgjengelig teknologi.

Sosiale poeng er resultatet av at noen vurderer menneskers adferd som enten positiv eller negativ. I Kina jakter flere teknologiselskaper på den perfekte oppskriften, algoritmen, for hvordan sosiale poeng skal deles ut og styre tilbud som jobb, lån, utdanning og dating. Åtte ulike pilotprosjekter er godt i gang, men det er ikke bestemt hvordan borgerscoren i sin endelige utgave vil se ut. Ideen er at god oppførsel skal belønnes og dårlig oppførsel straffes i et åpent poengsystem.

Ideen er ikke ny. I litteraturen kan man finne lignende kontrollsystemer i framtidsromanen 1984 av George Orwell. En nyere referanse er Nosedive-epiosden i serien Black Mirror. Vi blir kjent med hovedpersonen Lacie som er besatt av sin sosiale vurdering. Hun har 4.2 på den sosiale poengskalaen, og vil øke til 4.5 for å få kjøpt seg inn i en leilighet. I Nosedive deler alle alt digitalt og gir hverandre poeng utfra en femstjerners skala – alt gjennom teknologi som sitter i øyeimplantater og i mobiltelefoner. Kjøper du deg en kaffe, bør du for eksempel smile bredt og være ekstra hyggelig mot personalet i håp om å få noen sosiale plusspoeng. Kommer du derimot i skade for å dulte borti noen som mister kaffen sin, kan de trekke ned poengsummen din.

Også i vår virkelighet er mange allerede drevne i å gi eller få poeng for god eller dårlig kvalitet. Tripadvisor var tidlig ute med vurderingssystemer i 2000. I 2009 kom Uber, og fem år senere startet nordmenn for alvor å vurdere sjåfører og kunder om hverandre. Utbyttet er gjensidig positivt: Får sjåføren en dårlig score er personen ute av Uber, og får kunden en dårlig score minsker sannsynligheten for å bli plukket opp. I 2018 kan vi forvente enda mer avanserte sosiale vurderingssystemer. Et eksempel er appen Flatfit. Tjenesten skal gi folk bedre samboere til bokollektiv ved å kvittere ut en sosial prosentscore som passer deg.

Hvem setter scoren?

Når sosiale poeng deles ut, må noen lage algoritmer som bestemmer hva som er god eller dårlig adferd. Jo mer avansert algoritmen blir, desto mektigere blir teknologiselskapene som utvikler de. Et av pilotarbeidene til borgerscoren i Kina er systemet Sesame Credit, som er utviklet av den kinesiske Alibaba-gruppen. De vil ikke dele detaljer om algoritmen. Men forfatter Rachel Botsman skriver på Wired at Sesame Credit kvitterer ut poeng basert på kreditthistorie og evne til å overholde frister og krav i kontrakter, i tillegg til oppførsel, personlighet og sosiale relasjoner. Med en dårlig score fra Sesame Credit vil man slite med å få lån, forsikring, jobb eller trygd.

Skjulte detaljer rundt algoritmene gjør at vi trenger et etisk vern. For hva er god og dårlig oppførsel? Og hvem bør gjøres til herre over utdelingen av pluss- og minuspoeng? Botsman skriver blant annet at positiv energi på internett, som for eksempel positive meldinger om staten og landets økonomi, vil gi plusspoeng i kategorien ”oppførsel”. Alibaba-gruppen svarer at negative meldinger i sosiale medier ikke gir minuspoeng i det nåværende systemet, men som Botsman påpeker er det vanskelig å vite så lenge algoritmen forblir hemmelig.

Digitale fotspor

At noen overvåker hva vi gjør på internett betyr ikke at vi skal frykte for fremtiden. Flere aktører, spesielt delingsøkonomi-tjenestene, beviser ofte at data om hvem vi er og hva vi liker kan gi oss bedre tjenester. Likevel bør vi passe mer på dataene om oss selv. Vi bør vite hvilke digitale fotspor vi legger igjen på internett, hva de brukes til og av hvem. Den nye europeiske loven for personvern, GDPR, som trer i kraft fra mai 2018 gjør det litt enklere å få oversikt. Loven gir alle folk rett til å kreve innsyn i hvilke personopplysninger som er lagret på nett, man kan kreve å bli glemt eller overføre data til andre tjenesteleverandører. Det gir mer makt til de som følger med.

Sosiale poeng er i dag enkelt tilgjengelig for de som ønsker å bruke det, både næringsliv og myndigheter, fordi vi deler så mye av oss selv digitalt. Hvis Black Mirror, eller Kina for den saks skyld, føles langt unna kan det kanskje skyldes undertonen av grunnleggende mistillit. Vi derimot, kan kreve åpenhet i møte med mer systematisk bruk av sosiale poeng.

Kronikken er skrevet av Hansine Korslien, og publisert i Aftenposten 14. januar 2017.