Å tape ansikt

Akkurat nå er det ingen som bryter loven når de benytter seg av teknologi for ansiktsgjenkjenning. Men har vi tapt ansikt for alltid?

Kjersti Løken Stavrum, administrerende direktør i Stiftelsen Tinius, har skrevet og spilt inn en kommentar om teknologi for ansiktsgjenkjenning.

Du kan også lese kommentaren under.

Å tape ansikt

Alle som drømmer om å bli kjendis, kan snart kjenne på følelsen av å bli gjenkjent over alt.

Akkurat nå er det ingen som bryter loven når de benytter seg av teknologi for ansiktsgjenkjenning.

Det skyldes at det ikke finnes lover.

Sånn er det blitt. Ting endres så fort nå. Skal vi le eller skal vi gråte?

En fersk rapport fra AI NOW, eller Kunstig Intelligens Nå, et forskningsinstitutt basert i New York, peker på ansiktsgjenkjenning som en av de største utfordringene for samfunnet – og politikerne akkurat nå.

Innføringen av ansiktsgjenkjenning, et delprodukt av det vi kaller kunstig intelligens, har tatt fart. Og her er det altså fritt frem, ingen oversikt, ingen reguleringer – ingen demokratisk kontroll.

Det skulle man kanskje trodd? At myndighetene passer på?

Med denne hastigheten kommer vi alle til å bli gjenkjent over alt, om kort tid.

Ifølge forskerne bak rapporten bør politikerne skynde seg med å regulere ansiktsfangst og ansiktsgjenkjennende teknologi.

I rapporten pekes det på ti ulike grep politikerne og teknolgiselskapene bør ta. Ingen av dem er umiddelbart enkle, eller lager tydelige grenser for de mulighetene denne teknologien skaper.

Jeg tenker at det er en kø av problemstillinger skapt av ny teknologi som vi automatisk tror at politikerne må håndtere. Hvorfor tror vi at de kan det?

Politikken klarer ikke å holde tritt med teknologien. I alle fall ikke den nasjonale politikken. Det kan endre samfunnet vårt fundamentalt, uten at vi rekker å forstå hva som skjedde.  Eller mens politikerne var opptatt med å regulere ting de kan regulere. Eller kanskje de diskuterer om de skal innføre et kringkastingskor til 200 millioner kroner, som KfR fikk inn i budsjettavtalen nå i høst.

Noen kontroverser rundt ansiktsgjenkjenning har allerede kommet til overflaten.

Ett eksempel er Amazon som har vært i hardt vær for sitt Amazon Recognition Program og hvordan de bruker alle ansiktene som de fanger.

Amazon deler disse dataene med politiet, blant annet med immigrasjonspolitiet i USA. Dette har fått de ansatte til å protestere. Til liten nytte.

Men, denne teknologien er jo til stor nytte også; ifølge avisen The Independent brukte indiske myndigheter ansiktsgjenkjenning og fant 3000 barn som var savnet – på fire dager!

I et møte med de ansatte i Amazon i begynnelsen av november fortalte ledelsen at dette kommer de til å fortsette med å dele. Og ikke bare med politiet, også med andre kommersielle aktører som kunne ha nytte av denne dataen.

Og når vi snakke om data i denne sammenheng, så er det altså ansiktene våre.

Begrunnelsen fra Amazons sjef for kunstig intelligens Andrew Jassy, for å la denne virksomheten rulle fritt videre er at ”man kan gjøre mye skadelig med datamaskiner også. Men tenk hvordan det ville vært uten datamaskiner. Derfor vil vi ikke gå glipp av denne teknologien. Man må bare passe på at den blir brukt ansvarlig”.

En umiddelbar ulempe er at kvaliteten på gjenkjenningen angivelig ikke er mer enn 80 prosent. Noe som på ett vis er bra, men som er direkte skadelig når informasjonen skal brukes til straffeforfølgelse.

En av de få, men desto sterkere, stemmene som nå advarer mot hvordan ansiktsgjenkjenning benyttes, er Microsofts president Brad Smith.

Han peker på tre farer:

Diskriminering.

Brudd på folks rett til privatliv.

Og ikke minst; at myndighetene enkelt kan starte en masseovervåking av oss alle som bryter med demokratiske rettigheter.

I en blogg, men også på en konferanse i begynnelsen av desember, ba han politikerne om å agere nå.

Slik han ser det, har vi sluppet en ånd ut av flasken som det vil bli vanskelig å fange igjen. Derfor, mener Smith, bør selskapene ikke sitte og vente på politikerne, men gjøre noe nå, før det er for sent.

Microsoft har besluttet å holde fast i seks prinsipper i møte med ansiktsgjenkjenning:

De skal være redelig, transparent, ansvarlig, ikke-diskriminerende, de skal sikre at folk gir sitt samtykke når de blir møtt med slik teknologi – og Microsoft vil ikke tillate bruk av denne teknologien hvis den ikke følger loven eller hvis den risikoutsetter folks demokratiske rettigheter.

Men er det virkelig nok?

Når det kommer til bruk av ansiktene våre, har vi nå bare de store teknologiselskapenes etikk å klamre oss til. En etikk som vi vet av utallige eksempler de siste årene er alt annet enn rakrygget.

Spørsmålet er om vi har tapt ansikt for alltid?

Fremført og skrevet Kjersti Løken Stavrum, administrerende direktør i Stiftelsen Tinius.