Hvor setter vi grensa?

«Sammen kan vi knekke korona» var slagordet da FHI lanserte «Smittestopp»-appen til 45 millioner kroner 16. april i år. Gallupp-undersøkelser fra dagene før viste at nordmenn flest var positive til en slik smittesporingsapp. Dugnadsivrige og lydige lastet mange oss av den ned, vi dokumenterte det på sosiale medier og oppfordret alle andre til å gjøre det samme. I den grad folk var skeptiske, var det gjerne fordi appen tappet telefonen for strøm. Halvannen måned senere hadde den blitt lastet ned 1,6 millioner ganger, og hadde 600.000 aktive brukere.

Det var før Datatilsynet kom på banen med sine betraktninger. Etter et par runder med FHI, kom de i slutten av juni med varsel om forbud. De mente at Smittestopp-appen ikke kunne anses som et forholdsmessig inngrep i våre grunnleggende personvernrettigheter.

– Det at staten kan følge med på enkeltpersoners bevegelsesmønster og kontakt med andre mennesker, innebærer i alle tilfeller et svært stort inngrep i den enkeltes personvern, skriver Datatilsynet i et brev til FHI. Som på sin side var uenig. Men slettet all innsamlet data, stoppet sporingen og deaktiverte appen.

Ifølge NRK mente Amnesty International at den norske smittevernappen sammen med Kuwait og Bahrain sine tilsvarende apper, var de dårligste i verden på personvern.

Helseminister Bent Høie gav i samme NRK-sak uttrykk for at han ikke skjønte kritikken. Han mente at en app som er frivillig å laste ned, ikke kan bryte med personvernrettighetene. Før han la til: «Og veldig mange laster ned apper som lagrer sensitiv informasjon sentralt og som brukes til kommersielle formål».

Og her har han vel et poeng. Eller?

Problemstillingene rundt Smittestopp-appen er ikke unik. Disse diskusjonen skal vi ha mange av framover, mener forfatter Rohit Bhargava, som klassifiserer denne debatten som en megatrend.

Denne trenden har bygget seg opp. I 2016 skrev Bhargava om megatrenden «Automated Adulthood», som gikk ut på at i moderne hjem, er det ikke lenger nødvendig (satt litt på spissen) å huske å tørke støv, vaske, låse dørene, slå av lysene eller å trekke ned i toalettet: Alt blir gjort for oss. I løpet av det siste tiåret har vi blitt vant til at teknologi beskytter og hjelper oss i hverdagen, på veldig mange måter. På vei til flyplassen får vi melding om status på flighten. Kjøper vi noe for et uvanlig stort beløp, kan det tikke inn en melding fra banken som – for vår egen sikkerhet – ber om bekreftelse på at det er vi selv som står bak transaksjonen. Og når du har sittet stille foran en skjerm i to timer, kan klokka di gi deg et signal om at det er på tide å strekke litt på seg. Høstens nyhet fra helseklokke-produsenten Fitbit måler pustefrekvens, hvilepuls, hjerterytme, oksygen i blodet og temperaturen din.

Men: Jo mer vi blir vant til disse hjelpemidlene, jo blindere stoler vi på dem, advarer Bhargava og påpeker at det åpner for mange nye spørsmål: Fra hvorvidt det er en god idé å la teknologi ta visse beslutninger for oss, til hvorvidt vi er i ferd med å gjøre oss selv og våre demokratiske prosesser sårbare overfor hackere, svindlere, manipulatorer og andre som kan skade oss. Denne avveiningsdebatten skal prege samfunnet i årene som ligger foran oss. Og det er særlig innen helseteknologi at disse spørsmålene reises.

Teknologi som hjelper oss til å følge med på vår egen fysiske helse har vi hatt en stund, men nå kommer også robotene for fullt for å stå til tjeneste i helsevesenet. Kanskje er det slik at det er lettere for pasienter å fortelle om hvordan de føler seg til en robot, og kanskje er det lettere for en robot å tolke hva vi egentlig sier, enn for en stresset lege. Men teknologien har kommet lenger enn som så.

Det neste som er i ferd med å komme, ifølge Bhargava, er «inside-ables», altså små mikroskopiske enheter som skal svelges, injiseres eller implanteres, for så å sende biometrisk informasjon gjennom elektroniske signaler – som igjen bidrar til at det er lettere å følge med på helsen vår, og til å hjelpe med å identifisere sykdommer og sette diagnoser, selv før vi merker symptomer. Denne teknologien blir nå både billigere og enklere – og dermed kommer den også til å bli mer og mer vanlig.

I kapittelet om kunstig intelligens viste vi til norsk forskning som utvikler teknologi som skal kunne varsle eldre om at de snart kan falle – og dermed forhindre potensielt store skader. At teknologi kan hjelpe oss til å leve sunnere, oppdage sykdom tidligere og rett og slett gi oss bedre og lengre liv – er vi jo alle enige om at i utgangspunktet fint. Men vi skjønner også at dilemmaene står i kø.

Se for eksempel for deg at du stikker innom butikken på vei hjem fredags ettermiddag. Kanskje blir det fire pils og en pizza. Eller en brus og fire hekto smågodt. Du skanner varene på 1-2-3 i selvbetjentmaskinen, før du river papiret av sjokoladen for å booste blodsukkeret som for lengst er i minus. Nei, stopp! Slik gikk det ikke. Maskinen alarmerer og protesterer – og nekter å la deg kjøpe annet enn epler og juice.

En maskin som kan bruke ansiktsgjenkjenning og dermed nekte å selge snacks til folk basert på alder, medisinsk historie og tidligere kjøp ble lansert av Rhea Vendors allerede i 2014, men ettersom vi klarer å skjønne, har ikke akkurat denne funksjonen hatt noen stor suksess. Snakk om food shaming, her går grensa!

Hvilke andre spørsmål om liv og helse er det greit å overlate til maskiner?

Vi kan trekke noen paralleller til trenden vi kaller «tiltende tillit», der teknologien spiller en hovedrolle når nye sosiale bevegelser oppstår. Men om det så er til rene konspirasjonsteorier folk legger tilliten sin, så er det ikke teknologien som muliggjør det vi må diskutere. Disse problemstillingene må angripes med utgangspunkt i etikk og moral, skriver Rachel Botsman i «Who can you trust?».

I noen tilfeller er ikke spørsmålet så vanskelig: At myndigheter bruker droneteknologi i kampen mot krypskyttere mener jo alle med hode og hjerte på riktig plass er greit. Men akkurat den samme teknologien kan også brukes til å overvåke befolkningen i sin egen hage. Det er ikke greit.

Denne er kanskje litt mer vrien: Mennesker har alltid forsøkt seg på værmanipulasjon, og allerede på slutten av 1940-tallet begynte amerikanerne å utvikle teknologi som faktisk fungerte. I 1977 vedtok FN forbud for dette med militære mål for øyet. Men det er jo ikke bare i krig man kunne ønske seg et annet vær enn det man i utgangspunktet får. Den mest kjente bruken av teknologien skjedde under OL i Beijing, da kinesiske myndigheter sørget for å tømme skyene som nærmet seg hovedstaden for regn – før de kom så langt.

Men hva med deg, når det eneste du ønsker deg er en solskinnsdag? Som for eksempel på bryllupsdagen din. Her er en bryllupsplanlegger som fikser nettopp det. Foreløpig krever det at du har en drøy million kroner til overs på budsjettet, og dermed er det ennå ikke et kjempestort tema. Men det er ingen grunn til å tro at ikke også denne teknologien blir billigere og mer vanlig. Hvor setter vi grensen for å bruke den?

En annen problemstilling, som i større grad har vært belyst, men ikke kommer til å bli mindre aktuell framover er dilemmaet om at teknologien, som skal gjøre oss sterkere både som individer og samfunn, samtidig gjør oss sårbare overfor dem som ikke vil oss vel. Bare i høst har vi hørt om slike angrep blant annet mot Stortinget, 10 norske kommuner og Sykehuset Innlandet. Og jo lenger vi kommer i den digitale transformasjonen, jo mer attraktive blir vi som mål for slike type angrep.

Vi har altså noen runder å gå, både med oss selv og i fellesskap, om hvor grensene går. Og disse diskusjonene kommer nå til å komme for fullt.