Se for deg at du lever i et samfunn der kunstig intelligens (KI) brukes til å spionere på deg i norsktimen. Hva hadde du tenkt om det?

Eller hva om teknologien ble brukt til å rangere din verdi som menneske ut ifra hvordan du oppfører deg på skolen, fotballtrening eller fritiden?

I 2024 vedtok EU verdens første lov for KI. Den skal bestemme hvordan KI skal utvikles og brukes i EU- og EØS-landene på en forsvarlig måte og dermed unngå disse skrekkeksemplene. Hele lovverket skal være i bruk i løpet av 2026.

I dag arbeider myndighetene med å lage en egen norsk KI-lov. Den vil bli ganske lik EU sin lov, men skal tilpasses norske forhold og regler.

Å ivareta trygghet

Eirik Agnalt Østmo forsker ved KI-senteret SFI Visual Intelligence ved UiT. Han sier at loven blir viktig for at vi skal føle oss trygge i et samfunn der KI brukes på stadig flere områder.

Det handler om å ta kontroll på en teknologi som utvikler seg i et hurtig tempo – og forhindre at den misbrukes.

– KI utvikler seg ekstremt raskt og vi har enda ikke sett alt teknologien kan gjøre. Derfor trenger vi regler for hvordan KI-systemene utvikles og brukes, forteller han.

Ansvarliggjøre KI-utviklerne

KI-teknologi kan hjelpe oss på mange måter. Likevel kan noen systemer utgjøre en risiko for menneskers rettigheter, helse og velvære.

Heldigvis er ikke alle typer KI like farlige – slik som den som foreslår hvilken film du bør se på Netflix. Derfor deler KI-loven systemene inn i fire ulike risikokategorier: minimal, begrenset, høy og uakseptabel risiko.

Jo større risiko et KI-system utgjør, desto strengere krav må utviklerne følge.

– Dette bidrar til å ansvarliggjøre dem som leverer KI-løsningene, og bestemmer hvordan systemene skal brukes etter hvilken risikokategori de har, forklarer Østmo.

Uønskede KI-systemer

Noen KI-systemer er uakseptable. De som kan brukes til å rangere folk som gode eller dårlige borgere basert på oppførsel, blir forbudt å bruke i Norge. Forbudet sikrer at teknologien ikke brukes til å krenke privatlivet vårt.

– Her er det snakk om systemer som har et såpass stort skadepotensial at vi ikke vil ha de i samfunnet, sier Østmo.

Forbudet gjør også at teknologien ikke kan brukes mot ytringsfriheten vår – for eksempel til å overvåke folk som deltar i politiske markeringer eller demonstrasjoner.

Tidligere i 2025 planla Ungarns regjering å bruke KI til å identifisere og gi bot til de som var med i Pride-feiringer.

– Folk må ha rett til å si og mene det de vil uten frykt for å bli overvåket eller registrert. Derfor bør ikke KI brukes slik, forteller Østmo.

Motvirke forskjellsbehandling

I dag brukes KI til å bestemme hvem som skal få boliglån eller å finne den beste jobbkandidaten. Disse er eksempler på KI-systemer med høy risiko.

Systemene kan gjøre disse oppgavene raskere og enklere. De kan også forskjellsbehandle mennesker ut ifra kjønn, hudfarge eller seksuell legning. 

Det skjer når systemene trenes på historiske data – det vil si tekst, bilder og videoer som kan inneholde gammeldagse holdninger og fordommer.

Et KI-system fra Amazon foretrakk jobbsøknader skrevet av menn, fordi det er flest menn som søker på og jobber i IT-relaterte yrker. Et KI-basert kredittkortsystem fra Apple ble gransket i 2019 fordi det ga lavere kredittkortgrenser til kvinner.

KI-loven blir viktig for at systemene ikke skal diskriminere noen.

– KI-teknologi må fungere like godt på alle mennesker, sier Østmo.

Begrense falske nyheter

KI-chatboter etterligner menneskelig intelligens på en svært overbevisende måte. Sosiale medier som TikTok kan vise falske videoer som ser overraskende ekte ut. 

Derfor er det ikke alltid enkelt å vite når man prater med en maskin eller et menneske, eller å skille falsk informasjon fra virkelighet.

«Åpenhet» er et sentralt stikkord i KI-loven. Det betyr at utviklerne må passe på at vi til enhver tid vet at vi snakker med KI. Derfor er det viktig med tydelig merking av det som er laget av KI.

– Hvis vi vet at vi snakker med en maskin, eller at et bilde er laget av KI kan det hjelpe oss å være mer kritiske til informasjonen. Slik kan det hjelpe mot falske nyheter og innhold på sosiale medier og internett, forklarer Østmo.

Trygg utvikling av KI

KI-loven skal gjøre teknologien trygg, men mange frykter at strenge regler kan bremse utviklingen – også av KI som kan hjelpe leger å oppdage sykdommer.

Østmo sier at KI-utviklingen må være trygg. Teknologien skal være bra for folk. Vi må ikke slippe fri uferdige og skadelige systemer. 

– Om vi ikke har klare regler for hva som er greit å bruke KI til og ikke, kan teknologiselskapene selv bestemme. Derfor er det viktig med en lov som gir oss en trygg utvikling, sier Østmo.

Artikkelen er produsert og finansiert av UiT Norges arktiske universitet

UiT er én av over 80 eiere av forskning.no. Deres kommunikasjonsansatte leverer innhold til forskning.no. Vi merker dette innholdet for å tydelig skille formidling fra uavhengig redaksjonelt stoff.
Her kan du lese mer om ordningen.

Fikk du med deg disse artiklene fra UiT Norges arktiske universitet?

• 

  Endringer i kostholdet skaper utfordringer

• 

  Forskere: Risikabelt med flere skip her

• 

  Flere diktaturer enn demokratier: ­– Dette bør bekymre oss alle, sier forsker

• 

  I dypet fant forskerne denne fisken med enorme tenner – omtrent halvparten av hodets størrelse

• 

  I denne kulturen blir diagnoser som ADHD ofte sett på som en ressurs, ikke en hindring

• 

  Skolevegring: – Ta det på alvor

Les flere saker fra UiT Norges arktiske universitet her.

forskning.no vil gjerne høre fra deg!
Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER