– Kunstig intelligens skal hjelpe og utfylle det mennesker gjør, ikke erstatte mennesker. Teknologien skal være en støttespiller som gir oss nye muligheter, sier Stefan Schmager.

Han disputerte nylig til doktorgraden sin ved Universitetet i Agder (UiA).

Schmager samarbeidet tett med NAV i arbeidet med doktorgraden. Han undersøkte blant annet hvordan innbyggere og ansatte reagerte på et system basert på kunstig intelligens (KI) for oppfølging av syke.

Det som overrasket ham mest, var hvor tillitsfulle nordmenn var overfor staten og offentlige institusjoner.

– Da jeg presenterte resultatene på konferanser i USA, ble folk helt målløse. De kunne ikke tro at folk stolte på myndighetene. I Norge forstår folk at det offentlige har en jobb å gjøre, sier Schmager.

Tillit gjør nyskaping enklere

Nordmenns tillit til det offentlige gjør at samfunnet vårt fungerer godt, mener Schmager, som selv er fra Tyskland.

– Tilliten gjør nyskaping enklere. Velmente tiltak blir ikke så lett lagt på is på grunn av manglende forståelse eller vrangvilje. Men samtidig tror jeg det er sunt å ikke være naiv, og stille spørsmål ved beslutninger som blir tatt, sier han.

Deltakerne i studien var positive til at NAV behandlet dataene deres med kunstig intelligens. De satte pris på åpenhet om hva dataene skulle brukes til. De forsto også at ved å la KI behandle data kunne det spare tid og ressurser på en måte som kom alle til gode.

For å ta et tenkt eksempel: Om du er sykemeldt, kan kunstig intelligens hjelpe saksbehandleren å avgjøre om det er nødvendig med et oppfølgingsmøte eller ikke.

– Folk forsto at de bidro til noe større. Ved å la NAV bruke dataene, frigjør de ressurser som kan brukes på andre som trenger mer hjelp, forklarer Schmager.

Doktorgraden er en del av prosjektet AI4Users, som er finansiert av Norges forskningsråd. Den er også del av et større samarbeid mellom NAV og UiA innenfor det som blir kalt menneskesentrert kunstig intelligens.

– Kort fortalt handler det om å bruke KI som et verktøy som gjør oss bedre i stand til å utføre oppgavene våre, i stedet for at teknologien tar oppgavene fra oss, sier Schmager.

Ansatte positive

Schmager intervjuet også 19 saksbehandlere i NAV. De fleste var positive til KI, men hadde klare ønsker.

– De så stort potensial i at KI kan ta unna rutinearbeid, slik at de får mer tid til menneskene de skal hjelpe, sier han.

Som en av de NAV-ansatte sa til Schmager: «Vi kunne bruke tiden vår på de viktigste sakene, de som virkelig trenger det. De med få ressurser som ikke kan ta vare på seg selv.»

Saksbehandlerne ønsket KI som kunne:

• Finne viktig informasjon raskere
• Hjelpe med å prioritere saker
• Ta seg av tidkrevende administrasjon
• Gi dem mer tid til de vanskeligste sakene

12 regler for trygg KI-bruk

– I privat sektor vil vi at KI skal tilpasse seg oss. Men i det offentlige må alle behandles likt. Systemet skal ikke lære seg en saksbehandlers vaner og kopiere dem, forklarer Schmager.

Hvis en saksbehandler for eksempel ofte avslår søknader fra unge menn, skal ikke KI-systemet begynne å foreslå det samme. Alle saker skal vurderes likt ut fra regelverket.

Schmager utviklet tolv slike prinsipper for bruk av KI i offentlig sektor – seks for innbyggernes behov og seks for de ansattes behov. Du kan lese alle i faktaboksen under.

NAV tok initiativet

– Da forskerne fra UiA tok kontakt, var NAV svært åpne og interesserte i muligheten. De sa at de planlegger å bruke KI, men at de vet det finnes risikoer og ville sette pris på om vi kunne hjelpe dem å gjøre det riktig, sier Schmager.

Forskningen fyller et tomrom. Mens mange store teknologiselskaper har laget sine egne KI-regler, er det nesten ingen retningslinjer for offentlig sektor.

– Private selskaper må tjene penger. Det offentlige skal tjene folket. Derfor trengs det andre regler for dem, sier Schmager.

– Må gjøres ansvarlig

– NAV er i rivende digital utvikling, og samarbeidet med UiA og Stefan har gitt organisasjonen vår verdifull kunnskap og innsikt, sier Arve Haug, seniorrådgiver i NAV

Han forteller at NAV er helt avhengig av tillit til sine digitale tjenester. Det gjør at samarbeidet med UiA er avgjørende for at tjenester skal oppfattes som trygge og rettferdige.

– Det er åpenbart mange muligheter med bruk av KI i våre tjenester, men dette må gjøres på en ansvarlig måte. Derfor er samarbeidet med UiA så viktig, sier Haug.

En advarsel

Studien til Schmager viser at Norge og Norden ligger langt fremme i ansvarlig KI-bruk. Men Schmager advarer mot å gå for fort frem.

– Ikke bruk KI bare fordi alle andre gjør det. Forstå først hvilket problem du skal løse. Så kan du vurdere om KI er riktig verktøy, råder han.

Prinsippene han har laget kan brukes av alle offentlige virksomheter som vil ta i bruk KI. De kan også tilpasses andre land, selv om tillitsnivået er annerledes enn i Norge.

Referanse:

Stefan Schmager: Human-Centered Artificial Intelligence: Design Principles for Public Services. Doktorgradsavhandling, Universitetet i Agder, 2025.

Artikkelen er produsert og finansiert av Universitetet i Agder

Universitetet i Agder er én av over 80 eiere av forskning.no. Deres kommunikasjonsansatte leverer innhold til forskning.no. Vi merker dette innholdet for å tydelig skille formidling fra uavhengig redaksjonelt stoff.
Her kan du lese mer om ordningen.

Les også disse artiklene fra Universitetet i Agder:

• 

  Forskarar granskar no fleire hundre år gamle slangar på jakt etter dødeleg sjukdom

• 

  – Ei slags overtru på at KI vil løyse det meste

• 

  – Dataspillet GTA setter standarden for hvor langt du kan gå

• 

  Spillselskaper tjener seg søkkrike på 10 kroner av gangen

• 

  KI kan gjøre dataspill mer realistiske enn tv-serier

• 

  – Ta samtalen med barna om GTA og voksenspill nå

Les flere artikler fra Universitetet i Agder her.

forskning.no vil gjerne høre fra deg!
Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER