Annonse
Denne artikkelen er produsert og finansiert av Universitetet i Agder - les mer.
Stadig flere lar KI skrive for seg. Bør vi skamme oss?
To forskere mener problemet ikke er teknologien.
«Kjære konfirmant. Du står ved terskelen til livet, og i dag markerer du et viktig steg på veien inn i voksenlivet. Du er klok, omsorgsfull og full av muligheter. Livet er åpent for deg.»
Elisabeth Asser leser opp en tale skrevet av ChatGPT – glatt og varm, men uten noen egentlig avsender.
Asser forsker på KI og etikk ved Universitetet i Agder (UiA). Hun advarer mot å bruke kunstig intelligens på denne måten.
– Skal du skriver en tale, har du et ønske om å fortelle noen noe. Om du bruker kunstig intelligens, så har du latt være å tenke gjennom hva du egentlig har på hjertet, sier hun.
Språkmodellen roser deg uansett for resultatet. Det gjør at du lett slår deg til ro med at talen faktisk har blitt bra. Fenomenet kalles sykofansi, altså at modellen smisker for å bli likt, forklarer forskeren.
– Det er deilig å snakke med noen som synes alt du gjør er fantastisk, sier Asser.
Kontrakten som brytes
– Vi blir gode til det vi gjør mye av og dårligere til det vi gjør mindre av. Når språkmodeller skriver for oss, blir vi mindre gode til å skrive og tenke, sier Asser.
Men all tekst er ikke lik. Det er stor forskjell på en tale og for eksempel en bruksanvisning. Forskjellen ligger i den uskrevne kontrakten mellom den som skriver og den som leser.
– Skal du holde en tale til meg, ligger det en kontrakt i bunn om at du har noe oppriktig på hjertet. Får jeg vite etterpå at du bare kjørte det gjennom en språkmodell, da blir det åpenbart at du har brutt den kontrakten, sier Asser.
Om du derimot skal skrive en bruksanvisning, er kontrakten med leseren en ganske annen. Der er ikke forventningene større enn at bruksanvisningen skal hjelpe oss å få produktet til å virke.
Ingen nøytral hammer
Men hvem er egentlig ansvarlig for resultatet om vi leverer fra oss et mindre godt resultat etter å ha brukt kunstig intelligens?
Forsker Morten Goodwin bruker et bilde fra byggeplassen.
– Blir et hus skjevt fordi snekkeren bruker verktøyet feil, skylder vi ikke på hammeren, sier han.
Asser er enig i poenget, men peker på en viktig forskjell:
– Hammeren forteller ikke snekkeren om hvor spikeren skal stå. En språkmodell har langt flere føringer i seg. Den har en verdensforståelse i seg som du ikke er klar over når du bruker den. Den er aldri helt nøytral, sier hun.
Grunnen til dét ligger i hvordan språkmodellene er laget.
Annonse
Modellene er trent på stort sett all tekst som ligger på internett og enda mer attpå. Disse tekstene kan være alt fra bloggposter og romaner, til propaganda og hatprat.
Tradisjonelle skjevheter i den vestlige kulturen vil bli videreført av språkmodellene i større eller mindre grad. Det kan for eksempel være syn på kvinner eller melaninrike personer.
Grønt, gult og rødt lys
Goodwin og Asser går gjennom en rekke eksempler på KI-bruk og gir dem trafikklys etter om bruken er OK eller ikke.
KI som stavekontroll: grønt. Finne svakheter i din egen tekst: grønt. Sammendrag av en artikkel du burde ha lest: gult.
Å bruke KI til å skrive førsteutkast til en personlig tale får rødt lys. Om produktet er en vitenskapelig tekst blir bruken enda rødere.
Verst av alt er det å bruke teknologien til å skrive kronikker for deg, mener forskerne.
– En kronikk skal være din mening om en ting. Skriver språkmodellen den for deg, er det ikke lenger din mening, sier Goodwin.
Skam er ikke svaret
Begge kjenner på hvor stor makt teknologien har fått over oss. Goodwin har sluttet å bruke tankestrek fordi den lange streken er blitt et stempel på tekst skrevet av kunstig intelligens.
– Jeg er egentlig veldig glad i tankestrek. Men jeg har sluttet å bruke det, sier han.
Asser på sin side nekter å endre sin bruk av tegnsetting.
Annonse
– Da dette ble en sak, bestemte jeg meg veldig tidlig for at den tankestreken, den skal ingen få ta fra meg.
Goodwin mener likevel at skam er feil vei å gå.
– Det er greit å bruke teknologien, i hvert fall så lenge du er ærlig på det. Har du fått språkvask av KI, kan du skrive at du har fått det, sier han.
Dette mener forskerne må inn i læreplanen
De to diskuterer også regjeringens anbefaling om at KI skal ut av skolen fra skoleåret 2026–2027.
Goodwin er skeptisk og trekker frem en rekke vanlige verktøy som nå tar i bruk kunstig intelligens, fra Google-søk til tekstbehandlingsprogrammet Word.
– Hvis ikke man skal lære KI-bruk på skolen, hvor skal man da lære det, spør han.
Asser er mer positiv til at det bremses nå, men hun vil ha noe i tillegg.
– Kritisk tenkning må inn i læreplanen samtidig. Det er også en form for beredskap å kunne tenke klokt og forstå hvordan teknologien påvirker oss, sier hun.
Hør hele episoden i lenken under:
