Er det mulig å bruke KI på en etisk måte?

Forsker Elisabeth Asser holder ofte foredrag om kunstig intelligens og får stadig det samme spørsmålet: Går det an å bruke språkmodeller på en etisk måte?

Så langt har svaret hennes vært nei.

– Det har med måten disse språkmodellene er laget på, sier hun.

Asser sammenligner det å bruke språkmodeller som ChatGPT og Claude med å kjøpe bloddiamanter. Sammenligningen har hun hentet fra den amerikanske forskeren Joy Buolamwini.

– Dette er diamanter som er utvunnet på bekostning av stor menneskelig lidelse. Rå utnyttelse av ressurser og kynisk utnytting av arbeidskraft, sier Asser.

Morten Goodwin er ikke uten videre med på sammenligningen.

– Det er en voldsom påstand, sier han.

Mennesker er med og trener

Goodwin forklarer at en språkmodell trenes i to hovedfaser.

– Den første fasen er grunntrening. Det betyr egentlig at modellen trenes med alt som finnes på internett, sier han.

Etter denne første fasen kommer fintreningen.

– Da er det menneskene som vurderer svarene modellen gir, og merker innholdet den genererer. Kanskje er det så enkelt som at de gir tommel opp eller tommel ned for det modellen leverer, sier Goodwin.

Han mener det er vanskelig å se for seg en god språkmodell uten mennesker inne i bildet. Og det er nettopp i disse to fasene Asser mener problemene ligger.

Stjålet gods

– Tekstgrunnlaget som de store modellene har brukt i trening, er jo stjålet gods, sier Asser.

Bøker, bilder og musikk er hentet fra nettet og blir brukt til å trene språkmodellene uten at opphavspersonene har noe de skulle ha sagt. Asser mener måten vi snakker om språkmodellene på, skjuler hva det egentlig dreier seg om.

– Når en million bøker kalles for et datasett, så er det lett å glemme at det er en million ulike former for menneskelig kunstuttrykk som hver for seg har en egenverdi, sier hun.

Goodwin er mer delt. Han peker på at forskere også kan tjene på å bli funnet av språkmodellene, på samme måte som de tjener på å bli funnet av Google.

– Så det er ikke alt som er piratkopier, selv om det gjelder veldig mye av materialet modellene er trent på, sier han.

Arbeidet ingen ser

Under fintreningen må modellene lære seg hva som kan betegnes som hatefullt, rasistisk, voldelig eller knyttet til overgrep. Og da må noen merke det innholdet først.

Dette gjøres i dag av mennesker i land som Kenya og Venezuela. Disse jobber i kortsiktige arbeidsforhold, for tredjepartsfirmaer med løs tilknytning til dem som utvikler språkmodellene.

– Det å bli eksponert for så mye grusomt innhold, veldig grafisk og over lang tid, gjør noe med et menneske, sier Asser.

Hun viser til journalisten Karen Hao og boka Empire of AI. Hao beskriver hvordan arbeiderne har liten forhandlingsmakt. De kjenner ikke risikoen de utsettes for på forhånd og får verken beskyttelse eller oppfølging underveis eller etterpå.

– Folk i politiet som jobber med overgrepsmateriale, får tilbud om psykologhjelp. Jeg tviler på at disse menneskene får det samme tilbudet, sier Goodwin.

Time Magazine har dokumentert at kenyanske arbeidere som gjorde denne jobben for OpenAI, tjente under to dollar timen.

– Kanskje er vi på vei mot en ny underklasse her, litt som fabrikkene under den industrielle revolusjonen, sier Goodwin.

Vanskelig å unngå bruk

Både Asser og Goodwin peker på at den enkelte har lite å stille opp med. Språkmodeller ligger allerede for eksempel i Word, i Outlook og i søkesvarene til Google.

– Jeg kan velge å ikke kjøpe en bloddiamant. Men det er i praksis vanskelig å velge og ikke bruke kunstig intelligens, sier Goodwin.

Asser mener kravene må rettes mot dem med mest makt. Det vil si utviklere, innkjøpere, myndigheter og store virksomheter. Velger en norsk kommune den billigste modellen uten å stille krav, går det trolig ut over noen andre.

– Vi kan ikke individualisere et strukturelt problem. En ansvarlig aktør bør spørre hvor treningsdataene kommer fra, hvilke underleverandører som brukes og hvordan arbeidsforholdene håndteres, sier Asser.

Små modeller er store nok

De to forskerne mener mye kan løses med mindre og billigere modeller.

– Du trenger ikke en gigantisk språkmodell for å gjøre et sammendrag av en tekst, sier Goodwin.

Små språkmodeller er raskere, og de er lettere å ha kontroll på. Ulempen er at folk må tenke litt mer selv.

– Kunstig intelligens er en teknologi som i svært stor grad påvirker skole og arbeidsliv, offentlig sektor og demokrati. Så spørsmålet bør kanskje ikke være om du eller jeg er etiske når vi bruker ChatGPT. Spørsmålet bør kanskje heller være hvorfor vi som samfunn aksepterer at denne teknologien har en verdikjede som vi har så liten innsikt i, sier Asser.

Hør hele episoden i lenken under:

Artikkelen er produsert og finansiert av Universitetet i Agder

Universitetet i Agder er én av over 80 eiere av forskning.no. Deres kommunikasjonsansatte leverer innhold til forskning.no. Vi merker dette innholdet for å tydelig skille formidling fra uavhengig redaksjonelt stoff.
Her kan du lese mer om ordningen.

Les også disse artiklene fra Universitetet i Agder:

• 

  – En fantastisk mulighet for å få barna i aktivitet

• 

  Hvorfor slutter barn på skolen? Hvordan skaffe unge jobb? Og hvordan kan eldre bli mindre ensomme?

• 

  Nobels litteraturpris: – Denne djerve og grenseoverskridande stilen er eit særmerke ved hennar skrivemåte

• 

  På dette området svikter utdanningen av trenere

• 

  Batterifabrikken Morrow gikk konkurs: – Bedrifter etablerer seg ikke i et vakuum

• 

  KI-apokalypse nå? Dette mener 5 forskere

Les flere artikler fra Universitetet i Agder her.

forskning.no vil gjerne høre fra deg!
Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER