Denne artikkelen er produsert og finansiert av Universitetet i Agder - les mer.
Er det mulig å bruke KI på en etisk måte?
Bak ChatGPT og Claude jobber lavtlønte arbeidere med å sortere innhold fylt av vold og overgrep. Forsker sammenligner bruk av teknologien med å kjøpe bloddiamanter, som utvinnes under forferdelige forhold.
Såkalte bloddiamanter utvinnes ofte under forferdelige forhold med tvangsarbeid, vold, overgrep og barnearbeid.(Illustrasjonsbilde: Unsplash)
Forsker Elisabeth Asser holder ofte foredrag om kunstig intelligens og får stadig det samme spørsmålet: Går det an å bruke språkmodeller på en etisk måte?
Så langt har svaret hennes vært nei.
– Det har med måten disse språkmodellene er laget på, sier hun.
Asser sammenligner det å bruke språkmodeller som ChatGPT og Claude med å kjøpe bloddiamanter. Sammenligningen har hun hentet fra den amerikanske forskeren Joy Buolamwini.
– Dette er diamanter som er utvunnet på bekostning av stor menneskelig lidelse. Rå utnyttelse av ressurser og kynisk utnytting av arbeidskraft, sier Asser.
Morten Goodwin er ikke uten videre med på sammenligningen.
– Det er en voldsom påstand, sier han.
Podcast: Språkmodeller er som bloddiamanter
Når ChatGPT skriver en elegant bryllupstale på ti sekunder, er det lett å glemme hva som skjuler seg bak resultatet. Tekster fra forfattere som aldri ble spurt. Lavtlønte arbeidere uten ordnede arbeidsforhold som har måttet gå gjennom voldelig og traumatiserende innhold. En teknologisk verdikjede vi har svært liten innsikt i.
I denne episoden diskuterer forskerne Elisabeth Asser og Morten Goodwin og programleder Maren Thormodsæter Lyngroth om det er umulig å bruke ChatGPT og de andre språkmodellene etisk.
Lenke til episoden finner du nederst i denne saken.
Mennesker er med og trener
Goodwin forklarer at en språkmodell trenes i to hovedfaser.
– Den første fasen er grunntrening. Det betyr egentlig at modellen trenes med alt som finnes på internett, sier han.
Etter denne første fasen kommer fintreningen.
– Da er det menneskene som vurderer svarene modellen gir, og merker innholdet den genererer. Kanskje er det så enkelt som at de gir tommel opp eller tommel ned for det modellen leverer, sier Goodwin.
Han mener det er vanskelig å se for seg en god språkmodell uten mennesker inne i bildet. Og det er nettopp i disse to fasene Asser mener problemene ligger.
Stjålet gods
– Tekstgrunnlaget som de store modellene har brukt i trening, er jo stjålet gods, sier Asser.
Bøker, bilder og musikk er hentet fra nettet og blir brukt til å trene språkmodellene uten at opphavspersonene har noe de skulle ha sagt. Asser mener måten vi snakker om språkmodellene på, skjuler hva det egentlig dreier seg om.
– Når en million bøker kalles for et datasett, så er det lett å glemme at det er en million ulike former for menneskelig kunstuttrykk som hver for seg har en egenverdi, sier hun.
Goodwin er mer delt. Han peker på at forskere også kan tjene på å bli funnet av språkmodellene, på samme måte som de tjener på å bli funnet av Google.
Annonse
– Så det er ikke alt som er piratkopier, selv om det gjelder veldig mye av materialet modellene er trent på, sier han.
Arbeidet ingen ser
Under fintreningen må modellene lære seg hva som kan betegnes som hatefullt, rasistisk, voldelig eller knyttet til overgrep. Og da må noen merke det innholdet først.
Dette gjøres i dag av mennesker i land som Kenya og Venezuela. Disse jobber i kortsiktige arbeidsforhold, for tredjepartsfirmaer med løs tilknytning til dem som utvikler språkmodellene.
– Det å bli eksponert for så mye grusomt innhold, veldig grafisk og over lang tid, gjør noe med et menneske, sier Asser.
Hun viser til journalisten Karen Hao og boka Empire of AI. Hao beskriver hvordan arbeiderne har liten forhandlingsmakt. De kjenner ikke risikoen de utsettes for på forhånd og får verken beskyttelse eller oppfølging underveis eller etterpå.
– Folk i politiet som jobber med overgrepsmateriale, får tilbud om psykologhjelp. Jeg tviler på at disse menneskene får det samme tilbudet, sier Goodwin.
Time Magazine har dokumentert at kenyanske arbeidere som gjorde denne jobben for OpenAI, tjente under to dollar timen.
– Kanskje er vi på vei mot en ny underklasse her, litt som fabrikkene under den industrielle revolusjonen, sier Goodwin.
Vanskelig å unngå bruk
Både Asser og Goodwin peker på at den enkelte har lite å stille opp med. Språkmodeller ligger allerede for eksempel i Word, i Outlook og i søkesvarene til Google.
– Jeg kan velge å ikke kjøpe en bloddiamant. Men det er i praksis vanskelig å velge og ikke bruke kunstig intelligens, sier Goodwin.
Annonse
Asser mener kravene må rettes mot dem med mest makt. Det vil si utviklere, innkjøpere, myndigheter og store virksomheter. Velger en norsk kommune den billigste modellen uten å stille krav, går det trolig ut over noen andre.
– Vi kan ikke individualisere et strukturelt problem. En ansvarlig aktør bør spørre hvor treningsdataene kommer fra, hvilke underleverandører som brukes og hvordan arbeidsforholdene håndteres, sier Asser.
Små modeller er store nok
De to forskerne mener mye kan løses med mindre og billigere modeller.
– Du trenger ikke en gigantisk språkmodell for å gjøre et sammendrag av en tekst, sier Goodwin.
Små språkmodeller er raskere, og de er lettere å ha kontroll på. Ulempen er at folk må tenke litt mer selv.
– Kunstig intelligens er en teknologi som i svært stor grad påvirker skole og arbeidsliv, offentlig sektor og demokrati. Så spørsmålet bør kanskje ikke være om du eller jeg er etiske når vi bruker ChatGPT. Spørsmålet bør kanskje heller være hvorfor vi som samfunn aksepterer at denne teknologien har en verdikjede som vi har så liten innsikt i, sier Asser.
Hør hele episoden i lenken under:
Verdikjeden bak en språkmodell
Grunntrening: Modellen mates med enorme mengder tekst, kode og bilder hentet fra internett.
Fintrening: Mennesker vurderer svar og merker innhold. Dette inneholder blant annet vold, overgrep og hatefulle ytringer.
