KI-apokalypse nå? Dette mener 5 forskere

«Vi må senke tempoet».

Det meldte Anthropic-sjef Dario Amodei nylig i et innlegg. Han fikk raskt støtte fra konkurrentene Sam Altman (OpenAI) og Elon Musk (SpaceXAI, Tesla, X).

Innlegget kom i kjølvannet av oppsigelsen til Jacob Coxon. Den tidligere Anthropic- og OpenAI-researcheren hevdet at han sa opp i protest fordi selskapene handler uansvarlig.

Overskriftene ble virkelig dramatiske da Anthropic-forsker Evan Hubinger i en støttemelding til Coxon sa han mener det er mer enn ti prosent sjanse for at KI utsletter menneskeheten i løpet av et tiår.

Hvor alvorlig er alt dette – og hva ligger egentlig bak utspillene?

Her er det behov for å sortere. Hva sier forskerne ved Universitetet i Agder som sitter tettest på KI-utviklingen?

Elisabeth Austad Asser

– Vi skal lytte til hva tek-gigantene sier, for teknologien som utvikles er kraftig. Samtidig skal vi huske at KI ikke handler av egen fri vilje, sier Elisabeth Austad Asser.

Hun sier videre at det finnes ingen superintelligens her. Algoritmen gjør det den er blitt satt til å gjøre av menneskelige utviklere.

– Når Amodei står frem med sine uttalelser så virker han nærmest litt hjelpeløs, men det er jo hans teknologi. Han føler seg kanskje fanget i kappløp mellom tek-selskapene, men hvis han virkelige mente det var så farlig og tok moralsk ansvar, så kunne han jo bare sluttet, sier Elisabeth Austad Asser.

Asser tror noe av det farligste vi kan gjøre nå, er å tenke at denne teknologien er for stor og mektig, og at vi her i lille Europa ikke kan lage noe eget.

– For det er jo nettopp det vi må gjøre, hvis vi tenker at det samfunnet vi har her i Norge og Europa er bygd på verdier som vi ønsker og trenger å holde i hevd, sier hun.

Morten Goodwin

– Når det gjelder sannsynligheten for at KI fører til dommedag, fremstår dette for meg som feilrepresentasjon av data. Det vi har empiri for å si, er at teknologien kan utvikle seg på en måte som gjør at den løper løpsk og vi mister kontrollen, sier Morten Goodwin.

Han mener det kan være ille nok, men det er noe ganske annet enn at det er mer enn ti prosent sjanse for at menneskeheten blir utslettet.

– Ved at toppsjefene rykker ut og fremstiller seg som ansvarlige aktører med foten på bremsen, kan de enklere styre en skjerpet regulering som de vet vil komme.

Goodwin sier det er viktig å huske at det er i KI-selskapenes egeninteresse å presentere teknologien som så kraftfull og fantastisk at de må holde igjen utviklingen. Hvis de klarer å selge ideen om at teknologien kommer til å bli enda bedre enn den er i dag, kan de tiltrekke seg investorer.

Rebekka Olsson Omslandseter

Rebekka Omslandseter sier nyhetsbildet kan fremstå overveldende når dette skrives om overalt.

– Teknologigantene har over tid bygget opp et bilde av at modellene deres er blitt veldig mye bedre og kan komme ut av kontroll, uten at man egentlig har noen måte sjekke ut hvilke deler av infoen som faktisk stemmer, forklarer hun.

Hun understreker at selskapene er både skaperen av problemet og nå varsleren om dette. I dag er det teknologiselskapene selv som både utvikler, tester og vurderer risikoen ved sine egne systemer.

– Vi har som enkeltpersoner ingen reell påvirkningsmakt. Det finnes heller ingen globale fora der vi kan diskutere og bli enige om grenser for KI - hva teknologien skal få lov til og ikke, samt regler for utvikling av KI.

Hun forteller at med EUs AI Act er Europa litt på ballen, men globalt mangler vi samarbeidsfora. Utviklingen av KI går raskt, reguleringer henger etter.

Ishita Barua

– At de fremste amerikanske KI-selskapene nå går ut offentlig og krever mer regulering fra myndighetene, fremstår for meg som underlig, sier Ishita Barua.

Hun forteller at flere av dem har drevet aktiv motarbeidelse og trenering av nettopp denne type regulering i Europa gjennom lobbyisme for å utvanne EUs KI-forordning, AI Act.

– Tilsvarende bekymringer om manglende kontroll og sikkerhet hos legemiddelindustrien ville umiddelbart utløst tilsyn fra myndighetene. I de fleste industrier ville enhver antydning om manglende kontroll og potensiell skade sannsynligvis føre til at aksjekursene kollapset.

Men i KI-sektoren er det åpenbart ikke slik, fortsetter hun. Her understøtter skrekkscenarier skyhøye verdsettelser av selskapene fordi beskrivelser av teknologien som ukontrollert og livsfarlig også signaliserer hvor potent den er.

– Og verdsettelse er viktig spesielt før en børsnotering, som for Anthropics del kan bli historiens største, sier hun.

Ole-Christoffer Granmo

Ole-Cristoffer Granmo sier vi må huske at en av hovedutfordringene med dagens generative KI er at vi ikke kan spore KI-ens svar tilbake til kildene.

– Selv om resonnementene virker overbevisende, kan de være fullstendig feilaktige. Grunnen er at de baserer seg på statistiske mønstre fremfor etablert kunnskap.

Han mener at dersom vi overlater kritiske beslutninger innen medisin eller forsvar til KI, risikerer vi alvorlige feil. Jo større handlingsrom og autonomi vi gir disse systemene, desto større blir faren for alvorlige hendelser.

– Derfor må vi utvikle KI-løsninger hvor vi har full transparens og kontroll, etter samme strenge prinsipper som brukes i for eksempel luftfarten. Det krever mer transparent teknologi, sier han.

Granmo sier vi antagelig ikke får full kontroll før løsningene er tvers gjennom logiske, uten mørke kroker.

– Her tenker jeg Tsetlin-maskiner kan spille en viktig rolle, spesielt hvis forskerne lykkes med å bygge storskala logiske modeller, sier han.

Tsetlin-maskinen er en KI-metode som lærer mønstre og sammenhenger ved hjelp av logiske regler.

Artikkelen er produsert og finansiert av Universitetet i Agder

Universitetet i Agder er én av over 80 eiere av forskning.no. Deres kommunikasjonsansatte leverer innhold til forskning.no. Vi merker dette innholdet for å tydelig skille formidling fra uavhengig redaksjonelt stoff.
Her kan du lese mer om ordningen.

Les også disse artiklene fra Universitetet i Agder:

• 

  Hvorfor synger ikke dagens popartister om hvordan vi kan redde miljøet?

• 

  Er det mulig å bruke KI på en etisk måte?

• 

  Stadig flere lar KI skrive for seg. Bør vi skamme oss?

• 

  Kor mange treningar i veka er bra for barn?

• 

  Kysttorsken slit med varme somrar

• 

  Dette får deg til å anbefale ferieopplevelsen til andre

Les flere artikler fra Universitetet i Agder her.

forskning.no vil gjerne høre fra deg!
Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER