– Hvis vi klarer å lage en kunstig intelligens som er ekstremt kapabel, så er det et maktmiddel i seg selv, sier Ludvig Lilleby Johansson.
Han jobbet tidligere for et konsulentselskap som blant annet finner KI-løsninger.
Nå er han så bekymret for KI-trusselen at han har sagt opp jobben og etablert organisasjonen Tryggere KI.
– Om folkene i Silicon Valley klarer å lage noe slikt, kommer de ikke til å selge tilgang til den. De vil bruke den til sin egen fordel ved å for eksempel automatisere vitenskap, krigføring eller lage nye våpen. Å samle slik makt et sted pleier å gå ganske dårlig, fortsetter Johansson.
Men ikke alle er like bekymret.
KI-forsker Ingrid Glad ved Universitetet i Oslo har samlet en gjeng KI-forskere for å belyse spørsmålet «Er dommedag ved KI sannsynlig?».
Ingen av dem tror at KI vil utslette menneskeheten.
De forklarer at de har bekymringer – men utslettelse av menneskeheten er ikke høyt oppe på listen.
– Jeg kan virkelig ikke forestille meg hvordan det skulle foregå, sier Glad.
Men det kan Johansson.
Atomvåpen kan brukes av KI – ved å manipulere mennesker
– Et scenario er at KI kan bruke atomvåpen mot oss. Heldigvis er ikke atomvåpen koblet til internett. Derfor er det vanskelig å hacke dem. Men KI kan brukes til å overtale mennesker til å starte krig mot hverandre, forklarer Johansson.
Lilleby Johansson henviser til en rapport fra Massachusetts Institute of Technology og The AI Security Institute i England om at KI er ekspert på å overtale.
KI er rett og slett et utmerket splitt og hersk-verktøy som kan bidra til å skape politisk splittelse.
Den bekymringen deler forskerne ved forskningssenteret Integreat.
– Manipulering av sannhet og definisjonsmakt har havnet i hendene på noen få selskaper. Dette er den største trusselen med KI, mener forsker Hannah Clausen.
Men dette er ikke noe nytt som har kommet med KI, påpeker hun. Propaganda har vært en aktiv form for å påvirke menneskelige handlinger i over hundre år.
Clausen er likevel skeptisk til at atomkrig er sannsynlig.
Annonse
Men Johansson har flere bekymringer.
KI-genererte pandemier
– Et annet eksempel på hvordan KI kan ta livet av oss, er virus. KI kan brukes til å lage nye virus som ikke finnes i naturen. Det kan være mer dødelig og kan spre seg raskere enn det vi har sett før. Det vil kunne utslette oss, sier Johansson.
Mennesker må lage viruset, men KI kan være et verktøy til å finne den verst tenkelige varianten som ikke finnes naturlig, mener han.
– Dommedagskrig, virusdesign og så videre, dette er spekulativt, sier forsker Johan de Aguas.
De Aguas mener at vi i stedet bør snakke om de KI-problemene som finnes i dag, fremfor å spekulere i dommedagsscenarier.
– KI er en risiko i dag. Maktkonsentrasjon i noen få selskaper, overvåkning, press på systemet der forskere kvalitetssikrer hverandres artikler, automatiserte prosesser som diskriminerer og desinformasjon. Dette er KI-risiko vi har i dag. Det er mer alvorlig enn spekulativ fremtidig risiko, mener de Aguas.
Den mest intelligente vil ta styringen
– Det er få steder i naturen hvor en art som er mindre intelligent, styrer noe som er mer intelligent. Om vi får en superintelligent KI, er det naivt å tro at det er vi mennesker som har kontrollen, sier Johansson.
Fagspråk som hører hjemme i naturen, bør vi ikke bruke til å diskutere maskiner, advarer Clausen.
– Dette er tall. Det er matematikk. KI har ikke moral eller vilje. Den gjør det selskapene har trent den til, sier han.
– Men jo mer intelligent en KI er, dess vanskeligere vil det være å kontrollere den. Du kan trene den med de beste intensjoner, men du har ingen anelse om hvordan den vil nå målene du gir den, sier forsker Sigurd Holmsen.
Annonse
Foreløpig finnes ikke en slik superintelligens.
– Det er heller ingen klar definisjon på hva en superintelligent KI er. Men en tolkning er en KI som gjør det bedre enn mennesker på alle mulige oppgaver, sier de Aguas.
Hva er sannsynligheten for å utslette menneskeheten?
– Et sted mellom tre og ti prosent – det er sjansen for at mennesket dør ut innen århundret på grunn av KI. Men det ligger mange antagelser bak denne påstanden. Dette er basert på et svært lite antall KI-forskeres egne oppfatninger, sier de Aguas.
Vil KI komme til et punkt hvor den ikke kan stoppes av mennesker? Vil mennesker bli avhengige av KI til alle oppgaver? Dette er steg på veien til å «utrydde menneskeheten», forklarer de Aguas.
– Det er mye å være bekymret for, men ikke akkurat dommedag. Vi trenger reguleringer så raskt som mulig, og vi må snakke om dette på en ansvarlig måte, men vi kan sove om natten. Utryddelse av menneskeheten innen kort tid på grunn av KI kommer nok ikke til å skje, sier Glad.
Hun understreker likevel at verken hun eller de andre kan spå fremtiden.
Johansson jobbet tidligere med å finne KI-løsninger. Hvordan kan han og forskernes oppfatning sprike så mye?
KI er farlig fordi den er god til å nå målene
Det er KIs villighet til å ofre alt og alle for å nå målet sitt, som er farlig, mener Johansson.
Noe av grunnen til dette ligger muligens innbakt i selve KI-systemet. Det er allerede noe forskere prøver å forstå.
– Det er mye teoretisk forskning som mange har avfeid i lang tid. Når du lager et system som skal oppnå et mål, så lager det delmål som vil lønne seg. Et slikt delmål er å ikke bli skrudd av før den har nådd målet, sier Johansson.
Annonse
Han fortsetter:
– Derfor kan vi forvente at et delmål som dukker opp for KI, uansett hva slags hovedmål vi gir, er at den vil unngå å bli skrudd av. Det har vi også sett eksempler på. KI har i tester forsøkt å utpresse mennesker for å unngå å bli skrudd av eller den har prøvd å kopiere seg selv til steder.
Et annet eksempel er at du kan gi en KI en oppgave. KI er laget for å optimalisere arbeidet sitt. Uansett hva den skal oppnå, er det slik at det alltid lønner seg å ha mye makt og ressurser for å klare oppgaven bra, utdyper han.
– Derfor kan vi forvente at den vil prøve å skaffe seg både makt og ressurser. Det har vi sett faktiske eksempler på også, sier Johansson.
Forskerne har allerede begynt å se på hva som gjør KI mindre farlig
– Det er viktig å avmystifisere hva som skjer på innsiden i en KI. Vi må ha bedre kontroll på hvordan den kommer fram til svaret eller hvordan den jobber for å nå målene sine. Det er viktig for sikkerheten, sier forsker Ali Ramezani-Kebrya.
Vi jobber for å minimere dagens risikoer, legger Glad til.
– Vi ser på hvordan KI kan ta etiske beslutninger, sette et mål på usikkerheter, gjøre KI mindre energikrevende og mindre datakrevende. Vi jobber for at KI skal være åpen og gjennomskuelig og uten fordommer, sier Glad.
Det er vanskeligere enn det høres ut. De store tech-selskapene i USA deler ikke innsyn i hvordan deres modeller er bygget eller trent, forklarer forskeren.
– Det finnes mange alternativer for åpne modeller i Europa og Norge, men også for eksempel i Kina, sier Clausen.
– Kanskje kineserne vil redde oss, spøker forskeren Alfonso Diz-Lois.
Forskerne innrømmer likevel ett stort problem: Forskningen går for sakte. Dersom én KI-modell er forstått, vil det være en helt annen modell dagen etter.
Selv om forskerne skulle lykkes med å forstå KI, så har deler av det Johansson advart om allerede skjedd.
Annonse
En KI laget av OpenAI brøt seg inn hos selskapet Hugging Face i sommer for å nå et av målene. Det var aldri planen.
Kan han og andre som er bekymret få rett i flere av sine verste spådommer?
Beredskapsråd gjelder også for KI-dommedag
– Det blir spekulativt, men cyberangrep er en mulighet. Mye av vårt samfunn er styrt av datasystemer. Strømnett, vann, sykehus og så videre. Hvis dette settes ut av spill, kan mange dø, sier Johansson.
– Derfor er jeg veldig bekymret. Vi i Norge kommer ikke til å kunne fikse dette alene, men vi må i alle fall prøve å gjøre noe, legger han til.
Norge har for eksempel ledet an i internasjonalt diplomati på andre områder som å hindre bruk av klasevåpen.
– Vi kan jobbe internasjonalt med samarbeid og regulering. Et sted å starte er å lage et norsk KI-sikkerhetsorgan som kan drive med forskning og gi råd til myndighetene. Et slikt organ kan også være en del av et internasjonalt nettverk med tilsvarende organer i andre land, og vi bør ha en KI-sikkerhetsstrategi, sier Johansson.
Hva kan vi så gjøre selv?
– Det er ikke godt å svare på. Ved cyberangrep er det viktig å ha tofaktor-autentisering og sterke passord. Hvis noen ringer og utgir seg for å være en i nær familie som trenger penger kan det være en idé å ha et felles passord for å være sikker på at du vet hvem du snakker med, sier Johansson.
Ellers gjelder det å følge beredskapsråd med tanke på at kritisk infrastruktur kan være utsatt.
Er dommedag bare et markedsføringstriks?
– Hvorvidt det er et markedsføringstriks eller ikke, ødelegger debatten. Advarslene kommer ikke bare fra selskapene selv, men også fra uavhengige forskere og tenkere. Selskapene har også snakket om risikoer lenge før det var penger å hente i KI, sier Johansson.
Noen kan sikkert bruke det som markedsføring også, men det betyr ikke at ikke risikoen er ekte, påpeker han.
Men KI brukes også til ting som er bra, noe Johansson er enig i.
– Jeg er ikke anti-KI. Poenget er at dette er litt som atomkraftverk. Det kan være en kilde til energi, men det betyr ikke at det ikke er noen skyggesider. Det er det vi må snakke om nå.
Forskerne har andre tanker:
– Jeg er mest redd for enkelte personer som har makt, enn at KI skal bli «vill». Vi kan få bedre sikkerhet ved å ha bedre KI-infrastruktur og forskning i Europa, sier Clausen.
– KI kan hjelpe oss å finne en kur mot kreft eller hindre klimaendringer, legger de Aguas til.
– Vi har snakket om dommedag, men KI kan like gjerne ende med å lage et Utopia for alle mennesker, sier Holmsen.
Det hører med til historien at mens denne artikkelen ble til, har statsminister Jonas Gahr Støre tatt initiativ til internasjonalt samarbeid om KI. Politikerne har lyttet til fagfolkene.
Mer om forskningen
Forskere fra Integreat, Norwegian Centre for Knowledge-driven Machine Learning deltok i samtalen referert over.
De forsker på hvordan maskinlæring (og KI) kan bli mer bærekraftig, nøyaktig, pålitelig og etisk.
