Er virus designet av KI farligere enn andre virus?

De første virusene designet ved hjelp av KI, finnes.

Likevel er det ikke grunn til unødig bekymring, mener forskere. De påpeker at ingen stater er tjent med å lage farlige virus, enten det er ved hjelp av KI eller etablerte metoder.

KI kan hjelpe til å designe virus, men du trenger et menneske til å lage det, mener professor i molekylærbiologi, Dirk Linke, ved Universitetet i Oslo.

– Det krever mye erfaring og kunnskap. Det krever også mye utstyr. Det er ikke noe som kan gjøres av hvem som helst. Hvem skulle en slik aktør være? spør han.

Ikke-statlige aktører med onde hensikter er alltids en mulighet fremholder han, men de har i mindre grad tilgang til avanserte laboratorier og utstyr.

Ifølge ham er det ikke KI i seg selv som øker risikoen.

– Den viktigste forskjellen med KI er at det øker hastigheten. KI kan analysere store mengder data og finne sammenhenger som ellers ville ha tatt lang tid. KI i seg selv kan ikke gjøre noe som vi ikke var i stand til fra før av, sier han.

Han presiserer at det er menneskene med onde hensikter som er problemet. KI er bare et verktøy.

Mennesker er langt mer komplekse enn virus

Professor i molekylærbiologi, Eivind Valen er ikke helt enig.

Per i dag er ikke KI-designede virus et problem, påpeker han.

– Men vi får KI-modeller som forstår stadig mer av hvordan genomer er bygget opp og hvordan vi skal forstå den informasjonen. De er langt fra perfekte, men vi har allerede KI-modeller som kan si noe om genstrukturer hos mennesker, sier han.

Valen forteller at mennesker er langt mer komplekse enn virus, så det er absolutt mulig at en KI-modell vil kunne designe virus.

Det som gjør at KI-modeller ikke er gode på å designe virus i dag, er først og fremst mangel på data, mener han.

– Data om ulike typer virus, hvor hyppig og hvordan de smitter og så videre. Dette finnes det ikke gode nok data på i dag. I hvert fall i de mengdene som er nødvendige for å trene KI-modeller, sier professoren.

Folk med onde hensikter har tilgang til enklere metoder enn biologi

Linke mener at biologi har kommet litt skeivt ut med KI.

– Hvis målet er å ta livet av mange mennesker, er det andre metoder som er mer effektive, sier han.

Både kjernefysiske og kjemiske våpen er farligere.

Han antyder at pandemien kanskje har noe av skylda for at folk flest ser ut til å være reddere for biologiske våpen.

Valen er enig, men tilføyer:

– Virus sprer seg ukontrollert, så det er en helt egen klasse av våpen, mener han.

Samtidig mener han dette ikke egentlig har noe med KI å gjøre:

– Evolusjonen lager nye virus hele tiden. Forskjellen ligger i at virus som muterer, gjør få endringer av gangen. Med KI er det mulig å gjøre mer drastiske endringer som sjelden forekommer naturlig. Det finnes også måter å lage virus på som er helt uavhengig av KI, sier Valen.

Han er mest redd for én ting:

– Det største problemet er at det kan bli lett å gjøre det. Per i dag kan kanskje enkelte nasjoner holde på med dette, men det er vanskelig å se for seg at de har et motiv for å utslette menneskeheten.

Valen er mer redd for at dette blir tilgjengelig for folk som ikke er fagfolk.

– Heldigvis er det ikke nok å kun designe et virus. Det skal jo virkeliggjøres også. Foreløpig trenger man stor infrastruktur, men laboratorie-automatisering er jo også et felt hvor det gjøres store fremskritt. 

Valens synspunkt er at KI-designede virus ikke er et problem i dag, men at det absolutt kan bli det i fremtiden.

KI fikk veldig mye hjelp fra mennesker da virusene ble designet

Bakterievirusene som har blitt designet ved hjelp av KI, ble ikke til utelukkende ved KI.

Rein Aasland er professor i molekylærbiologi ved Universitetet i Oslo.

Han forteller at forskerne først forsøkte å designe såkalte bakteriofag-genom med KI-modellen Evo2, uten menneskelig veiledning.

Da fikk de ingenting. I studien måtte de inkludere at det skulle designes en spesifikk type virus som også skulle inneholde gener for et spike-protein som kan binde til E. coli-bakterier.

– I tillegg la forskerne til filtre for å ta bort meningsløse sekvenser. At disse bakteriofagene ble laget av KI, er derfor feil, sier han.

Dommedag ved KI er ikke faktabasert 

Aasland og Linke er bekymret for at debatten om dommedag via KI-designede virus er skadelig for forskningen.

– Forskere kan aldri si at risikoen for å misbruke kunnskap eller forskning er null. De som er alarmister og tror på muligheten for at KI kan misbrukes til å lage farlige virus, vil alltid vinne, sier Linke.

– I dag er det ingen som sier hva, hvem eller hvordan denne risikoen arter seg. Det er ingen som har en konkret trussel. Dette er ikke en debatt med fakta, legger Aasland til.

Linke forteller at det i verste fall kan bidra til å skape mistro til forskning.

– Forskere er ikke uetiske. Det er gjort mye for å sikre at alt labarbeid er trygt. Vi har mange prosedyrer og regler som sørger for det. Forskerne selv er de som løfter fram sikkerhet i arbeidet sitt, sier Linke.

Politisering av forskning er et problem

– Etter pandemien er virusforskningen i USA hardt rammet av politikk. Dette er veldig alvorlig. Det betyr at de kan bli dårligere forberedt den dagen en ny pandemi dukker opp, sier Aasland.

– Du trenger ikke biologi for at KI skal være farlig. Datamaskiner og KI brukes allerede i moderne våpen på dagens slagmarker, sier Linke.

Begge er enige i at maskinlæringsmodellene Evo1 og Evo2, som blant annet har blitt brukt til å lage de kunstige bakteriofagene, vil endre hvordan forskere jobber i molekylærbiologi.

– Disse modellene er trent på enorme mengder genomsekvenser fra alle slags organismer og kan til å bli viktige verktøy for molekylærbiologene, sier Aasland.

– De kan finne mønstre i de store datamengdene som ellers er vanskelig å få øye på, legger Linke til.

Derfor vil dette verktøyet gi uante muligheter for nye innsikter som først og fremst er nyttige for oss, mener de.

Kilder

Samuel H. King mfl.: Generative design of bacteriophages with genome language models. Science, 2016. DOI: 10.1126/science.aec2657

Gary Brixi mfl.: Genome modelling and design across all domains of life with Evo 2. Nature, 2026. Doi.org/10.1038/s41586-026-10176-5

KI-designede virus finnes allerede

I august i år publiserte amerikanske forskere at de har lykkes i å designe bakterievirus ved hjelp av KI. Bakteriofager er virus som kun angriper bakterier.

Arvematerialet til bakterievirusene ble satt sammen ved hjelp av en KI-modell som var trent på en enormt stor database av genomsekvenser fra alle slags organismer.

Artikkelen er produsert og finansiert av Universitetet i Oslo

Universitetet i Oslo er én av over 80 eiere av forskning.no. Deres kommunikasjonsansatte leverer innhold til forskning.no. Vi merker dette innholdet for å tydelig skille formidling fra uavhengig redaksjonelt stoff.
Her kan du lese mer om ordningen.

Les også disse sakene fra Universitetet i Oslo:

• 

  Elever blir bedre i norsk og engelsk av å lære fransk

• 

  ‒ I en urolig verden trenger vi folk som kan språk. Likevel er fagene truet

• 

  Blir KI vår dommedag? Ekspertene strides

• 

  Slik vil forskerne lage cellegift med superkrefter

• 

  På jakt etter smertefulle bitt i forskningens navn

• 

  Norsk forsker designet satellittantenne. Nå skal den testes i rommet for første gang

Les flere saker laget av Universitetet i Oslo her.

forskning.no vil gjerne høre fra deg!

Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER