KI kan bli et våpen mot Norge: – Vi er mer sårbare enn vi tror

PODCAST: – Teknologi kan brukes som «soft power», men i neste steg også som «hard power», sier professor.

Lothar Fritsch er professor i anvendt informasjonssikkerhet ved OsloMet.
Publisert

Om Grenser for KI

I denne podkasten skal vi gjennom 9 episoder utforske ulike grenser for KI. Du får høree fra ledende forskere på KI, eksperter på valgmanipulasjon og demokrati og ledende stemmer i teknologidebatten i Norge som i ulike episoder diskuterer hvilke grenser som finnes for KI, hva som kan gjøres og hva som bør gjøres.

Podkasten blir laget av Sondre Lindahl, førsteamanuensis ved institutt for informasjonsteknologi og kommunikasjon ved Høgskolen i Østfold. Lyddesign og miksing ved Oskar Emhjellen. Podkasten har fått støtte fra Fritt Ord.

Du finner podkasten blant annet på Apple podcasts og Spotify.

Kunstig intelligens gir nye muligheter – men åpner også døra for helt nye former for trusler. 

– Avhengigheten av globale teknologigiganter og sårbarheten i digitale infrastrukturer gjør Norge utsatt for både sabotasje, manipulasjon og utpressing, advarer Lothar Fritsch. Han er professor i anvendt informasjonssikkerhet ved OsloMet.

Skjulte svakheter

Når du bruker en KI-tjeneste, vet du sjelden hvor i verden den kjører. Systemene flyttes dit strømmen er billigst, ofte uten innsyn fra brukerne. 

– Dette betyr at vi i praksis outsourcer både data og drift til ukjente aktører. Risikoen er at leverandørene kan bygge inn feil eller skjulte funksjoner, og vi har liten kontroll, sier Fritsch.

– Vi burde hatt grundig testing av programvare og modeller, men i praksis baseres mye på tillitserklæringer og sertifiseringer fra tredjepart.

Teknologiavhengighet og myk makt

Avhengigheten av amerikanske og kinesiske teknologiselskaper gjør små land som Norge ekstra utsatt, sier Fritsch. 

– Teknologi kan brukes som «soft power», men i neste steg også som «hard power». Vi har allerede sett eksempler på hvordan chipper eller programvare kan manipuleres for å slå av luftvern eller påvirke finansmarkeder. Det er naivt å tro at ikke også KI kan brukes slik.

Suverenitet og kompetanse

Fritsch understreker at digital suverenitet handler om mer enn å eie servere. 

– Vi trenger egen kompetanse. Hvis vi ikke utdanner nok eksperter til å forstå og kontrollere KI, blir vi stående hjelpeløse når systemene svikter eller angripes. Da blir vi prisgitt leverandørene, sier han.

Han mener Norge bør satse mer på utdanning, allianser og regulering, og advare mot «hallelujastemningen» som har preget digitaliseringen de siste tiårene.

Opptatt av teknologi?

Følg den nyeste utviklingen innen kunstig intelligens, energi, sosiale medier og roboter med nyhetsbrev fra forskning.no.

Meld meg på

Powered by Labrador CMS