KI kan bli et våpen mot Norge: – Vi er mer sårbare enn vi tror
PODCAST: – Teknologi kan brukes som «soft power», men i neste steg også som «hard power», sier professor.
Lothar Fritsch er professor i anvendt informasjonssikkerhet ved OsloMet.(Illustrasjon: Grenser for KI)
Sondre LindahlSondreLindahlSondre LindahlFørsteamanuensis ved Høgskolen i Østfold
Publisert
Om Grenser for KI
I denne podkasten skal vi gjennom 9 episoder utforske ulike grenser for KI. Du får høree fra ledende forskere på KI, eksperter på valgmanipulasjon og demokrati og ledende stemmer i teknologidebatten i Norge som i ulike episoder diskuterer hvilke grenser som finnes for KI, hva som kan gjøres og hva som bør gjøres.
Podkasten blir laget av Sondre Lindahl, førsteamanuensis ved institutt for informasjonsteknologi og kommunikasjon ved Høgskolen i Østfold. Lyddesign og miksing ved Oskar Emhjellen. Podkasten har fått støtte fra Fritt Ord.
Kunstig intelligens gir nye muligheter – men åpner også døra
for helt nye former for trusler.
– Avhengigheten av globale teknologigiganter
og sårbarheten i digitale infrastrukturer gjør Norge utsatt for både sabotasje,
manipulasjon og utpressing, advarer Lothar Fritsch. Han er professor i anvendt informasjonssikkerhet
ved OsloMet.
Skjulte svakheter
Når du bruker en KI-tjeneste, vet du sjelden hvor i verden
den kjører. Systemene flyttes dit strømmen er billigst, ofte uten innsyn fra
brukerne.
– Dette betyr at vi i praksis outsourcer både data og drift til ukjente
aktører. Risikoen er at leverandørene kan bygge inn feil eller skjulte
funksjoner, og vi har liten kontroll, sier Fritsch.
– Vi burde hatt grundig testing av programvare og modeller, men i praksis
baseres mye på tillitserklæringer og sertifiseringer fra tredjepart.
Avhengigheten av amerikanske og kinesiske teknologiselskaper
gjør små land som Norge ekstra utsatt, sier Fritsch.
– Teknologi kan brukes som «soft power», men i neste steg også som «hard
power». Vi har allerede sett eksempler på hvordan chipper eller programvare kan
manipuleres for å slå av luftvern eller påvirke finansmarkeder. Det er naivt å
tro at ikke også KI kan brukes slik.
Suverenitet og kompetanse
Fritsch understreker at digital suverenitet handler om mer
enn å eie servere.
– Vi trenger egen kompetanse. Hvis vi ikke utdanner nok eksperter til å forstå
og kontrollere KI, blir vi stående hjelpeløse når systemene svikter eller
angripes. Da blir vi prisgitt leverandørene, sier han.
Han mener Norge bør satse mer på utdanning, allianser og
regulering, og advare mot «hallelujastemningen» som har preget digitaliseringen
de siste tiårene.