Denne artikkelen er produsert og finansiert av NTNU - les mer.
Kan Europa lage kunstig intelligens vi faktisk forstår?
Kunstig intelligens styres av teknologigiganter i USA og Kina. Men Europa kan velge å gå en smartere og mer demokratisk vei, mener professor.
Mange av dagens KI-systemer gir imponerende resultater, men de gjør oss ikke klokere. Og vi forstår ikke alltid hvordan de kommer fram til resultatene. Men det kan vi gjøre noe med, mener professor.(Illustrasjon: Colourbox)
Kunstig intelligens blir stadig viktigere, men domineres fullstendig av USA og Kina. Å overlate feltet til fremmede makter og store firmaer kan virke risikabelt.
Det er også betenkelig at vi egentlig ikke skjønner helt hvordan den kunstige intelligensen virker i dag, mener den norske professoren Harald Martens.
Det er som om vi putter data inn i en svart boks, og så popper det ut et svar. Hvorfor?
Martens sier at Europa bør gå en annen vei, som gir tryggere, mer kostnadseffektive og mer forståelige KI-løsninger.
Det er betenkelig at vi egentlig ikke skjønner helt hvordan den kunstige intelligensen virker i dag, mener norske professoren Harald Martens.(Foto: NTNU)
Dagens KI ikke bra nok i alle sammenhenger
– Mange av dagens KI-systemer gir imponerende resultater, men de gjør oss ikke klokere. Og vi forstår ikke alltid hvordan de kommer fram til resultatene. Det kan være et problem når KI skal brukes i kritiske situasjoner, sier Martens.
I over 50 år har professor Martens jobbet med minimalistisk og virkelighetsnær datamodellering som det er mulig å tolke.
Arbeidet hans er basert på maskinlærings-metoder utviklet og i bruk i andre fagfelt enn Computer Science, uten nevralnett.
I dag er han pensjonert professor, fremdeles tilknyttet NTNU. Samtidig jobber han med teknisk kunstig intelligens i Trondheims-firmaet Idletechs.
Professor ønsker en sikrere problemløsning
Nå advarer han mot utviklingen innen moderne kunstig intelligens.
– Vi må ha sikrere problemløsing, mindre energiforbruk og mindre «svart boks». Samtidig må vi forstå mer av det som skjer inne i boksen, sier professoren.
– Vi må i tillegg lære stadig mer om verden vi lever i og systemet vi jobber med. Og det hele må ligge under demokratisk kontroll, basert på våre vest-europeiske verdier, legger han til.
Martens mener det er fullt mulig.
Selskap utvikler en KI vi kan stole mer på
I dag domineres altså KI-feltet av store, datasultne nevrale nettverk.
De såkalte «black box»-modellene er tilsynelatende enkle å ta i bruk, men de må trenes på enorme datamengder.
Denne «maskin-læringen» er energikrevende, og løsningene er vanskelige å tolke og kritisere.
Annonse
Martens og hans samarbeidspartnere har utviklet et alternativ de kaller CIM-ML, eller «Continuous, Interpretable, Minimalistic Machine Learning». Så hva er nå det?
I stedet for å mate systemet med flest mulig data og håpe på det beste, kan maskinlæringen starte med dagens forståelse av systemet som skal beskrives, og av måleteknikkene som skal brukes, forklarer professoren.
Modellene kan forklare seg
Deretter går maskin-læringen mer eller mindre automatisk, ut fra strømmen av moderne måledata: Enklest mulig løsning, men ikke enklere. Komprimert og grafisk tolkbar.
– Vi bruker gjerne lengre tid på grunnarbeidet, for å kombinere domene-kunnskap og moderne måledata. Dermed får vi modeller som kan forklare seg, sier han.
Skal Europa forbli avhengig av globale teknologigiganter som opererer etter tilfeldige forbipasserende statslederes luner?(Foto: White House Official Presidential Portrait)
CIM-ML er selvlærende, selvutvidende og selvkorrigerende. Systemet beskriver både kjente og ukjente data-variasjoner. Det kan håndtere store datastrømmer på små datamaskiner.
– I en tid der algoritmer påvirker stadig flere beslutninger, blir kanskje det viktigste spørsmålet ikke hvor raske systemene er, men om vi kan stole på dem, sier Martens.
Da gjelder det å kombinere moderne måledata og tolkbar matematikk, utdyper han.
Det er rom for flere feil i store språkmodeller
Metoden er foreløpig rettet mot middels komplekse systemer, ikke for eksempel Chat-GPT eller DeepSeek sine enorme språkmodeller.
Der er det uansett ofte mer rom for feil, ifølge professoren.
CIM-ML er særlig rettet mot profesjonell bruk i for eksempel prosessindustri og andre tekniske systemer.
Annonse
Dessuten blant annet i drone- og satelittbasert miljøovervåking og jordobservasjon.
Dette kan de nye systemet brukes til
Vibrasjons-sensorer på en turbin, for å skille lyd, ulyd og målestøy – før det går galt.
Termisk video-overvåking av en smelteovn eller en motor, for oversikt og optimering.
Mangekanals drone- eller satellitt-fotografering av hav og land, for bestemmelse av flest mulig observerbare fenomener.
Her handler det altså ikke bare om å få et pålitelig svar, men også om å forstå hvordan – helst også hvorfor – du fikk akkurat det svaret.
I kritiske anvendelser er det viktig å få tidlige varsler, uten mange falske alarmer. Og det er avgjørende at menneskene som bruker systemet, skjønner hva som skjer, understreker Martens.
Finnes det en europeisk vei i KI-kappløpet?
Debatten om KI handler ofte om hvem som har de største modellene og mest data. Men Europa kan altså satse på en annen vei, mener Martens.
Spørsmålet er om Europa vil satse på en mer uavhengig og transparent teknologi.
Eller skal vi forbli avhengige av globale teknologigiganter som opererer etter tilfeldige forbipasserende statslederes luner?
– Den kunstige intelligensen som vi utvikler, er forankret i en stolt vest-europeisk, demokratisk opplysningstradisjon. Min drøm for Idletechs har vært å etablere høyteknologiske arbeidsplasser i Norge og Europa. Disse må være basert på en sikker, enkel, etisk og forståelig maskinlæring som også gir menneskelæring, sier Martens.
Selskapet Idletechs har hovedsaklig røtter i forskningen ved NOFIMA og NMBU på Ås og ved NTNU.
Det leverer blant annet stordata CIM-ML løsninger til norsk og utenlandsk prosessindustri. Dette gir dem bedre innsikt i hva som hele tiden skjer inni og rundt deres komplekse maskiner og utstyr.
Fremgangsmåten er basert på moderne, praktiske måleteknikker som for eksempel kontinuerlig termisk video.
Selskapet utvikler også løsninger for kompresjon, tolkning og bruk av massive strømmer av drone- og satellittbaserte mangekanals bilder. Søsterselskaper er etablert i Danmarks og Sveits.
