Denne artikkelen er produsert og finansiert av Forsvarets forskningsinstitutt - les mer.
Slik endrer kunstig intelligens påvirkning på nett
PODCAST: Teknologien har endret spillereglene og skapt en ny informasjonsvirkelighet, mener forsker.
Paul Buvarp mener vi må regulere bruken av KI-generert innhold, slik at det ikke raserer måten vi ser og forstår verden gjennom informasjon.(Foto: Andres Fehn / FFI)
Hvordan påvirkes vi av innhold vi ikke engang vet om er ekte?
Paul Buvarp forsker på desinformasjon og utenlandsk påvirkning. Han er en ivrig samfunnsdebattant når det gjelder hvordan sosiale medier påvirker oss.
Mer innhold, raskere – og mer troverdig
Buvarp og kollegene som studerer påvirkning, ser spesielt på det de kaller FIMI (Foreign Information Manipulation and Interference).
Det vil si koordinerte, statsstyrte eller statssponsede forsøk på å påvirke informasjonsmiljøet i andre land.
Ifølge Buvarp er det særlig én utvikling som merkes: Før tok det tid å lage tekst, bilder eller video. Nå kan det produseres på sekunder.
Det gjør at aktører kan pøse ut langt mer innhold enn tidligere.
Podcast: Slik endrer kunstig intelligens påvirkning på nett
I denne episoden av FFIs podcast Ugradert kan du høre Paul Buvarp snakke om hvordan KI har endret informasjonsmiljøet generelt og informasjonskrigføring spesielt.
Samtidig har kvaliteten økt. Språkmodeller kan skrive feilfri tekst. Det er ikke lenger like enkelt å avsløre avsender gjennom språklige feil.
I tillegg kommer KI-genererte bilder, lyd og video, såkalte «deepfakes». De kan gi inntrykk av at personer har sagt eller gjort noe de aldri har gjort.
En sentral trend er hvordan KI flytter påvirkning fra argumenter til følelser, sier Buvarp.
– Video og visuelt innhold er lett å konsumere. Det går rett inn i sanseinntrykkene våre, uten at vi nødvendigvis stopper opp og vurderer det kritisk, sier Buvarp.
Han peker på at påvirkning i økende grad handler om stemninger og følelser.
– Det er lettere å påvirke oss ved å gjøre oss sinte, glade eller triste. Påvirkning handler mer og mer om «vibes», mindre om å overbevise gjennom logisk argumentasjon, mener Buvarp.
Som eksempel bruker han KI-genererte videoer av ukrainske soldater som sitter i kjøretøyer ved fronten og gråter. De er kunstig generert, men likevel oppleves de som ekte og skaper ekte følelser.
KI-agenter forkledd som mennesker
Buvarp trekker fram en mulig fremtid der KI-agenter opptrer som mennesker på nettet.
Annonse
– Vi vet fra forskning at folk endrer mening i møte med personer de har tillit til. KI-agenter kan i teorien operere på egen hånd, bygge relasjoner over tid – og så påvirke gradvis, sier han.
Selv om slike eksempler foreløpig er begrenset, mener han at teknologien allerede er langt nok utviklet til at det er realistisk.
Skjønnhet, troverdighet – og påvirkning
KI gjør det også mulig å skape troverdige, attraktive «personligheter». De kan brukes i påvirkningskampanjer.
Buvarp viser til studier som viser at vi har en tendens til å tillegge vakre mennesker større troverdighet.
– Hvem som helst kan lage slike videoer der unge vakre kvinner kommer med et budskap. Det kan utnyttes til å spre budskap mer effektivt, sier han.
Ikke bare en trussel
Buvarp understreker at teknologien også kan brukes til forsvar mot påvirkning.
KI kan analysere store datamengder og avdekke mønstre som er vanskelig for mennesker å oppdage.
Dermed kan det bidra til å avsløre påvirkningsoperasjoner.
En ny informasjonsvirkelighet
Buvarp mener vi står midt i et skifte som kan endre hvordan vi forstår informasjon.
Annonse
– Ingenting som er KI-generert, er egentlig sant i tradisjonell forstand. Men det kan fortsatt oppleves troverdig – og påvirke oss, sier han.
Han advarer mot å gjenta feilen fra sosiale medier der regulering kom sent:
– Selskapene innen sosiale medier fikk ture fram som de ville i flere tiår. Det har ikke gått så bra. Vi må forstå hvor kraftfull denne teknologien er og sørge for at det finnes rammer som beskytter samfunnet, forteller Buvarp.
Han sier vi er nødt til å få på plass et slags vern, slik at ikke KI-generert innhold raserer måten vi ser og forstår verden gjennom informasjon, sier Buvarp.
Hør hele episoden her:
Deler av teksten er, ironisk nok, skrevet av Copilot, basert på en transkribering av podkastepisoden, men er redigert og kvalitetssikret av podkastvert Espen Hofoss.
