Nå strømmer det falske nyheter og feilinformasjon ut av Palestina og Israel.

– Flere analytikere sier omfanget av manipulerte nyheter, bilder og videoer i denne krigen er større enn de noen gang har sett, sier Eskild Grendahl Sivertsen, spesialrådgiver og forsker ved Forsvarets forskningsinstitutt (FFI).

Et eksempel er en video på X/Twitter som angivelig er laget av BBC om at Ukraina smuglet Nato-finansierte våpen til Hamas i forkant av angrepet 7. oktober. BBC var raskt ute og avkreftet at videoen kom fra dem. «Videoen er 100 prosent falsk», sier en av BBCs journalister til AP Fact Check.

– Her bruker russiske profiler anledningen til å forsøke å svekke støtten til Ukraina, blant annet ved å spre falske påstander om at Ukraina har solgt vestlige våpen til Hamas, sier Sivertsen.

Nå viser den første studien av manipulerte videoer i krig, såkalte deepfakes, at mengden falske nyheter og videoer gjør at folk slutter å stole på ekte videoer også.

Det flommer over av falsk og ekte informasjon

Hvordan skal vi forholde oss til dette – vi som leser, ser på og deler nyheter?

– Du må vite at nettet og sosiale medier flommer over av enorme mengder falsk informasjon, rykter, manipulerte og resirkulerte bilder, sier Sivertsen.

Sivertsen mener vi må være skeptiske til det vi ser og stole først og fremst på troverdige, redaksjonelle medier og institusjoner som har verifisert kildene og innholdet.

Han mener vi ikke skal dele innhold vi ikke er sikre på og som ikke er verifiserte.

– Fremfor å vurdere selve bildet eller filmen, er det enklere for deg og meg å vurdere troverdigheten til kilden og historien som bildet eller filmen påstås å illustrere, sier Sivertsen.

Tror det blir verre

Sivertsen mener omfanget vil fortsette å øke.

– Desinformasjon som støtter og sverter begge parter, vil bli ytterligere forsterket av kommersielle aktører, sier Sivertsen.

Han nevner tvilsomme nettaviser og influensere som vil utnytte situasjonen for å øke annonseinntekter og popularitet.

Sivertsen forteller at Det israelske analysebyrået Cyabra gjorde en kartlegging de første 48 timene etter terrorangrepet fra Hamas.

De fant 42.000 falske Hamas-kontoer som på de første to døgnene produserte 321.000 innlegg og fikk 531 millioner visninger.

Flere av sosiale medier-kontoene ble opprettet for ett til to år siden og har vært sovende fram til de eksploderte med aktivitet rett etter terrorangrepet 7. oktober.

Anti-muslimsk propaganda fra India

Etter angrepet har mengden anti-palestinsk og anti-muslimsk propaganda også eksplodert på nettet.

– Mye av dette kommer fra sosiale medier-kontoer i India, forteller Sivertsen.

Det gjelder blant annet en video av et titalls unge jenter som angivelig er blitt tatt som sexslaver av en palestinsk kriger. Det viser seg at videoen i stedet er fra en helt vanlig skoletur til Jerusalem. Selv om kvaliteten på videoen er dårlig, er det mulig å se at jentene snakker ubekymret med hverandre og at de er på mobilene sine.

Til tross for dette ble den delt flere tusen ganger på X/Twitter med melding om at jentene var tatt som slaver. Den fikk over seks millioner visninger, der mesteparten av innleggene kunne spores tilbake til India, ifølge den arabiske nyhetskanalen Al-Jazeera.

Hva er konsekvensene?

– Dette kan få konsekvenser på veldig mange områder, sier Sivertsen.

Han mener at alt blandes sammen og nyansene lett forsvinner i det som allerede er en svært kompleks situasjon med lang historie og mange folk og interesser.

– Anti-israelske, antisemittiske, anti-muslimske og anti-palestinske holdninger forsterkes, og alt sauses sammen. Dette vil skje ikke bare i Midtøsten, men i Europa og andre deler av verden, sier han. 

Sivertsen mener at feilinformasjon i verste fall kan føre til at politiske, militære og personlige beslutninger blir tatt på feil grunnlag.

Forsket på deepfakes i krig

Sivertsen peker på enda en ting:

 – Mange av oss kan bli mettet og dermed slutte å følge med og bry oss fordi det blir for vanskelig å skille løgn og sannhet, sier han.

Dette konkluderer også en ny studie med etter at forskerne undersøkte bruken av deepfakes på X/Twitter i den pågående krigen i Ukraina.

Deepfakes er bilder, video og lyd som blir laget ved hjelp av kunstig intelligens. Der kan man bytte ut ansikter og stemmer og slik manipulere budskapet til å bli noe helt annet. 

Litt sånn som et Snapchat-filter, bare mer avansert. 

Vi slutter å tro på nyheter

I den nye studien ser forskerne på bruken av deepfakes i krig og hvilke konsekvenser den har på folks syn på informasjon. De undersøkte over 5.000 twitterinnlegg i løpet av de første syv månedene i 2022.

Forsker så at mange av brukerne publiserte innlegg som var skeptiske til ekte videoer, ikke falske. Det var altså mye ekte informasjon som folk omtalte som deepfakes.

Studien er en såkalt kvalitativ undersøkelse der forskerne har analysert twittermeldinger og avdekket det de mener er en tendens.

I flere av innleggene uttrykte brukerne at de ikke lenger kunne stole på informasjon som kom ut av krigen. Forskerne mener derfor at selve frykten for deepfakes gjør at folk mistet tillit til all informasjon om krigen i Ukraina – også den som er ekte.

Her er et eksempel på en deepfake-video fra 2022 der Ukrainas president Volodymyr Zelensky tilsynelatende overgir seg til russerne:

Ekte bilder og videoer mister verdi

Sivertsen er enig med de irske forskerne. 

– Dette er helt klart en bekymring. Vi står overfor en eksplosjon av KI-generert innhold, både bilder, filmer, lyd og tekst. Uten merking eller teknologi som enkelt kan avdekke hva som er falskt og ekte, er det sannsynlig at film og bilder vil miste sin dokumentariske verdi og at vi blir skeptiske til alt vi ser, sier han.

Det vil altså bli lettere å skape tvil bare ved å påstå at ekte bilder og film er deepfake, ifølge Sivertsen.

———

Denne saken kan du også lese på engelsk på sciencenorway.no

Referanse:

John Twomey m. fl: Do Deepfake Videos Undermine our Epistemic Trust? A thematic analysis of tweets that discuss deepfakes in the Russian invasion of Ukraine. PLoS ONE. Oktober 2023.

LES OGSÅ

Kan vi stole på Wikipedia?

Er eldre virkelig dårligere til å avsløre falske nyheter?