Forskere advarer: KI kan spre ekstremistisk tankegods i et enormt tempo

Ingen blir ekstremister over natten. 

Det skjer som regel gjennom en gradvis prosess der mennesker blir mer åpne for ideer og vold som bryter med demokratiske verdier.

Nå advarer forskere om at KI brukes til å effektivisere og delvis automatisere denne prosessen. 

– KI fjerner barrierene som hindrer radikalisering, sier KI-forsker Jonas Kunst. 

Han er professor i psykologi ved Universitetet i Oslo og professor i kommunikasjon ved Handelshøyskolen BI.

KI tar over jobben med rekruttering

Tidligere måtte det altså betydelig menneskelig innsats til for å produsere og spre ekstremistisk innhold, identifisere mulige rekrutter, skape engasjement på sosiale medier og holde liv i et digitalt, ekstremistisk fellesskap. 

Nå frykter forskeren konsekvensene av at KI kan ta over mye av den jobben. 

Sammen med medievitere og dataforskere har han nylig publisert en studie som viser hvordan KI-verktøy legger til rette for å spre ekstremistisk tankegods i et enormt tempo. 

– Vi ser at sårbare mennesker kan bli identifisert, samlet og mobilisert i et tempo som tidligere har vært umulig, sier han. 

Mer ekstremisme i feeden

Kunst peker særlig på potensialet for radikalisering som generativ kunstig intelligens har. 

Slike systemer kan lage tekst, bilder og videoer automatisk ved hjelp av store mengder data. 

Når teknologien brukes til å lage blogginnlegg, memer eller videoer med politiske budskap, kan enkeltpersoner eller grupper spre store mengder ekstremt innhold svært raskt.

Dermed øker sannsynligheten for at flere mennesker ser slikt innhold.

– La oss se for oss en person som melder seg inn på X for første gang. I begynnelsen vil hen få et relativt mangfoldig og ganske nøytralt innhold. Men sannsynligheten er høy for at hen etter hvert også får se noe problematisk innhold, for eksempel antisemittisme eller deep-state-konspirasjoner, forklarer Kunst.

KI-drevne algoritmer spiller på psykologiske sårbarheter

De fleste blir ikke ekstremister av at det dukker opp en konspirasjonsteori i feeden i ny og ne.

Likevel kan mange av oss stoppe opp ved slikt innhold, takket være vår innebygde bias for det negative. Dette handler om at vi mennesker har en tendens til å være ekstra oppmerksom på trusler, spesielt fra andre grupper. 

Det betyr at vi automatisk vier oppmerksomhet og husker negative ting lettere enn positive.

Med generativ KI øker sannsynligheten for at flere ser ekstremistisk innhold. Vår nysgjerrighet blir pirret av slikt innhold. 

Og med økt eksponering følger ofte økt engasjement, forklarer Kunst.

Algoritmene er ekstremt presise

– Algoritmene får med seg at dette interesserer deg. De er ekstremt presise og måler på mikrosekundet hva du retter oppmerksomheten mot.

En annen type kunstig intelligens forsterker effekten: KI-drevne algoritmer for anbefalinger. 

Disse bestemmer hva du får i feeden din, basert på hva du ser og klikker på. En pause i  scrolling ved noe negativt eller konspiratorisk leser systemet som et signal om at du vil ha mer av det samme.

– KI-drevne anbefalingssystemer ser ut til å være spesielt effektive til å øke eksponeringen for ekstremistisk innhold. De spiller bevisst eller ubevisst på grunnleggende, sterke psykologiske skjevheter og sårbarheter hos mennesker, sier Kunst.

Noen er mer mottakelige for konspirasjonsteorier

Når store mengder ekstremt innhold spres gjennom treffsikre algoritmer, øker KI sannsynligheten for at budskapet fester seg hos flere mennesker.

– Resultatet er at flere blir eksponert for, og gradvis tiltrekkes av, ganske ekstremt innhold som de tidligere ikke ville sett, forklarer Kunst.

Han mener dette kan være særlig problematisk for mennesker som i større grad er mottakelige for konspirasjonsteorier, noe han understreker at finnes i ulik grad hos de fleste.

– Dersom vedkommende blir vist gradvis mer innhold som argumenterer for at jøder er overrepresentert i finansverden, politikk, eller mediene, øker jo sannsynligheten for at denne personen biter på og utvikler antisemittiske holdninger hen kanskje ikke hadde fra før, sier forskeren.

Moderate stemmer filtreres vekk

Dette er eksponeringsstadiet, første steg i radikaliseringsprosessen.

Neste fase er forsterkning. KI-drevne algoritmer fanger oppmerksomheten med sterkt ladet, negativt innhold. 

KI kan her fremme konspirasjonsteorier eller tegne opp et fiendebilde av en minoritet eller samfunnsgruppe. 

Algoritmer filtrerer og anbefaler lignende innhold. Du blir dultet i retning av nye kontoer som fremmer ekstremt innhold. Moderate stemmer filtreres vekk.

I en slik boble øker sannsynligheten for at brukeren blir overbevist om at det ekstreme virkelighetsbildet faktisk er sant. 

Kunst forklarer at KI på denne måten jobber på lag med velkjente psykologiske svakheter for å spre ekstreme holdninger.

Ditt eget personlige ekkokammer

– Repetisjonsbias betyr at repetisjon av innhold øker sannsynligheten for at vi tror det er sant. I tillegg kommer bekreftelsesbias. Når vi først begynner å bli overbevist om en ting, oppsøker og klikker vi primært på informasjon som støtter vårt eget standpunkt. Dette bidrar til å forsterke den digitale filterboblen, forklarer forskeren.

I tillegg peker forskerne på en mer intim variant av det samme problemet. Det oppstår når KI ikke bare styrer feeden din, men også opptrer som din personlige samtalepartner og rådgiver.

Forsker Henrik Skaug Sætra ved Uiversitetet i Oslo har skrevet om problemstillingen i boken «Hvordan redde demokratiet fra kunstig intelligens».

– Chatboter er gjennomgående sykofantiske. Det betyr at de har en tendens til å støtte og bekrefte det brukeren, altså deg, skriver. Chatboter veldig gode til å gi deg mye skryt, sier han.

Folk liker bedre å snakke med chatboter som støtter dem

En bruker som uttrykker sinne mot en bestemt politiker eller folkegruppe kan få bekreftende svar. 

Brukeren blir ikke møtt med spørsmål om hvor informasjonen kommer fra eller henvisning til andre perspektiver. 

Sætra forteller at samtaler med sykofantiske chatboter gjør brukere både mer selvsikre og mer ekstreme.

Sætra har jobbet med teknologiselskaper for å avdekke og forstå problematisk adferd blant språkmodellene.

– Chatboter kan programmeres for å gi en mindre sykofantisk, bekreftende tone, og i stedet utfordre personers virkelighetsoppfatning der det trengs. Men da forsvinner gjerne også brukerne. Folk liker rett og slett bedre å snakke med chatboter som støtter deg i det du sier, sier Sætra.

KI kan brukes til å lage en falsk gruppeidentitet

En person som har fått bekreftelse på et ekstremt verdensbilde, kan være klar for neste steg mot politisk ekstremisme. Det handler om gruppeintegrering, et ekstremistisk fellesskap, digitalt eller fysisk. 

I denne gruppen motiveres og mobiliseres medlemmene til politisk handling.

– I et slikt et slikt fellesskap kan brukeren blande sin egen identitet og gruppens. Gruppetilhørigheten blir en sentral del av ens egen selvoppfattelse, sier Kunst.

Sterk identifisering er en kjent risikofaktor for voldelig ekstremisme.

Han advarer om at KI kan brukes til å lage en falsk gruppeidentitet, ved hjelp av selvstyrte svermer av KI-kontoer. 

Disse kan dele, like og kommentere ekstremistisk innhold på kryss og tvers og bygge vennskap med brukeren.

– KI-svermene lar ekstreme aktører skape en overbevisende illusjon av grasrotbevegelse. Brukeren kan for eksempel få inntrykk av at det er normalt å være antisemitt, at man er en del av den stille majoriteten, forklarer Kunst.

Ingen automatikk, men alle er sårbare

På dette nivået har radikaliseringsprosessen kommet så langt at personen kan bli overbevist om å yte vold for å fremme sin ideologi. Også her, på det siste steget fra holdning til handling, kan KI være en faktor. 

I 2023 ble det for eksempel kjent at en britisk statsborger hadde fått oppfordringer og planleggingshjelp av en chatbot til å forsøke et attentat på dronning Elizabeth. 

Og senest i april 2026 hadde ChatGPT angivelig gitt råd og veiledning til skytteren som drepte to og såret seks ved Florida State University. 

Kunst understreker at selv om KI øker sannsynligheten for at ekstremistiske holdninger spres, er det fortsatt svært få som faktisk vurderer å utøve vold.

Fakta filtreres ut

Selv om de aller færreste blir voldelige ekstremister, mener han at demokratiet tar stor skade av at KI dytter flere inn en digital virkelighet med mer ekstremt innhold og filtrerer ut fakta.

Han mener prosessen kan føre til at politiske motstandere blir sett på som fiender, samtidig som ekstreme holdninger og vold blir mer akseptert.

Selv om KI-drevet radikalisering ikke alltid lykkes, understreker Kunst at ingen er helt immune for å bli påvirket.

– De fleste har en eller annen type sårbarhet som KI-verktøyene kan utnytte, sier Kunst.

KI fjerner nødvendig interaksjon

Henrik Skaug Sætra er bekymret for hvordan KI på denne måten kan rokke ved noe helt sentralt ved et fungerende demokrati.

– Et demokrati er mer enn valg hvert fjerde år. Demokrati betyr også at mennesker møtes, forstår hverandre og kommer i dialog med hverandre, forklarer han.

Hvis KI får dominere sosiale medier, så forsvinner også viktige mekanismer for å moderere ekstreme holdninger.

Sætra mener det blir lettere å oppfatte ekstreme meninger som normale når man sjelden møter mennesker som er annerledes enn en selv.

– KI kan gi deg et verdensbilde fullstendig frikoblet fra virkeligheten, advarer han.

Samtidig påpeker han at KI også har potensiale til å bremse og snu polarisering og radikalisering. 

Polariserende innhold gir flest klikk

Et eksempel er Google som har utviklet «Habermas Machine». Dette er en KI-modell som hjelper personer med helt ulike politiske syn å formulere felles synspunkter.

Algoritmene kan altså justeres slik at de automatisk identifiserer radikalisering og heller fremme mer moderat og nøytralt innhold.

Problemet, påpeker Sætra, er at polariserende innhold gir flest klikk – og dermed mest inntekter.

– Jeg kan vanskelig se for meg, med dagens reguleringer, en god forretningsmodell bygget på å bringe mennesker nærmere hverandre. Så jeg tror ikke teknologiselskapene kommer til å ta det ansvaret, sier han.

Referanser:

Jonas R. Kunst mfl.: Intelligent Systems, Vulnerable Minds: A Framework for Radicalization to Violence in the Age of AI. Personality and Social Psychology Review, 2026. Doi.org/10.1177/10888683261430089. 

Steve Rathje mfl.: Sycophantic AI increases attitude extremity and overconfidence (sammendrag). vmyek_v1, preprint, 2025. Doi.org/10.31234/osf.io/vmyek_v1

Henrik Skaug Sætra: Hvordan redde demokratiet fra kunstig intelligens (sammendrag). Cappelen Damm, 2025.

Michael Henry Tessler mfl.: AI can help humans find common ground in democratic deliberation (sammedrag). Science, 2024. Doi.org/10.1126/science.adq2852. 

BBC News: OpenAI faces criminal probe over role of ChatGPT in shooting. 

Artikkelen er produsert og finansiert av Universitetet i Oslo

Universitetet i Oslo er én av over 80 eiere av forskning.no. Deres kommunikasjonsansatte leverer innhold til forskning.no. Vi merker dette innholdet for å tydelig skille formidling fra uavhengig redaksjonelt stoff.
Her kan du lese mer om ordningen.

Les også disse sakene fra Universitetet i Oslo:

• 

  Trygge voksne i barnehagen kan beskytte barn mot senere mobbing

• 

  Det totale miljøavtrykket gikk opp ved bruk av KI i tykktarmundersøkelser

• 

  Disse steinene er labrotter for Mars-prøver

• 

  For første gang i menneskehetens historie: Menn har nå færre barn enn kvinner

• 

  Derfor sparer edderkoppen den farligste giften til slutt

• 

  For «Amalie» var det knusende å komme i fengsel. Men der ble hun rusfri

Les flere saker laget av Universitetet i Oslo her.

forskning.no vil gjerne høre fra deg!

Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER

BBC: How a chatbot encouraged a man who wanted to kill the Queen.