Annonse
Denne artikkelen er produsert og finansiert av NTNU - les mer.
Slik skal forskerne kartlegge hatytringer på nett
Ny teknologi kan gjøre det lettere å avdekke hatprat på nett. Det kan hjelpe politi og kommuner med å sette inn tiltak.
Antallet anmeldelser av hatkriminalitet er mer enn femdoblet siden 2012. Det viser tall fra politiet. Av disse utgjør rundt 40 prosent hatytringer.
Motivet er oftest hudfarge eller etnisitet, etterfulgt av seksuell orientering.
Nyheter på NRK viser tydelige eksempler.
Tidligere i år fortalte nå avgåtte AUF-leder Gaute Skjervø at han må bruke voldsalarm etter langvarig hets og gjentatte trusler.
Nylig meldte også SV-nestleder Marian Hussein at hun ikke tar gjenvalg som nestleder av samme grunn.
Økningen er drevet av den digitale utviklingen
Forsker Ehtesham Hashmi ved NTNU i Gjøvik mener de siste årenes vekst i hatytringer må ses i lys av den raske utviklingen innen sosiale medier og andre digitale plattformer.
– Omfanget og hastigheten i dagens digitale kommunikasjon gjør at hatytringer kan spres raskere og nå flere enn noensinne, sier han.
Det har ført til at tradisjonelle måter å fange opp og stanse det på ikke lenger strekker til.
Derfor har han i samarbeid med NTNU-professor Sule Yildirim Yayilgan, Vestlandsforskning, Politiet og norske kommuner nå utviklet et verktøy som skal ta opp kampen.
«Massakrer begynner alltid med små ord»
Hatytringer kan være straffbare etter straffelovens § 185.
Men verktøyet de har utviklet er ikke nødvendigvis ment som en måte å spore opp og ta enkeltpersoner på, understreker forskerne.
Det kan også være et redskap for å identifisere hvilke miljøer som har størst behov for målrettede tiltak.
– På den måten kan det hjelpe politi og kommuner å bruke ressursene sine på forebyggende og bevisstgjørende tiltak der det faktisk har noe for seg, sier professor Yayilgan.
Verktøyet har derfor en funksjon som kobler enkeltstående hatytringer sammen. Resultatet er et visualisert nettverk av ytringer som viser hvordan de har gitt opphav til eller har latt seg inspirere av hverandre.
– Det betyr at man både kan se hvor hatytringer kommer fra, hvordan de blir plukket opp av andre og hvordan samtalene de gir opphav til utvikler seg over tid, forklarer Hashmi.
Annonse
Forskerne understreker at det er viktighet å fange opp utviklingen i hatkriminalitet tidlig.
I studien viser de til FNs spesialrådgiver for forebygging av folkemord, Adama Dieng.
Dieng skal ha sagt at «store massakrer begynner alltid med små ord og små handlinger.»
– Hva som juridisk sett teller som hatprat varierer fra land til land
Forskerne har brukt mange år på å utvikle og forbedre verktøyet slik at det kan gjenkjenne hatprat.
Det er krevende, fordi hatprat kan komme til uttrykk på mange ulike måter.
– Hva som juridisk sett teller som hatprat varierer fra land til land, og hva som oppfattes som hatefullt, varierer også mellom individer, sier Hashmi.
Forskerne måtte derfor finne ut hva de ulike definisjonene av hatprat har til felles. De kom fram til fire kjennetegn.
Hatytringer handler ofte om etnisitet, kjønnsidentitet, religion eller seksuell orientering.
– Disse fire kategoriene er sentrale både i Norge og i FNs internasjonale konvensjonen om sivile og politiske rettigheter, sier Hashmi.
Det gjør verktøyet både anvendelig og relevant også utenfor norsk sammenheng.
Hatefullt eller nøytralt språk?
Annonse
Når verktøyet finner kommentarer i én eller flere av disse kategoriene, vurderer det hvor krenkende, hatefulle eller aggressive de er. Kommentarene deles inn i tre nivåer.
– En uttalelse kan gi utslag på flere av disse parameterne samtidig. Dersom det derimot ikke gir utslag på noen av dem, kategoriseres det som nøytralt, forklarer Hashmi.
For å kunne gjøre dette baserer verktøyet seg på maskinlærings-algoritmer. De er trent på 14.000 norske og engelske setninger fra plattformer som Facebook, Reddit og Twitter.
Samfunnsforskere ved Vestlandsforskning bisto i arbeidet med å samle inn og kategorisere datagrunnlaget.
Forskerne ønsker å oppdage nypubliserte hatytringer
Teknologien kan altså oppdage og kategorisere hatytringer. Forskerne ville også få det til å fungere på en åpen og forståelig måte.
Når verktøyet kategoriserer et utsagn som hatefullt, vil det forklare hvilke ord, fraser og vurderinger det legger til grunn for avgjørelsen sin.
– Det er viktig både for at alle skal forstå hva det er som er problematisk ved utsagnet, og for å bevare tilliten til teknologien, sier Hashmi.
Forskerne jobber nå med å utvikle verktøyet slik at det kan oppdage hatytringer idet de publiseres. I dag må kommentarene legges inn manuelt.
Mennesker må være involvert
Målet er at teknologien selv skal hente inn og analysere kommentarer fra digitale plattformer.
Samtidig skal den bli mer treffsikker etter hvert som den brukes, forklarer professor Yayilgan.
Annonse
– Verktøyet blir bedre dess mer det blir brukt. Så jo mer data det utsettes for, dess flere anledninger får det til å finjustere seg selv og øke treffsikkerhet sin, sier han.
Verktøyet har derfor fremdeles ikke nådd sitt fulle potensial.
Forskerne ønsker at det alltid skal være mennesker involvert i den videre utviklingen av verktøyet.
– Systemet vil hele tiden kunne ta inn og forbedre seg på bakgrunn av menneskelige tilbakemeldinger. Det bidrar til at det forblir pålitelig og etisk forsvarlig over tid, sier Hashmi.
Kilde
Ehtesham Hashmi og Sule Yildirim Yayilgan: Ethical and Socially Aware English–Norwegian Hate Speech Detection: A Systematic Design Framework. Machine Learning and Knowledge Extraction, 2026. Doi.org/10.3390/make8090292
Fikk du med deg disse sakene fra NTNU?
-
Studenter som ikke brukte KI, presterte best på eksamen
-
Plaster måler pulsen uten elektronikk
-
Norsk forsker: Det holder ikke at demokratene bare vinner mellomvalget
-
Norsk metode for å bygge tunneler vekker nå internasjonal oppsikt
-
Samiske Snøfrid kan være stammor til norske konger
-
Dropper ungdommen i huset leksene og glemmer gymbagen? Dette kan være grunnen
