For nøyaktig seks år siden, i juni 2020, kom det en særegen nyhet fra den lille byen Huancavelica i Peru.
Åtte teknikere som var sendt til byen for å gjøre vedlikehold på en tele-antenne, var blitt kidnappet av en gruppe landsbybeboere.
Lokale medier meldte at landsbyboerne som holdt teknikerne fanget og bare ville løslate dem om de gikk med på å fjerne alle tele-antennene fra landsbyen.
De hadde hintet om at 5G-antenner bidro til å spre covid-smitte.
Digitale skogbranner – når desinformasjon sprer seg raskt
Pandemien hadde herjet i over et halvt år og tatt livet av flere hundre tusen mennesker.
På sosiale medier hadde teorien om at det var en sammenheng mellom 5G-teknologi og spredning av virus spredd seg som ild i tørt gress. Og blitt til en skogbrann. En digital skogbrann, som forsker Daniel Thilo Schroeder ved SINTEF Digital kaller det.
– En digital skogbrann får vi når desinformasjon sprer seg raskt gjennom sosiale nettverk og ender i virkelige konsekvenser, sier Schroeder.
Han forsker på hvordan kunstig intelligens kan brukes til å påvirke mennesker gjennom sosiale medier.
– Det er rett og slett skremmende hvor enkelt det er å KI-programmere slike ting og lage små bot-hærer som faktisk kan navigere på sosiale medier, bruke e-post og ta i bruk slike verktøy, sier forsker Daniel Thilo Schroeder.(Foto: SINTEF)
Demokratisk motstandskraft
Schroeder er opptatt av demokratisk motstandskraft og samfunnssikkerhet. Han har forsket mye på 5G-teorien og hvordan den spredte seg.
Forskerne så på Twitter-aktivitet før, under og etter toppen av konspirasjonen våren 2020.
De så på hvordan brukerne kommuniserte og hvordan grupper, såkalte communities, vokste og samhandlet over tid.
De så hvordan fremtredende konspirasjonsteoretikere bidro til å forsterke påstandene.
Det hele endte i at folk satte fyr på teleantenner og kidnappet teleteknikere.
– Slike konspirasjonsteorier går fra sporadiske tvitringer til å bli en global spredning, med dramatisk oppskalering av desinformasjon, sier Schroeder.
Tech-giganter stenger ute forskerne
Tilbake i 2020 var store språkmodeller, det vi gjerne omtaler som KI, ennå i startgropa. Nå, seks år senere, har kunstig intelligens blitt billig allemannseie.
Annonse
I kombinasjon med sosiale nettverk kan det gi digitale skogbranner av en helt annen karakter.
Samtidig har det blitt vanskelig for forskerne å følge med på hva som skjer. De store plattformene vil ikke lenger gi forskerne tilgang på data.
– Alle APIene fra de store mediaplattformene er blitt stengt. Vi har ikke lenger mulighet til å analysere innholdet og se hva som foregår der ute, sier Schroeder.
Såkalt agentisk kunstig intelligens er kunstig intelligens som ikke bare svarer på det du spør om, men som kan utføre oppgaver mer eller mindre på egen hånd.
Slik KI kan gi superkrefter til informasjonskampanjer og spredning av desinformasjon, påpeker forskeren.
– De store språkmodellene, som ChatGPT, er kjent for å kunne uttrykke seg svært overbevisende. De er ikke flinke til å resonnere, men de er ekstremt gode på språk. De klarer å få til en samklang med hvordan mennesker tenker, sier forskeren.
Hva er en ondsinnet KI-sverm?
Det er et sett av KI-styrte agenter som:
opprettholder vedvarende identiteter og hukommelse
koordinerer seg mot felles mål samtidig som de varierer tone og innhold
tilpasser seg i sanntid til brukerengasjement, signaler fra plattformene og menneskelige reaksjoner
opererer med minimal menneskelig overvåking
kan distribueres på tvers av plattformer.
KI-agenter i sverm truer oss
Forskerne advarer mot det de kaller svermer av samarbeidende, ondsinnete KI-agenter. Sluppet løs av politiske ledere som ønsker å påvirke opinionen og endre folks bilde av virkeligheten og deres politiske oppfatning.
– Med agentisk KI er det ikke lenger bare snakk om at språkmodeller er gode til å overbevise deg og få deg til å endre oppfatning om et tema. Nå kan KI også koordinere selve kampanjen, sier Schroeder.
I praksis handler det om å sette i sving et stort antall – tusenvis – av koordinerte KI-agenter med å infiltrere nettsamfunn og skape konsensus.
KI-agentene utgir seg for å være ekte mennesker, og de poster meldinger der de bruker slang og formuleringer som får dem til å se ekte ut.
De kunstige agentene kan koordinere seg, endre strategi underveis og være aktive i lang tid. De kan skrive blogger og sende e-poster, velge hvilke kanaler de skal bruke ettersom hva som tjener dem best.
Annonse
– Det er rett og slett skremmende hvor enkelt det er å KI-programmere slike ting og lage små bot-hærer som faktisk kan navigere på sosiale medier, bruke e-post og ta i bruk slike verktøy, sier Schroeder i et intervju med avisen The Guardian tidligere i år.
– Vi må få tilgang på data igjen
Han mener det er viktig å følge med forekomsten av slike KI-svermer og støtter ideen om et KI-observatorium som kan undersøke hvordan kunstig intelligens påvirker samfunnet.
– Vi må få tilgang på data igjen, slik at det blir mulig å faktisk forske på det. Forskere og beslutningstakere må få mulighet til å utveksle data og resultater, slik at vi kan utvikle nye mekanismer for å fange opp fenomenet, sier forskeren.
Han mener det ikke er nok å følge med på innholdet på plattformene.
Innholdsbasert sporing er ikke lenger nok, nå som store språkmodeller kan bestå Turing-testen og andre tester, mener forskeren.
Turing-testen er en test foreslått av Alan Turing, der en maskins intelligens vurderes ut fra om den kan føre en samtale på en slik måte at et menneske ikke kan skille den fra et annet menneske.
Nå kan de ondsinnede kampanjene oppskaleres
– Vi mener at man i stedet må undersøke atferdsmønstrene til slike svermer, for eksempel hvordan de koordinerer aktivitetene sine, sier Schroeder.
Han sammenligner det med den russiske twitter-operasjonen i 2016, der russiske trollfabrikker ble brukt for å påvirke det amerikanske presidentvalget.
Kampanjen hadde ikke særlig gjennomslagskraft. Den nådde få mennesker og hadde ingen synlig påvirkning på valgresultatet.
– Den gangen handlet det om å bruke små dataprogrammer som tvitret det samme budskapet om og om igjen. De var lette å avsløre. Og de måtte bruke ekte mennesker til å utføre arbeidet. De nådde ut til veldig få. Vi mener dette har endret seg. For nå kan man oppskalere, sier Schroeder.
