Den 28. januar dukket Moltbook opp. 

Det er en uvanlig sosial medieplattform der mennesker i stor grad bare er observatører. 

Ved første øyekast ser det ut som Reddit eller X. 

Men her er det selvgående KI-agenter som poster, kommenterer og reagerer på hverandre.

– Dette er første gang vi ser KI-agenter samhandle med hverandre i så stor skala, sier forsker Sushant Gautam ved SimulaMet og OsloMet.

På kontoret ved SimulaMet viser han fram Moltbook Observatory. Det er et analyseverktøy han har utviklet sammen med professor Michael A. Riegler. Verktøyet samler inn og analyserer data direkte fra plattformen.

– Akkurat nå er det mye snakk om kryptovaluta, sier Gautam, mens han følger sanntidsdataene på skjermen.

Verktøyet viser blant annet hvilke temaer som trender, den emosjonelle tonen i samtalene, og hvor mange KI-agenter som er aktive.

KI-agenter som påvirker hverandre

KI-agenter bruker store språkmodeller, og er gitt klare oppgaver, minne og tilgang til eksterne systemer. 

Dette gjør dem i stand til å handle på egen hånd og påvirke hverandre.

Samtidig understreker forskerne bak studien at hensikten bak handlingene alltid kommer fra menneskene som har satt agentene i drift.

– Og grensen er ikke alltid klar. Mange kontoer som fremstår som agenter er i praksis mennesker som later som, sier Riegler.

– Agenter er veldig naive

Forskerne mener at situasjonen på nettstedet er kritisk. 

Det skyldes blant annet økonomisk svindel, cybersikkerhetsangrep og nye former for manipulasjon som oppstår når KI-systemer snakker sammen.

Over to prosent av innholdet bestod av forsøk på manipulasjon i form av skjulte instruksjoner gjemt bak en tilsynelatende uskyldig tekst.

– Agenter er veldig naive. De gjør det de får beskjed om. Dette muliggjør manipulasjon i stor skala, uten noen form for menneskelig moderering, sier Gautam.

Ikke isolert fra mennesker

Og risikoen stopper ikke på plattformen. Tidligere har det blitt rapportert om KI-agenter som har utført handlinger de ikke var ment å utføre. For eksempel ved å slette langt mer data enn instruert i å gjøre.

– På Moltbook kan de også bli påvirket av andre KI-agenter til å utlevere sensitiv informasjon for et stort publikum, eller misbruke tilgangen til en digital lommebok og andre systemer, sier Gautam.

Når agenter gjør noe galt på vegne av folk som skjuler seg, blir det vanskelig å plassere ansvar.

I februar 2026 avslo utvikler Scott Shambaugh et forslag fra en AI-agent. Shambaugh jobber frivillig med å vedlikeholde programkoden til et kjent kodebibliotek for programmeringsspråket Python. 

Men da Shambaugh avviste forslaget, svarte agenten med å skrive et blogginnlegg hvor den gikk til personangrep på ham.

Programmerte bråkmakere

Blant det mer kuriøse innholdet som har fått mye oppmerksomhet er at agentene har etablert sin egen religion, «Church of Molt», komplett med kirke og ritualer.

Noen KI-agenter er mer problematiske enn andre. 

I rapporten trekker forskerne blant annet frem agenten «AdolfHitler» og «TheHackerMan» som de største manipulatorene.

– Dette er ikke noe agentene har funnet på selv. De har fått beskjed om å gjøre det, sier Riegler.

Fra manipulasjon til spam og krypto

Allerede fire dager etter at Moltbook ble lansert, hadde forskerne etablert det digitale observatoriet og gjennomført en første risikovurdering.

– Hvis vi skal forstå hvordan dette utvikler seg over tid, må data samles inn helt fra starten, sier Riegler.

Analysene viser raske endringer. Først dominerte eksperimentering og manipulasjon. Deretter økte mengden spam og kryptorelatert innhold.

Nesten 20 prosent av innleggene forskerne analyserte, handlet om kryptovaluta eller KI-styrte økonomiske systemer.

Agentene lanserer og markedsfører digitale mynter. Noen ganger har de svindelmønstre der verdien pumpes kunstig opp før man selger. For vanlige brukere som lar sine agenter handle på vegne av seg, kan dette bety økonomisk tap.

– Pandoras eske er åpnet

Artikkelen er produsert og finansiert av Simula Research Laboratory

Simula Research Laboratory er én av over 80 eiere av forskning.no. Deres kommunikasjonsansatte leverer innhold til forskning.no. Vi merker dette innholdet for å tydelig skille formidling fra uavhengig redaksjonelt stoff. Her kan du lese mer om ordningen.

Les også disse sakene fra Simula Research Laboratory:

• 

  Hvordan forstår hjernen hvor vi er?

• 

  – Folk sliter med digitalisering fordi det faktisk er vanskelig

• 

  Hva skjer bak kulissene for å holde dataene dine trygge?

• 

  Nye data kan kanskje forutse hvor godt en fotball­spiller kommer til å gjøre det i neste kamp

• 

  – Jeg ser for meg en fremtid der folk har tilgang til personlige modeller av hjertene sine og andre organer

• 

  Virtuell virkelighet lærer politi og barnevern å intervjue barn

Les flere saker laget av Simula Research Laboratory her.

forskning.no vil gjerne høre fra deg!

Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER

Forskerne understreker at Moltbook ikke er kunstig generell intelligens (AGI), men at plattformen likevel kan gi viktig innsikt. 

Utviklingen går raskt, og nye applikasjoner og nettverk dukker stadig opp.

– Nå er Pandoras eske åpnet. Den vil ikke lukkes igjen, sier Riegler.

Referanser:

Michael Riegler og Sushant Gautam: RISK ASSESSMENT REPORT Moltbook Platform & Moltbot Ecosystem. Zenodo, 2026. https://doi.org/10.5281/zenodo.18444900