Slår alarm: KI finner på forskning – og forskere lar seg lure

Han må gni seg i øynene. Den danske professoren Christian Bjørnskov leser en norsk forskningsstudie hvor hans eget navn blir nevnt.

Bjørnskovs forskning har blitt sitert. Det er vanligvis en ære, men denne gangen er det ikke det, for forskningen det påstås at han har gjort, finnes ikke.

Dette forteller han om i forskningsavisen videnskab.dk.

Studien det refereres til, er rett og slett oppdiktet.

Fikk tilsendt en studie

Christian Bjørnskov utdyper overfor forskning.no at det var kollegaen hans, som han har skrevet flere forskningsartikler med, som sendte han den norske studien.

– Studien var interessant og veldig god, sier han.

Men så la han merke til én ting: I referanselisten stod navnet hans på en studie han ikke kjente igjen.

– Vi vet jo selv godt hva vi har skrevet, og vi har ikke skrevet den studien. Vi sjekket referansen, og det var heller ingen andre som hadde skrevet den, forteller Bjørnskov.

Hvordan kan en studie siteres når den ikke finnes?

Bjørnskov kaller det en hallusitering, en sitering hallusinert og oppdiktet av KI. Det er et fenomen som brer om seg.

– Forskere må være bevisste på hva vi kan og ikke kan gjøre, sier Bjørnskov.

– Folk kan selvfølgelig gjøre en glipp og være slurvete. Men du kan ikke være uvitende, sier han.

Skjer hele tiden

Dette er ikke uvanlig. Det dukker stadig opp nye tilfeller av KI-genererte titler på studier i referanselister.

En gjennomgang av 2,5 millioner medisinske studier avdekket nesten 3.000 falske referanser. 

I en annen ny studie fant forskere svimlende 146.932 hallusinerte referanser av totalt 111 millioner referanser i studier.

Nederlenderne har begynt å telle. Forskere ved Technische Universiteit Delft (TU Delft) har funnet ut at antallet referanser til såkalte spøkelsesstudier har økt med sju-gangeren:

• I 2023 var det 1 av 1.400 artikler som inkluderte spøkelsesstudier.

• I 2026 har det økt til 1 av 200.

Det finnes ingen oversikt over hvor ofte dette skjer med norske studier. Tidligere i år ble to forskere ved Høgskolen i Vestlandet felt for vitenskapelig uredelighet på grunn av seks falske referanser i to forskningsartikler. De ble senere frikjent av det nasjonale granskingsutvalget, ifølge avisen Khrono.

Spøkelsesstudier kan sirkulere

– Vi kan alle gjøre feil, sier Tove Godskesen, professor ved Nord universitet.

Hun forsker på etiske utfordringer i helsetjenesten og i forskning.

Når forskere skriver referanser, kan det bli feil i både sidetall, lenke til studien og i titler, forklarer hun.

– Det som er mer alvorlig, er når referansene ser helt riktige ut og henviser til forskere som eksisterer og som holder på med liknende forskning, men der studien er diktet opp av KI.

– Det er et stort problem, sier hun.

Studier som ikke eksisterer, men som refereres til, kan sirkulere rundt i andre studier.

– Plutselig har vi studier og forskning vi ikke kan stole på, sier hun.

Tillit, omdømme og integritet

Godskesen er også opptatt av hensynet til forskeren som får navnet sitt knyttet til en studie eller artikkel de verken har skrevet eller kjenner til, som i den danske professorens tilfelle.

– Når referansene ser troverdige ut, kan det få konsekvenser for dem som feilaktig framstår som forfattere. Det handler ikke bare om kvaliteten på forskningen, men også om tillit, omdømme og forskningsintegritet.

– Dersom slike referanser begynner å sirkulere og bli sitert videre, kan det skape uklarhet om hva forskeren faktisk har publisert og står inne for, sier hun.

Norsk forsker: En ulykksalig glipp

Forskning.no har snakket med en av forskerne bak den norske studien som refererte til spøkelsesstudien. Han sier det var en ulykksalig glipp og legger seg flat.

– Vi tar lærdom av dette, og det kommer ikke til å skje igjen, sier han til forskning.no.

Studien ble skrevet for et par år siden da KI-bruk i akademia fremdeles var i en tidlig fase.

– Nå har det snudd opp ned på hverdagen vår som forskere, forteller han til forskning.no. 

Han sier at han har lært mye av denne opplevelsen, at den satte en støkk i ham og at han nå har gått gjennom alle studiene han har vært en del av de siste årene. 

Den norske studien ligger fremdeles ute på tidsskriftets nettside uten at referansen er fjernet. Dette til tross for at den norske forskeren har vært i kontakt med dem flere ganger.

Forskning.no har også bedt om svar fra tidsskriftet. De bekrefter å ha mottatt meldingene fra de norske forskerne og vurderer nå hva de skal gjøre. Se resten av svaret nederst i artikkelen. 

Forskerne har verken blitt meldt inn eller felt for uredelighet, og de er i prosess med tidsskriftet for å få rettet feilen. Derfor har forskning.no valgt å anonymisere, av hensyn til dem og forskerteamet deres. 

Kan påvirke resultater

Tove Godskesen mener vi må se på de lange konsekvensene av spøkelsesstudier. Kanskje havner de i litteraturoversikter, som er studier der forskere går gjennom tilgjengelig forskning for å finne svar på spørsmål om et bestemt tema.

– Da vil de kanskje være med på å påvirke resultatene, sier Godskesen. 

Hva om vi begynner å lage behandlinger og innfører nye rutiner basert på slike studier, påpeker hun.

Dette skjedde faktisk i 2025, da Tromsø kommune anbefalte å stenge skoler og viste til forskning som ikke fantes. Litt over ett år senere gikk Alver kommune i samme felle, ifølge Avisa Nordhordland.

– Én enkelt studie gjør kanskje ikke så mye, men hvis dette blir vanlig i forskning, har vi et problem, sier hun.

Hvem har ansvaret?

– Hvorfor havner slike spøkelsesstudier i referanselistene?

– Dette er først og fremst slurv som skjer når man skal finne relevant forskning, sier Godskesen.

– Man leser ikke studien, for den finnes jo ikke. Man sjekker ikke engang at det KI foreslår, stemmer.

– Så hvem har egentlig ansvaret? Er det forskeren selv, tidsskriftet, universitetene eller fagfellene som vurderer studiene?

– Her burde jo tidsskriftene være på ballen. Det kan ikke være spesielt vanskelig å lage KI som sjekker referanser til studier de får tilsendt, sier Godskesen.

Selv om hun mener tidsskriftene må ta ansvar, kommer hun ikke unna de som har det endelige ansvaret:

– Til syvende og sist er det forskerne selv som er ansvarlige for det de publiserer.

LES OGSÅ

Fant 2.800 falske kilder i medisinske studier

Studier med 12.000 pasienter ble ikke publisert: Ingen sjekker om forskerne gjør jobben sin

Opptatt av hva som
skjer i samfunnet?

Utdanning, familie, økonomi, politikk og ledelse er bare noe av det du blir oppdatert på i nyhetsbrev fra forskning.no.

Meld meg på