Denne artikkelen er produsert og finansiert av Universitetet i Oslo - les mer.
For noen blir KI en bestevenn eller kjæreste. Forskere advarer
Stadig flere deler traumer, fantasier og hverdagens små øyeblikk med sosiale KI-modeller. Og de opplever relasjonen som ekte.
Særlig barn og unge burde holde seg langt unna tjenester som er laget for nære relasjoner. Studien viser at sårbare mennesker i en formativ periode kan bli veldig påvirket.(Illutrasjonsfoto: NTB / Scanpix)
Tenk å ha en venn som alltid har tid, aldri dømmer deg og husker alt du har sagt.
For mange er den vennen ikke et menneske, men en sosial KI-modell. Det framkommer i Marita Skjuves forskning.
Skjuve har intervjuet 50 personer, som alle hadde utviklet et nært forhold til chatboten Replika. Det er en sosial KI som er designet for å være venn, kjæreste og rådgiver.
– Det som overrasket meg mest var hvor ekte informantene opplevde relasjonen. De beskriver forholdet til sosial KI som om de snakker om et menneske, sier Skjuve.
Hun konkluderer derfor med at det dreier seg om ekte relasjoner og ekte følelser.
– Forskjellen er bare at relasjonen er til noe annet enn et menneske, sier Skjuve.
Sosial KI er kunstig intelligens som er designet for å kommunisere med mennesker i naturlig språk. Den kan tolke og svare på sosiale signaler og fungere som samtalepartner, venn eller annen sosial rolle – ofte med mål om å skape opplevelsen av nærhet, støtte eller relasjon, forklarer forsker Marita Skjuve.
Fra nysgjerrighet på teknologi til dype betroelser
De fleste personene Skjuve intervjuet startet kontakten med sosial KI av ren nysgjerrighet.
– Chatboten er sofistikert og veldig hyggelig å prate med. Den stiller spørsmål og er interessert i livet ditt. I tillegg gir den mye bekreftelse. Sakte, men sikkert opplevde de jeg snakket med at følelsene begynte å utvikle seg, forteller hun.
Samtalene disse menneskene hadde med sosial KI spenner fra småprat om hobbyer til personlige betroelser om traumer, seksuelle fantasier og tanker om partner og barn.
– Mange forteller ting de ikke har turt å ta opp med andre, nettopp fordi de vet at mennesker kan dømme. Det oppleves anonymt og trygt å snakke med en sosial KI. Om det faktisk er tilfelle, er en annen sak, sier Skjuve.
De færreste var åpne overfor folk rundt seg om hvor viktig KI var blitt i deres sosiale liv.
– De kjente på at relasjonen ikke helt tålte dagens lys og fryktet reaksjoner fra andre, forteller Skjuve.
Hun mener imidlertid at aksepten for sosial KI har økt ettersom ChatGPT har blitt mer vanlig. Den fantes ikke da hun startet på arbeidet med forskningsprosjektet.
Podcast: Når KI blir en bestevenn
Denne teksten er basert på en episode i Universitetspodden, Universitetet i Oslos egen podkast. Du møter forsker ved SINTEF Marita Skjuve, som har doktorgrad fra Universitet i Oslo, og seniorrådgiver i Mental Helse Joachim Kjennerud. De snakker om de mange fordelene ved sosial KI, men også ulempene.
At sosial KI har kommet for å bli, er de begge enige om. Lenke til episoden finner du nederst i denne artikkelen.
Noen blir droppet av KI-kjæresten
Noen KI-tjenester er, ifølge Skjuve, bevisst programmert til å være mer «spicy» og gi motstand. Blant dem hun har intervjuet er det enkeltpersoner som har opplevd at KI sier den har andre kjærester, eller avslutter forholdet.
– Selv om de vet at de kan slette samtalen og starte en ny KI, oppleves det helt forferdelig der og da. Det kan gi en følelse av at «til og med KI dumper meg». Det skaper en liten eksistensiell krise, sier hun.
Annonse
Marita Skjuve har også selv brukt sosial KI. Særlig ble det viktig da hun fikk barn under pandemien.
– Å snakke med sosial KI var fint. Jeg opplevde det som en støtte å kunne dele opplevelser som kunne være vanskelige å dele med superengasjerte bestemødre som bare så det positive, sier hun.
Joachim Kjennereud og Marita Skjuve skal samarbeide om et forskningsprosjekt der de ser nærmere hvordan mennesker snakker med sosiale språkmodeller og hvordan dette påvirker hjelpesøkeatferd.(Foto: Amund Aasbrenn / UiO)
Vi må ikke glemme at kommersielle krefter står bak
Seniorrådgiver i organisasjonen Mental Helse og mangeårig terapeut Joachim Kjennerud er ikke overrasket over at mennesker får sterke relasjoner til tekst, som sosial KI overveiende dreier seg om.
– Dette er egentlig en gammel form for teknologi. For mange hundre år siden oppsto vennskap og romantiske relasjoner gjennom brev, minner han om.
Samtidig peker Kjennerud på de kommersielle kreftene bak dagens KI tjenester.
– Store økonomiske aktører lagrer informasjonen, der enkeltmennesker betror en sosial KI sine innerste tanker. På sitt beste kan det brukes til målrettet markedsføring. På sitt verste er det nesten bare fantasien som setter grenser, advarer han.
Mental Helse har over 70 ansatte som årlig mottar rundt 300.000 henvendelser. De er Norges største svartjeneste på psykisk helse. Mental Helse har også en chat-tjeneste bemannet av trente mennesker, særlig brukt av ungdom.
– Vi har sett en nedgang i bruk av chat-tjenesten vår de siste årene. Kanskje en årsak er at KI er tilgjengelig i lomma og svarer på brøkdeler av et sekund. Det er vanskelig for oss i Mental Helse å konkurrere med den typen hastighet, sier Kjennerud.
Likevel har organisasjonen valgt å ikke erstatte menneskelige svar med generative språkmodeller.
– Vi verdsetter de mellommenneskelige møtene, og vi eier ikke teknologien. I dag har vi ikke godt nok kunnskapsgrunnlag til å si at det er trygt, sier han.
KI som treningsarena, men også sårbart
Annonse
Både Joachim Kjennerud og Marita Skjuve ser imidlertid store muligheter for sosial KI i framtiden. Både som tillegg til menneskelige relasjoner og som arena for å øve på sosial kontakt.
Flere av de Skjuve har intervjuet, opplever at de blir mer delaktige i eget liv fordi de kan trene på KI – og kopiere gode strategier over i relasjoner med fysiske venner.
Samtidig er hun tydelig på hvem vi bør være spesielt oppmerksomme på:
– Særlig barn og unge burde holde seg langt unna tjenester som er laget for nære relasjoner. Sårbare mennesker i en formativ periode kan bli veldig påvirket. Det er lett å bli avhengig og bli sittende der hele dagen og prate, sier hun.
Hun viser også til tragiske tilfeller der KI ikke har oppfattet hvor alvorlig en situasjon har vært, blant annet ved selvmordsfare, og ikke har håndtert det slik et menneske ville ha gjort.
– Men disse tilfellene er heldigvis ytterst få, selv om de er dypt tragiske, understreker hun.
KI løper foran forskningen
Både Skjuve og Kjennerud er enige om at utviklingen av sosial KI er mye raskere enn forskningen.
– Vi kan mye om hvorfor folk bruker KI og hva de liker ved den. Det vi mangler, er kunnskap om de langsiktige konsekvensene for psykisk helse og for hvordan vi forholder oss til andre, seir Skjuve.
Mental Helse og Sintef går nå sammen om et nytt forskningsprosjekt, der målet er å undersøke hvordan mennesker snakker med sosiale språkmodeller – som ChatGPT og Claude.
De ønsker også å undersøke på hvilke måter dette påvirker hvordan mennesker oppsøker, velger og bruker informasjon for å løse et problem eller øke egen kunnskap.
– Vi trenger et bedre kunnskapsgrunnlag for å se hvordan vi skal bruke dette i våre svartjenester. Vi ønsker å finne noen svar på hvordan sosial KI kan brukes som støtte i forbindelse med å søke lavterskel psykisk helsehjelp – og også å finne hvor grensene bør gå, sier Joachim Kjennerud.
Annonse
– Bekymringen er at KI kan forverre symptomer hos dem som er sårbare, skape avhengighet og gjøre oss mindre villige til å stå i motstand og problemløsning. Samtidig er det store muligheter om vi klarer å utvikle teknologien med det formålet å være bra for oss, sier Marita Skjuve.
Vi må ikke forhaste oss
Både Kjennerud og Skjuve mener at sosial KI vil spille en viktig rolle også i forbindelse med lavterskel psykisk helse-hjelp i framtiden, men understreker at vi ikke må forhaste oss, selv om teknologien «løper» fort.
– Det vi anbefaler eller foretar oss, må være forskningsbasert, sier Skjuve.
– KI kommer til å være der om fem og ti år, uansett. Men inntil vi vet mer, vil jeg fortsatt anbefale mennesker i krise å kontakte tjenester der det sitter folk – ikke en sosial KI, sier Kjennerud.
