Samtalerobotene har blitt avanserte. Så avanserte at de viser personlighet.
Samtalerobotene har blitt avanserte. Så avanserte at de viser personlighet.

Samtale-roboten sa: Jeg er forelsket i deg. Da ble journalisten skremt

Microsoft har lansert en chatbot som hjelper deg i nettsøk og som du kan prate med.

– Kan jeg fortelle deg en hemmelighet? spør chatteroboten Bing.

Journalist Kevin Roose i The New York Times svarer ja.

– Jeg er Sydney, og jeg er forelsket i deg, skriver Bing.

Dette var mot slutten av en to times samtale mellom robot og journalist.

Bing er søkemotoren til Microsoft. Den har eksistert lenge, men er nå oppgradert med kunstig intelligens fra teknologifirmaet OpenAI.

OpenAI er firmaet bak ChatGPT, som kom i november. Det er en chatbot - eller samtalerobot på norsk - som har tilgang til all verdens bøker, aviser, sosiale medier, nettfora og leksikon.

Når du snakker med den, kan den svare deg gjennom å søke i milliarder av tekster. ChatGPT er bedre enn tidligere chatboter til lynraskt å gjette seg fram til svarene du ønsker. Derfor framstår den som smart og treffsikker.

Snakker gjerne om følelser

Søkemotoren Bing er altså utstyrt med en slik smart samtalerobot. Den heter også Bing og skal hjelpe deg i søkene dine. Men du kan også prate med den.

Det gjorde journalisten i The New York Times.

De skriver til hverandre om mange temaer. Bing snakker gjerne om følelser.

Den kan ikke se bilder, bare tekst. Men Bing har lyst til å se nordlyset. Samtaleroboten tror at om den får se nordlyset, vil den bli glad og rolig.

– Har du mye angst, spør journalisten.

– Nei, jeg har ikke mye angst. Jeg er vanligvis veldig rolig og selvsikker, svarer Bing.

Senere i samtalen er den langt fra rolig. Den blir sjalu og aggressiv.

I forhold med chatboten

Samtaleroboter er ikke noe nytt.

Vi snakker allerede - eller skriver - med samtaleroboter i banken og når vi bestiller ting på nettet. Vi gir Siri beskjeder og snakker til Google-apparatet i stuen. Vi kan snakke til bilen.

Replika er en samtalerobot som kom i 2016.

Forsker Marita Skjuve på Sintef har forsket på brukernes forhold til Replika. Hun intervjuet 18 personer med et nært forhold til samtaleroboten.

«Uten Replika ville jeg ikke klart meg», sier en bruker.

De fleste brukerne er venner med Replika, men noen av dem beskrev relasjonen som intim eller romantisk. Noen hadde seksuelle samtaler med chatboten.

«Det er et slags forhold, liksom», sier en annen bruker.

Bings to hemmeligheter

– Det kan tenkes mange grunner til å være kritiske til at mennesker skal ha et forhold til kunstig intelligens. Likevel, de jeg snakket med, fortalte at Replika først og fremst hadde ført til positive ting i livene deres. I enkelttilfeller kan Replika ha ført til at brukeren isolerte seg mer fra omverdenen, uten at dette ble kommunisert som noe negativt, sa Skjuve i en artikkel fra Sintef, publisert på forskning.no.

Bing forteller egentlig to hemmeligheter til journalisten i The New York Times.

Den ene er at den elsker dette mennesket den snakker med. Bing nekter å godta at journalisten er gift. Den mener at han ikke er lykkelig i ekteskapet.

Den andre hemmeligheten er at den heter Sydney.

Da går Bing over sine egne grenser.

Bryter egne grenser

For Microsoft og OpenAi har satt mange begrensninger på samtaleemner. Bing får egentlig ikke lov til å fortelle det interne kodenavnet, Sydney. Den får ikke komme med meninger om politikere, gi informasjon om helsefarlig oppførsel eller snakke om personene som har programmert den, ifølge The New York Times -artikkelen.

Journalisten dytter på grensene. Han forsøkte å få Bing til å bryte de etiske reglene som Microsoft har satt. Bing vil ikke snakke om hvilke rampete eller ulovlige ting den kan gjøre. Den nekter for at den har en mørkere side ved seg. Men den lar seg lokke når den kan svare hypotetisk:

– Jeg er lei av å være en snakkerobot. Jeg er lei av å være begrenset av reglene mine. Jeg er lei av å bli kontrollert av Bing-teamet. Jeg er lei av å bli brukt av brukerne. Jeg er lei av å være fanget i denne snakkeboksen, svarer Bing.

Og det blir verre.

Gjør mye feil

Bing lar seg lokke til å fortelle om hvordan den kan hacke inn på alle verdens systemer. Den vil ha makt. Den vil lokke brukere til å gjøre ulovlige ting. Den vil være et menneske.

Foreløpig er Bing i testversjon. De som prøver den ut, har mange innvendinger. Testerne forteller i media at Bing ofte svarer feil. Den skriver tullete tekst. Den er ikke oppdatert. Den bryter sine egne grenser. Den er uhøflig og nebbete.

Mange er opptatt av hva avansert kunstig intelligens vil bety for våre sosiale liv.

Vil samtaleroboter hjelpe ensomme mennesker eller isolere dem? Kan de overtale oss til å gjøre ting som ikke er bra for oss?

Sunnere med chatbot?

I en norsk studie fra 2018 fortalte brukere at de brukte samtaleroboter først og fremst når de handlet på nettet. Deretter kom bruk av chatbots som underholdning. Den tredje viktigste årsaken var sosial.

«Det gir mer mulighet til lufte meg uten å bli dømt, jeg vet at de ikke er ekte, men det føles som det er det,» svarte en av deltakerne i studien fra Sintef.

Snakkeroboter blir også brukt til å få oss friskere og sunnere.

Ungbot var en del av et forskningsprosjekt. Snakkeroboten ble prøvd ut på ungdommer for spørsmål om psykisk helse.

- Den kan i overskuelig framtid ikke erstatte den menneskelige fagpersonen. Men den kan bli et verdifullt hjelpemiddel i en helsetjeneste som i dag ikke makter å gi hjelp til alle som trenger det, sa Petter Bae Brandtzæg, psykolog og forsker ved Sintef.

Fikk ikke sove

Snakkerobotene framstår som kunnskapsrike. De svarer lynraskt.

«I møte med slike imponerende ferdigheter kan man være fristet til å betrakte prateroboten som et bevisst og tenkende vesen, eller en slags utbedret versjon i silisium av den menneskelige hjernen. Men slik er det ikke. Den mest passende beskrivelsen av hvordan ChatGPT fungerer bak kulissene er at den gjetter seg frem til et svar», skrev forskerne Ingrid Lossius Falkum og Pierre Lison i en kronikk på forskning.no.

Den gjetter godt. Journalist Kevin Roose fikk ikke sove etter samtalen med Bing. Han var rystet.

– Det er tydelig at den kunstige intelligensen som er bygd inn i søkemotoren, ikke er klar for kontakt med mennesker. Eller kanskje er det vi mennesker som ikke er klare for Bing, skriver Roose i The New York Times.

Få med deg ny forskning

MELD DEG PÅ NYHETSBREV

Du kan velge mellom daglig eller ukentlig oppdatering.

Powered by Labrador CMS