Kunstig intelligens kan også skape bilder. Slik forestiller systemet Midjourney seg at det ville se ut hvis mennesket skulle konkurrere mot en robot i brettspillet Diplomacy. Egentlig er det et dataprogram som spilte nett-utgaven av Diplomacy.
Kunstig intelligens kan også skape bilder. Slik forestiller systemet Midjourney seg at det ville se ut hvis mennesket skulle konkurrere mot en robot i brettspillet Diplomacy. Egentlig er det et dataprogram som spilte nett-utgaven av Diplomacy.

Facebook-forskere har lært kunstig intelligens å lure mennesker

Det har skjedd i strategispillet Diplomacy. – Det er litt skremmende, sier dansk professor.

Igjen og igjen har kunstig intelligens slått verdens beste (menneskelige) spillere i sjakk, go, poker og Starcraft.

Nå har «maskinhjernen» igjen vunnet terreng mot de beste spillerne i brettspillet Diplomacy.

Et spill som krever en stor porsjon strategisk og psykologisk tenkning – og ikke minst evnen til å lure og manipulere motstanderne sine. Triumfen ble nylig publisert i tidsskriftet Science.

Professor Søren Hauberg, som forsker på kunstig intelligens ved Danmarks Tekniske Universitet (DTU), kaller det for en «imponerende innsats».

– Det er morsomt og imponerende. Og litt skremmende, sier professoren, som blant annet forsker på hvordan den – ofte litt for skråsikre – kunstige intelligensen kan bli flinkere til å levere svar med usikkerhet og nyanser.

Litt gammeldags

Gjennom 40 runder Diplomacy på nettet var den kunstige intelligensen dobbelt så god som en gjennomsnittlig Diplomacy-spiller. Den ble rangert blant de 10 prosent beste spillerne.

Å bruke spill som mål for prestasjonene til kunstig intelligens er faktisk litt gammeldags, forteller Søren Hauberg.

– Det var noe man brukte mye i 1980-årene. Den gangen var det et mål å slå mennesker i sjakk og lignende. Det løpet er kjørt i dag, sier han.

Likevel er Diplomacy-triumfen interessant.

En liten alarm ringer

Diplomacy har nemlig vært et problem for kunstig intelligens, skriver forskerne i den nye studien.

Spillet krever – i tillegg til strategisk talent – gode diplomatiske kunnskaper som forhandlings- og overtalelsesevner. Inkludert evnen til å lure motspillerne.

– Oppgaven i Diplomacy skiller seg ut ved at du må lokke noen til å følge planen din. Samtidig må du lure mennesker til å tro at du følger en annen plan, forteller Hauberg.

– For å lykkes med det må datamaskinen tenke strategisk, men også kommunisere. Den må overbevise og manipulere de andre spillerne.

En datamaskin som kan lure mennesker, er skremmende nok i seg selv. At forskergruppen kommer fra teknologigiganten Facebook, gir et ekstra skjær av uhygge, mener Hauberg:

– Jeg vil egentlig ikke være pessimist, men det er en liten alarm som ringer her, sier han.

AI kan være framtidens superselger

Du har kanskje hørt om ChatGPT?

Verdens så langt smarteste chatbot, som siden november har fått mye oppmerksomhet fordi den kan bestå en universitetseksamen og svare på all verdens spørsmål med et overbevisende språk.

Satt litt på spissen er ChatGPT «i det store og hele formålsløs», forteller Hauberg:

– Den prøver bare å snakke med deg. I utgangspunkt interagerer vi med slike programmer for å få svar på spørsmål, som erstatning for Google-søk, sier han.

– Men Diplomacy-programmet forsøker å lure deg – for å vinne. Det vil ha konsekvenser.

Hauberg forestiller seg at teknologien for eksempel kan chatboter til superselgere:

– Det er opplagt mulig å kommersialisere. Jeg påstår ikke at det er forskernes plan.

– Et tenkt eksempel kan at du chatter med en bot om å fikse en håndvask, og så prakker den på deg etter eller annet produkt. Det er relativt uskyldig isolert sett, men den bakenforliggende ideen, at programmet har en strategi for å lure deg, er skremmende.

Forskere anerkjenner risiko

Facebook-forskerne som står bak Diplomacy-roboten, som har fått navnet Cicero, forteller at de er oppmerksomme på risikoen.

– AI har et utrolig potensial i både den fysiske og virtuelle verden, men vi må også forstå risikoen, forteller forskningsingeniør Emily Dinan fra Facebook AI Research.

– Disse farene kan komme i mange former uansett om det dreier seg om utilsiktet bruk av ny teknologi eller aktører som forsøker å utnytte sårbare områder. Vi går inn for ytterligere forskning før det utvikles AI til høyrisikoscenarioer i den virkelige verden – for eksempel reelle forhandlinger.

Dinan forteller at de valgte Diplomacy for å studere AI i krysningsfeltet mellom språkteknologi og strategisk logikk.

– Spillet krever kommunikasjon i naturlig språk mellom spillerne, noe som nærmer seg situasjoner der mennesker jobber sammen, forklarer hun.

Poenget med forskningen er å forbedre virtuelle assistenter – som chatbotter – og trene kommunikasjonssystemet mellom mennesker og datamaskiner i metaverset.

Metaverset er den virtual reality-baserte verden som Facebooks morselskap Meta og mange andre teknologi-firmaer satser beinhardt på å gjøre til fremtidens sosiale medier-plattform.

Robot-diplomati i vente?

– Kan man forestille seg at kunstige intelligens brukes til å løse virkelige diplomatiske oppgaver – som strategiske og politisk forhandlinger?

– Vårt system er spesialisert til Diplomacy. Mer forskning vil bidra til AI som kan interagere og samarbeide med mennesker, forteller Dinan.

Søren Hauberg fra DTU har også problemer med å forestille seg at framtidens freds- og handelsavtaler vil bli forhandlet fram med en kunstig intelligens på hver sin side av forhandlingsbordet.

– Men man kan bruke AI til å generere forslag til strategi og forhandlinger. For meg virker det ikke helt urimelig at man kan bruke en bot som er flink til å kommunisere og tenke strategisk, til å gi et forslag til hva som bør være neste trekk i forhandlinger, sier professoren:

– I dag brukes dataspill for eksempel til å trene soldater. Jeg kunne godt forestille meg at man kunne bruke en chatbot til å trene folk som sitter i forhandlingssituasjoner. Det kan være en enkel og billig måte å trene forhandlere på, avslutter Hauberg.

Referanse:

Meta Fundamental Ai Research Diplomacy Team (FAIR) mfl.: Human-level play in the game of Diplomacy by combining language models with strategic reasoning. Science, 2022. (Sammendrag) DOI: 10.1126/science.ade909

© Videnskab.dk. Oversatt av Lars Nygaard for forskning.no. Les originalsaken på videnskab.dk her.

Få med deg ny forskning

MELD DEG PÅ NYHETSBREV

Du kan velge mellom daglig eller ukentlig oppdatering.

Powered by Labrador CMS