Denne artikkelen er produsert og finansiert av Universitetet i Agder - les mer.

Banker som bruker kunstig intelligens, kan diskriminere kundene sine
Ny forskning viser hvordan bankene kan unngå dette.
Nesten uansett hva vi gjør, legger vi fra oss data om hvem vi er. Slik er det også i banken. I mange tilfeller blir disse dataene brukt på måter som er nyttige for oss. Det er for eksempel fint for 50-åringer å slippe å få reklame for boligsparing for ungdom.
– Det som er farlig, er når banker eller andre virksomheter bruker data til å kategorisere deg og begrense valgene dine uten at du vet om det. Kunstig intelligens kan definere noen mennesker som innenfor og andre som utenfor. Da er vi fort ute å kjøre.
Det sier forsker Elisabeth Austad Asser. Hun har sett på hvordan bruk av kunstig intelligens (KI) kan hemme eller fremme verdiene til Sparebanken Sør i sin doktorgrad. Til daglig er hun ansvarlig for bærekraft i banken.
Hun har i sin forskning laget en liste med 13 punkter for hvordan banker bør ta i bruk KI. Denne kommer vi tilbake til i slutten av artikkelen.
Men først: Hvorfor er dette egentlig et problem?
Usynlig sortering
Tenk for eksempel om en mann søker på stillingsannonser, og ikke får opp omsorgsyrker fordi noen har bestemt at de ikke vil være interessante for ham.
Eller om du søker etter ledige skoleplasser, og noen eliteskoler ikke kommer opp blant søkeresultatene på grunn av postnummeret der du bor.

– Vi tror vi er frie når vi søker etter ting på nettet, men på baksiden av for eksempel Google sitter det algoritmer som har laget en profil på deg og bestemmer hva du skal få se og hvilke tilbud du skal få, sier Asser.
Når slike former for teknologi blir brukt i banken, kan det for eksempel føre til at området hvor du bor, avgjør om du skal få innvilget boliglån eller kredittkort.
Tidligere ble slike avgjørelser tatt av rådgivere i banken. Disse kunne vite at selv om du kanskje har naboer som er dårligere betalere, så er du som individ annerledes.
Kan sementere forskjeller
– Det er farlig når alt blir gjort om til data. Når du først har blitt definert inn i en kategori, så kan dette bli brukt videre i nye algoritmer. Om banker gjør dette galt, kan de være med å sementere sosiale forskjeller. Og i verste fall øke dem, sier Asser.
Hun mener dette bør være spesielt tankevekkende for sparebanker, som i sin tid ble opprettet som et verktøy for økonomisk stabilitet.
– En sparebank har en historisk gjeld til lokalsamfunnet. Den bør ikke bare legge seg under effektivitetsjaget som blir skapt av teknologien, sier Asser.
Men også sparebanker har en forpliktelse til å drive effektivt og tjene penger. Og om ikke sparebankene vil bruke ny teknologi, vil de kunne bli utkonkurrert av andre mer effektive banker som gjør det.
– KI har satt i gang et kommersielt spill i bankbransjen. Denne teknologien gjør det nødvendig å ta et samfunnsansvar. Men det er få som snakker om det, sier hun.
Rask endring
Asser fremhever at teknologi til alle tider har endret hvordan vi mennesker forholder oss til verden. Slik sett er det ikke noe nytt med KI.
Det nye er hvor raskt det går. Boktrykkerkunsten brukte 200 år på å komme til Norge. Telefonen brukte 75 år på å nå 50 millioner brukere. Da ChatGPT ble lansert, nådde den hundre millioner brukere på en uke.
– Teknologien som påvirker og former oss, blir tatt i bruk veldig raskt nå. Vi må forstå denne teknologien for å være sikre på at måten vi bruker den er bærekraftig og er med å skape en verden vi alle kan og vil leve i, sier hun.
Referanse:
Elisabeth Austad Asser: Alt på stell. En studie i hvordan bruk av kunstig intelligens kan hemme eller fremme Sparebanken Sør sine verdier. Doktorgradsavhandling ved Universitetet i Agder, 2023. Sammendrag.
Les også disse artiklene fra Universitetet i Agder:
-
Så mange hester blir smittet av flått: – Det er vanvittig høyt
-
– Tapet av erfaringar i naturen gjer at vi kan bli blinde for endringar som skjer
-
Å være flerspråklig gir fordeler når barn skal lære seg engelsk
-
Må vi velge mellom frihet og demokrati?
-
Betre kondisjon gav betre forståing av språk hos mange eldre
-
– Ikke bli besatt av målinger når du trener
forskning.no vil gjerne høre fra deg!
Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER