Nesten uansett hva vi gjør, legger vi fra
oss data om hvem vi er. Slik er det også i banken. I mange tilfeller blir disse
dataene brukt på måter som er nyttige for oss. Det er for eksempel fint for
50-åringer å slippe å få reklame for boligsparing for ungdom.
– Det som er farlig, er når banker eller andre virksomheter bruker data til å kategorisere deg og begrense valgene dine uten at du vet om det. Kunstig intelligens kan definere noen mennesker som innenfor og andre som utenfor. Da er vi fort ute å kjøre.
Det sier forsker Elisabeth Austad Asser. Hun har sett på hvordan bruk av kunstig intelligens (KI) kan hemme eller fremme verdiene til Sparebanken Sør i sin doktorgrad. Til daglig er hun ansvarlig for bærekraft i banken.
Hun har i sin forskning laget en liste med 13 punkter for hvordan banker bør ta i bruk KI. Denne kommer vi tilbake til i slutten av artikkelen.
Men først: Hvorfor er dette egentlig et problem?
Usynlig sortering
Tenk for eksempel om en mann søker på
stillingsannonser, og ikke får opp omsorgsyrker fordi noen har bestemt at de
ikke vil være interessante for ham.
Eller om du søker etter ledige
skoleplasser, og noen eliteskoler ikke kommer opp blant søkeresultatene på
grunn av postnummeret der du bor.
– Som bank må vi forstå feilene og manglene i dataene vi bruker for å ta avgjørelser, sier Elisabeth Austad Asser.(Foto: Mona Hauglid)
– Vi tror vi er frie når vi søker etter
ting på nettet, men på baksiden av for eksempel Google sitter det algoritmer
som har laget en profil på deg og bestemmer hva du skal få se og hvilke tilbud
du skal få, sier Asser.
Når slike former for teknologi blir brukt
i banken, kan det for eksempel føre til at området hvor du bor, avgjør om du
skal få innvilget boliglån eller kredittkort.
Tidligere ble slike avgjørelser tatt av
rådgivere i banken. Disse kunne vite at selv om du kanskje har naboer som er
dårligere betalere, så er du som individ annerledes.
Kan sementere forskjeller
– Det er farlig når alt blir gjort om til
data. Når du først har blitt definert inn i en kategori, så kan dette bli brukt
videre i nye algoritmer. Om banker gjør dette galt, kan de være med å sementere
sosiale forskjeller. Og i verste fall øke dem, sier Asser.
Hun mener dette bør være spesielt
tankevekkende for sparebanker, som i sin tid ble opprettet som et verktøy for
økonomisk stabilitet.
– En sparebank har en historisk gjeld til
lokalsamfunnet. Den bør ikke bare legge seg under effektivitetsjaget som blir
skapt av teknologien, sier Asser.
Men også sparebanker har en forpliktelse
til å drive effektivt og tjene penger. Og om ikke sparebankene vil bruke ny
teknologi, vil de kunne bli utkonkurrert av andre mer effektive banker som
gjør det.
– KI har satt i gang et
kommersielt spill i bankbransjen. Denne teknologien gjør det nødvendig å ta et
samfunnsansvar. Men det er få som snakker om det, sier hun.
Rask endring
Annonse
Asser fremhever at teknologi til alle tider har endret hvordan vi mennesker forholder oss til verden. Slik sett er det ikke noe nytt med KI.
Det nye er hvor raskt det går. Boktrykkerkunsten brukte 200 år på å komme til Norge. Telefonen brukte 75 år på å nå 50 millioner brukere. Da ChatGPT ble lansert, nådde den hundre millioner brukere på en uke.
– Teknologien som påvirker og former oss, blir tatt i bruk veldig raskt nå. Vi må forstå denne teknologien for å være sikre på at måten vi bruker den er bærekraftig og er med å skape en verden vi alle kan og vil leve i, sier hun.
Tretten råd til bankene
Asser har laget en liste med 13 anbefalinger til hvordan banker kan tilnærme seg KI på en måte som fremmer bankens verdier.
1. Vær bevisst: Lag en plan for bruk av KI som stemmer overens med bankens verdier og mål. Vær klar på hva ulike teknologier skal brukes til.
2. Forstå lover og regler: Sørg for at bankens ansatte har kunnskap om gjeldende lover og regler om KI.
3. Jobb med datakvalitet: Sørg for at dataene er rettferdige, balanserte og av høy kvalitet. Unngå fordommer i dataene ved å bruke innsikt fra forskjellige avdelinger i banken. Test KI-systemer for skjevheter og jobb for å fikse dem.
4. Håndter skjevheter: Bruk et mangfoldig team for å utvikle algoritmer. Samarbeid med grupper som ofte er utelatt når du utvikler KI-modeller. Vær åpen om hvilke data som brukes.
5. Velg de rette algoritmene: Bruk algoritmer som er så rettferdige og upartiske som mulig. Bruk ekspertise for å velge og vurdere algoritmer, særlig for sensitive oppgaver som kredittvurdering.
6. Utdann organisasjonen om skjevheter: Lær opp hele organisasjonen om skjevheter i datasett og strategier for å vurdere disse.
7. Frem intern kunnskap: Inkluder ansatte i utviklingen av KI-modeller og bruk deres bankfaglige kunnskap for å redusere skjevheter og forbedre implementeringen av KI.
8. Styrk opplæringen: Jobb grundig med opplæring i banken når KI-teknologi tas i bruk.
9. Involver ledelsen: Sørg for at både tekniske og ikke-tekniske ledere arbeider inkluderende og verdibasert med KI.
10. Overvåk systemene: Vær oppmerksom på uønskede effekter etter at KI er tatt i bruk. Vær åpen for ekstern revisjon av KI-systemene.
11. Forstå ansvaret: Vær klar på hvilket ansvar banken har i KI-prosesser, og vurder å bruke begrepet «maskin i loopen» når det er relevant.
12. Opprett et KI-etisk råd: Rådet kan håndtere utfordringer og sørge for at banken holder seg oppdatert på KI-området.
13. Vær åpen om KI-beslutninger: Vær klar og åpen om hvilke beslutninger som er tatt ved hjelp av KI.
Referanse:
Elisabeth Austad Asser: Alt på stell. En studie i
hvordan bruk av kunstig intelligens kan hemme eller fremme Sparebanken Sør sine
verdier. Doktorgradsavhandling ved Universitetet i Agder, 2023. Sammendrag.
