Transparensens betydelse för tillit till AI-baserade beslutsstöd i banker : En kvalitativ studie av bankanställdas perspektiv

Sammanfattning

Den ökade användningen av artificiell intelligens (AI) som beslutsstöd inom banksektorn har medfört nya möjligheter till effektivisering och datadrivet beslutfattande. Samtidigt har utvecklingen aktualiserat frågor om transparens, ansvar och tillit kopplat till AI som beslutsstöd. Eftersom banker verkar i en reglerad miljö där förtroende utgör en grundläggande förutsättning för verksamheten, blir det centralt att förstå hur bankanställda upplever och förhåller sig till AI-baserade beslutsstöd i sitt dagliga arbete. Mot denna bakgrund är syftet med studien att undersöka hur transparens i AI-baserade beslutsstöd påverkar bankanställdas upplevelse av tillit i beslutsfattande. Studien genomförs med en kvalitativ forskningsansats och bygger på semistrukturerade djupintervjuer med bankanställda som använder eller har erfarenhet av AI som stöd i beslutsprocesser. Datamaterialet analyseras genom tematisk analys med deduktiv och induktiv utgångspunkt. Analysen tar sin utgångspunkt i socioteknisk systemteori, arbetssystemteori samt etablerade teorier om tillit och transparens, men även teman som framkommer under empirin. Resultaten visar att tillit till AI-baserade beslutsstöd inte enbart kan förstås utifrån teknikens prestanda, utan formas i ett sociotekniskt samspel mellan tekniska system, mänskliga aktörer och organisatoriska strukturer. Transparens framträder som en central förutsättning för tillit, men tar sig olika uttryck genom (1) insyn i AI:s beslutslogik, (2) förståelse som byggs genom interaktion och (3) organisatorisk tydlighet kring ansvar och användning. Studien visar även att tilliten både är situationsbunden och till viss del erfarenhetsbaserad, samt att mänskligt ansvar och professionellt omdöme utgör en tydlig gräns för hur långt tilliten till AI kan sträcka sig i praktiken.