Den sociotekniska balanseringen mellan mänsklig handlingsförmåga och beroendet av AI-baserade beslutsstödsverktyg

Sammanfattning

Denna kvalitativa studie undersöker den sociotekniska balanseringen mellan mänsklig handlingsförmåga och beroendet av AI-baserade beslutsstödsverktyg (IDSS). Syftet är att förstå hur deltagarna upplever tillit, beroende och samarbete med AI-tekniken i sitt dagliga arbete samt hur det kan leda till värdesamskapande respektive värdesamförstörande processer i ett IT-beroende arbetssystem. Genom en kvalitativ forskningsstrategi genomfördes sex semistrukturerade djupintervjuer med respondenter som använder AI-verktyg som beslutsstöd. Materialet analyserades tematiskt utifrån ett deduktivt konceptuellt ramverk baserat på arbetssystemsteorin och det sociotekniska perspektivet. Studien utgick från två forskningsfrågor; (1) “Hur upplever och balanserar deltagare sitt beroende och tillit till AI-baserade beslutsstödverktyg från sina egna arbetserfarenheter?” Resultatet indikerar att respondenterna i denna studie uttrycker en upplevelse av ett växande beroende till AI-baserade beslutsstödtekniker samtidigt som den mänskliga kontrollen upprätthålls genom kritiskt tänkande och granskning av AI-verktygs genererade resultat. Det upplevda växande beroendet har byggts upp genom att tekniken betraktas som en teknisk kollega snarare än ett passivt verktyg. Tilliten byggs upp genom en rutinbaserad process där människan medvetet behåller det slutgiltiga ansvaret genom ett kritiskt tänkande och kontinuerlig granskning av AI-beslutsstödstekniken. (2) “Hur bidrar samspelet mellan deltagare och AI-baserade beslutsstödsverktyg till värdesamskapande respektive värdesamförstörande i IT-beroende arbetssystem?” Resultatet i denna studie belyser att AI-tekniken kan både bidra till värdesamskapande (VCC) respektive värdesamförstörande (VCD). Värdesamskapande skapas genom tidseffektivisering samt en kognitiv avlastning mellan aktörer och användningen av tekniken. Medan värdesamförstörande uppstår genom ökat beroende, minskat självständigt tänkande och potentiell avhumanisering inom arbetsprocesser mellan aktörer och användningen av tekniken. En central upptäckt är respondenternas arbetserfarenhet belyser en effektivitetsparadox, där de tidsvinster AI-tekniken medför, i form av snabbhet (efficiency) och vad som ska göras (effectiveness), till deltagaren absorberas av marknadens ökade krav på detaljnivå, vilket kan skapa en ständig press på arbetssystemets alignment (passform/samspel). Studien tyder på att AI-tekniken främst fungerar som en förstärkning av mänsklig intelligens snarare än en ersättning enligt respondenterna, där det identifierades induktiva fynd som öppen företagskultur, utbildning, kritiskt tänkande och att AI-tekniken ses som en teknisk kollega, utgör förutsättningarna för att upprätthålla en socioteknisk balans. Genom att integrera dessa induktiva fynd i arbetssystemet kan organisationer främja värdesamskapande och säkerställa att människan behåller det slutgiltiga ansvaret och kontrollen över komplexa beslutsprocesser.