När beslutsfattande möter AI : En kvalitativ studie om hur individer i ledande AI-roller utformar och använder styrningsmekanismer i organisationer

Sammanfattning

Denna studie undersöker hur individer i ledande roller i stora organisationer utformar och använder styrningsmekanismer i arbetet med artificiell intelligens (AI). Bakgrunden till studien är den ökande användningen av AI i organisationer, där tekniken i allt högre grad används som stöd för analys, planering och beslutsfattande. Detta har förändrat förutsättningarna för ansvar, kontroll och uppföljning, samtidigt som AI-systemens komplexitet och begränsade transparens skapar nya utmaningar. Trots att det finns etablerade teoretiska ramverk för AI-styrning saknas empirisk kunskap om hur dessa tillämpas i praktiken, särskilt av ledare. Studiens syfte är att undersöka hur individer i ledande roller utformar, anpassar och tillämpar styrningsmekanismer i AI-relaterat arbete. För att besvara detta har en kvalitativ metod använts, där åtta semistrukturerade intervjuer genomförts med personer i ledande AI-relaterade roller inom både offentlig och privat sektor. Det insamlade materialet har analyserats utifrån ett teoretiskt ramverk som inkluderar ett sociotekniskt perspektiv, sensemaking samt teorier om AI-styrning. Resultaten visar att styrning av AI i organisationer sker genom en kombination av strukturella, processuella och relationella mekanismer. Strukturella mekanismer, såsom policyer och riktlinjer, skapar ramar för hur AI får användas. Processuella mekanismer omfattar exempelvis granskning, uppföljning och kvalitetssäkring av AI-system. Relationella mekanismer, som kommunikation och samarbete mellan olika funktioner, visar sig vara avgörande för att AI ska fungera effektivt i praktiken. Studien visar även att AI förändrar beslutsfattandet genom att bli en aktiv del av processen, vilket påverkar både ansvarsfördelning och graden av kontroll. Särskilt AI:s autonomi och begränsade transparens skapar utmaningar för ledare, då det kan vara svårt att förstå hur beslut genereras. Tillit och förståelse för AI framträder som centrala faktorer som påverkar hur systemen används och hur mycket beslutsmakt som delegeras till tekniken. Slutsatsen är att ett fungerande AI-stött beslutsfattande kräver en balans mellan mänskligt omdöme och AI:s rekommendationer. Styrning av AI bör därför ses som en dynamisk praktik där formella strukturer kombineras med sociala och organisatoriska processer för att hantera ansvar, kontroll och teknisk autonomi i en allt mer AI-driven kontext.