Tillförlitlighet i AI-genererade beslutsunderlag: En kvalitativ undersökning av användarperspektiv

Sammanfattning

Svenska verksamheter styrs allt oftare med stöd av artificiell intelligens. AI-system erbjuder möjligheter att analysera stora datamängder, identifiera mönster och leverera snabba rekommendationer, vilket kan effektivisera framtagning av beslutsunderlag i privat och offentlig sektor. Samtidigt väcker detta utvecklingsspår frågor kring hur tillförlitliga dessa system är. Forskning belyser att tillförlitlighet inte enbart är en teknisk egenskap, utan ett relationellt begrepp som formas i samspelet mellan teknik, användare och organisatorisk kontext. Trots detta har tidigare studier i högre grad fokuserat på den tekniska kapaciteten hos AI för generering av beslutsunderlag, snarare än på hur dessa upplevs och tolkas i praktiken. Uppsatsen syftar till att fördjupa förståelsen för synen på tillförlitlighet i praktiken, genom att undersöka användarnas perspektiv på AI-genererade beslutsunderlag i verksamhetsstyrning. Den centrala forskningsfrågan lyder: Hur ser användare på tillförlitligheten i AI-genererade beslutsunderlag för verksamhetsstyrning? Studien bygger på en kvalitativ fallstudiebaserad strategi, där fem beslutsfattare från olika organisatoriska sammanhang intervjuades genom semistrukturerade intervjuer. Intervjuerna analyserades med hjälp av kvalitativ innehållsanalys, vilket möjliggjorde en induktiv tematisering av hur tillförlitlighet ses på och uttrycks praktiken. Resultaten visar att användarnas syn på tillförlitlighet varierar, men att tre aspekter var särskilt framträdande: (i) AI:s tekniska kapacitet, (ii) samspelet mellan människa och AI samt (iii) vikten av tydliga riktlinjer och ansvarsstrukturer. Slutsatsen är att tillförlitlighet i AI-baserade beslutsunderlag uppstår genom ett dynamiskt samspel mellan teknisk funktion, mänsklig kompetens och organisatoriska strukturer. För att systemen ska uppfattas som tillförlitliga krävs inte bara teknisk robusthet, utan även mänsklig granskning, användarstöd, transparens och tydliga ansvarsramar. Studien bidrar med kontextuella insikter som kan stödja användarcentrerad och etiskt informerad implementering av AI-genererade beslutsstöd i verksamheter.