Tillförlitlighet och ansvar i användningen av LLM-baserade beslutsstödsystem : En sociomaterialistisk studie av systemutvecklares problemlösning

Sammanfattning

Den ökade användningen av storskaliga språkmodeller (LLM) har förändrat hur teknisk problemlösning och beslutsfattande genomförs i professionella arbetspraktiker. Tidigare forskning har främst undersökt tekniska begränsningar, tillförlitlighet, tillit och ansvar som separata fenomen, medan mindre uppmärksamhet riktats mot hur dessa konstrueras i systemutvecklares praktiska användning av LLM-baserade beslutsstödsystem. Denna studie syftar därför till att skapa en fördjupad förståelse för hur tillförlitlighet och ansvar uppfattas och konstrueras i systemutvecklares problemlösning vid användning av LLM baserade beslutsstödsystem. Studien utgår från ett sociomaterialistiskt perspektiv och genomförs som en kvalitativ fallstudie baserad på semistrukturerade intervjuer med fem systemutvecklare inom samma organisation. Empirin analyseras genom en abduktiv tematisk analys. Resultatet visar att tillförlitlighet inte uppfattas som en stabil egenskap hos systemen, utan snarare som något som formas i samspelet mellan användaren, arbetsuppgiften, kontexten och systemets utdata. Ansvar uppfattas fortfarande huvudsakligen ligga hos användaren, trots att problemlösningen sker i samspel med LLM-system. Studien bidrar därmed med en fördjupad förståelse för hur tillförlitlighet och ansvar samkonstrueras i professionell användning av LLM-baserade beslutsstödsystem.