Algorithm appreciation i organisationer - Hur beslutsstödets källa i form av AI eller människa, samt beslutsstödets korrekthet, påverkar följsamhet och beslutssäkerhet

Sammanfattning

Algorithm appreciation beskriver tendensen att föredra rekommendationer från algoritmer framför rekommendationer från människor. I och med den ökande användningen av AI som en del av arbetsprocesser inom organisationer blir det relevant att förstå hur AI-baserade beslutsstöd påverkar beslutsfattande i relation till beslutsstöd från människor. Studien syftar till att undersöka detta fenomen i en organisatorisk kontext med två mått, följsamhet och beslutssäkerhet. Detta görs med bakgrund i teorier om tillit till automatiserade system samt hur människan bearbetar information. Studien genomfördes som en mixad design med mellangruppsvariabeln källa och inomgruppsvariabeln korrekthet. Detta genomfördes med hjälp av en vinjettbaserad enkät, där 116 medarbetare inom en organisation, med hjälp av ett beslutsstöd, fick ta ställning till hur en fiktiv kollega borde agera samt hur säkra de kände sig på sitt svar. Resultatet visade att deltagarna uppvisade högre följsamhet för AI-baserade beslutsstöd än mänskliga, samt högre följsamhet för korrekta än felaktiga beslutsstöd. Dessa verkade inte påverka varandra. Däremot samverkade källa och korrekthet för beslutssäkerhet, där korrekta AI-beslutsstöd genererade högst beslutssäkerhet. Korrekthet hade även en enskild påverkan på beslutssäkerheten, till skillnad från källa som inte påverkade beslutssäkerheten. Resultaten indikerar att AI-system har ett betydande inflytande över beslutsfattande i arbetslivet, särskilt eftersom följsamheten kvarstår även vid felaktiga rekommendationer. Studien bidrar därmed till en fördjupad förståelse för samspelet mellan AI, tillit och mänskligt beslutsfattande i arbetslivet.