Förklarbarhet i hälso- och sjukvård : En användarcentrerad studie av kontextuellt meningsfull och användbar förklarbarhet inom AI-baserat kliniskt beslutsstöd

Sammanfattning

Den här studiens syfte är att undersöka om ett AI-CDS-verktygs arbetsprocess och resultat kan förklaras på ett sätt som är relevant för användaren i dennes kontext. Studien inriktar sig mot den empiriska förståelsen av användares upplevelse i en klinisk vardag. I syfte att undersöka detta genomfördes studien med hjälp av ett utvalt företags AI-CDS-verktyg och de vårdgivare som använder detta verktyg i svensk primärvård och finsk företagsvård. AI-CDS-verktyget används för att automatiskt ta upp patientens sjukdomshistoria, ger en prioritet på vårdbehovet och en lista med diagnosförslag. Med syfte att undersöka vårdpersonalens användning, uppfattning och behov av förklaringar av AI-CDS-verktygets resultat, valdes en kvalitativ forskningsansats. Semistrukturerade intervjuer valdes som den primära metoden för datainsamling och intervjufrågorna utformades med stöd av det teoretiska ramverket Unified Theory of Acceptance and Use of Technology (UTAUT). Ramverket anpassades för att bättre ringa in vårdpersonalens kontext och deras individuella behov och ställa mer relevanta frågor. Resultatet från intervjuerna analyserades därefter tematiskt och det visade sig att behovet av förklaringar av verktygets diagnosförslag främst handlar om begränsningar i mänsklig kommunikation. Därför kan vårdpersonalens arbetsflöde förbättras om de får veta vilka delar av den ingående informationen från patienten som verktyget använt i sin analys. Det skulle i första hand förbättra vårdpersonalens arbetsflöde och minska deras kognitiva belastning, men också förbättra tilliten till verktyget. En annan slutsats är att förklaringar i företagets verktyg inte behöver vara tekniska eftersom deras effektivitet verkar vara lika mycket kopplad till individens beslutsfattande och olika behov av förklaringar i varje enskilt patientfall.