Informationsdesignens roll i skapandet av tillit till AI-baserade beslutsstöd inom kommunal hållbarhets- och samhällsplanering : En kvalitativ fallstudie om informationsdesign, transparens och tillit i AI-baserade beslutsstöd för kommunal verksamhet med DASH som empiriskt fall

Sammanfattning

Detta är en studie som undersöker hur informationsdesign och interaktionsdesign kan bidra till ökad transparens och tillit hos AI-baserade beslutsstöd inom kommunala samhällsbyggnadsprocesser, med DASH som empiriskt fall. Studien utgår från att användare av AI-verktyg behöver förstå systemets sätt att resonera, vilken data som används och hur svaren genereras för att kunna känna tillit till AI-verktyget. Studien är en kvalitativ fallstudie som genomfördes med hjälp av semistrukturerade intervjuer och think-aloud tester för att samla in data. Totalt analyserades data från fem kommunala tjänstepersoner som deltog i studien. Analysen utfördes genom en tematisk analys där återkommande teman kring transparens, tillit, kommunikation, mänsklig kontroll och visualisering identifierades.Resultatet av denna studie visar att användarnas upplevelse av transparens och tillit påverkas av flera informations-och interkationsaspekter. De faktorer som var särskilt betydelsefulla var tydliga hänvisningar till källor, förklaringar kring AI-verktygets resonemang, bekräftande kommunikation samt visuella och interaktiva funktioner. Det uttrycktes även ett behov av att kunna verifiera och kontrollera svaren från AI-verktyget, vilket indikerar att AI främst uppfattas som ett assisterande verktyg snarare än ett system som kan ersätta människan helt.Utifrån resultatet utvecklades även ett gestaltningsförslag med fokus på att tydliggöra AI-verktygets underlag, tolkning av användarens frågor och begränsningar. Studien bidrar med insikter om hur informationsdesign och interaktionsdesign kan implementeras för att skapa mer begripliga och tillförlitliga AI-baserade beslutsstöd inom offentlig sektor.