Kan vi lita på AI utan transparens? : En kvalitativ studie om transparensens roll för tillit i AI-chattgränsnitt

Sammanfattning

Denna studie undersöker transparens inom AI med fokus på hur UX/UI-design påverkar unga vuxnas (18–35 år) upplevelse av transparens och tillit i AI-baserade chattjänster. Studien behandlar hur transparens kan visualiseras i användargränssnitt genom en jämförelse av en prototyp bestående av två olika versioner. Denna prototyp är baserad på ett chattgränssnitt: ett icke-transparent gränssnitt som representerar en mer traditionell utformning samt ett gränssnitt med ett utvecklat transparenssystem. Transparenssystemet inkluderar funktioner såsom färgkodade transparensnivåer, källhänvisningar, anpassat språk, informationsrutor och realtidsbaserad återkoppling. Syftet är att undersöka hur ett sådant transparenssystem påverkar unga vuxnas tillit till AI-chattjänster. För att besvara studiens frågeställning användes en kvalitativ metod i form av semistrukturerade intervjuer i kombination med en prototyp som diskussionsunderlag. Intervjuerna baserades på ett medicinskt scenario, vilket är ett område med höga krav på tillförlitlighet och transparens. Detta gör scenariot särskilt lämpligt för att undersöka hur olika nivåer av transparens i användargränssnittet påverkar användarens tillit till AI-chattjänsten som informationskälla. Resultaten visar att transparensfunktioner, särskilt källhänvisningar och tydliga signaler om hög säkerhet, bidrar till ökad tillit till AI-chattjänsten. Samtidigt framkommer det att användare ofta har ett kvarstående behov av att verifiera information, särskilt inom känsliga områden. Vidare visar resultaten att en otydlig eller mellanliggande nivå av transparens, med flera osäkerhetsmarkeringar, kan minska tilliten och leda till att användare avfärdar systemet. Även om transparens och ärlighet uppfattas som positiva egenskaper, kan de påverka användarupplevelsen negativt om de inte utformas på ett tydligt och konsekvent sätt.