När rösten inte går att lita på : En kvalitativ designstudie om hur AI-stödda varningar kan motverka vishing

Sammanfattning

Vishing är en form av digitalt bedrägeri som sker via telefonsamtal och har blivit allt mer sofistikerad genom användning av artificiell intelligens. Befintliga säkerhetslösningar bygger på att användare själva kan identifiera och hantera potentiella hot, vilket kan vara svårt i realtid när angripare utnyttjar aspekter såsom tidspress, stress och manipulation. Mot denna bakgrund undersöker denna studie hur AI-stödd varningsdesign kan utformas i telekommunikationstjänster för att motverka vishingbedrägerier. Studien genomfördes med en kvalitativ designstudie där semistrukturerade intervjuer, prototyper och observationer användes i syfte att undersöka hur användare tolkar och reagerar på olika typer av AI-stödda varningar vid telefonsamtal. Resultaten visar att AI-stödda varningar kan öka användarens uppmärksamhet på hot vid telefonsamtal och därigenom bidra till att motverka vishingbedrägerier. För att dessa varningar ska vara effektiva behöver de stödja användarens beslutsfattande, samtidigt som överbelastning undviks och tilliten till AI:s ingripanden stärks genom trovärdiga tjänsteleverantörer. Studien bidrar med designförslag för hur AI-stödda varningar kan utformas för att stärka användares riskbedömning och motverka vishingbedrägerier i telekommunikationstjänster.