AI i organisationers IT-säkerhetsarbete : Ett socio-tekniskt ramverk för analys av risker och möjligheter

Sammanfattning

Denna studie undersöker hur användningen av artificiell intelligens (AI) i organisationers IT-säkerhetsarbete kan förstås ur ett risk- och möjlighetsperspektiv. Bakgrunden är att AI i allthögre grad används för exempelvis hotidentifiering, intrångsdetektion, analys av storadatamängder och incidentrespons. Samtidigt visar tidigare forskning att AI-baseradesäkerhetslösningar kan medföra nya risker, bland annat kopplade till datakvalitet, bristandeförklarbarhet, motståndarattacker, mänsklig tillit och organisatorisk styrning. Syftet med studien är att analysera hur integrering av AI i organisationers IT-säkerhetsarbetekan förstås ur ett risk- och möjlighetsperspektiv, samt att utveckla ett analytiskt ramverk föratt strukturera dessa risker och möjligheter. Studien genomfördes som en litteraturstudie därtidigare forskning och relevanta ramverk inom AI, IT-säkerhet och samspelet emellan demanalyserades genom kvalitativ innehållsanalys. Resultatet visar att AI kan bidra till snabbare analys, förbättrad hotidentifiering,automatiserad respons och stöd till säkerhetsanalytiker. Samtidigt begränsas teknikenspraktiska värde av faktorer som bristande datakvalitet, låg tolkningsbarhet, svaggeneraliserbarhet, hallucinationer, integrationsproblem och motståndarattacker. Studien visaräven att mänskliga faktorer, såsom tillit, arbetsbelastning och automatiseringsbias, samtorganisatoriska faktorer, såsom ansvarsfördelning, kompetens, regelefterlevnad ochuppföljning, är avgörande för hur AI kan användas i praktiken. Studiens slutsats är att AI inte bör förstås som en fristående teknisk lösning, utan som ettsociotekniskt system där teknik, människor och organisation samspelar. Det analytiskaramverket bidrar genom att strukturera risker och möjligheter med AI i IT-säkerhetsarbeteutifrån tekniska, mänskliga och styrningsrelaterade dimensioner.