Generativ-AI inom systemutveckling : Riktlinjer för säker användninginom offentlig sektor

Sammanfattning

Artificiell intelligens (AI) i form av generativa AI-verktyg har blivit mer lättillgängligt och börjar successivt integreras mer i systemutvecklingsprocessen för att effektivisera arbetet genom att stödja utvecklarna. Denna användning som stöd inom systemutvecklingsprocessen medför flera risker som systemutvecklare behöver vara medvetna om i sitt utvecklingsarbete. Dessa risker kan orsaka problem som kompromissar en organisations informationssäkerhet. Myndigheter är särskilt utsatta för detta eftersom de är samhällskritiska och hanterar känslig data. Studien syftar till att identifiera vilka risker som utvecklare upplever med användning av generativ AI inom systemutveckling, samt hur dessa risker kan hanteras för att säkerställa en säker användning. Målet var att utforma riktlinjer för hur systemutvecklare kan arbeta säkert med hjälp av AI som stöd i sitt utvecklingsarbete i framtiden. I studien användes en kvalitativ fallstudie som undersökningsdesign och studien genomfördes på en svensk myndighet där personer som arbetar med systemutveckling och innovationsutveckling intervjuades. I studien identifierades fem kategorier av risker vilka är: AI-genererad kod, kunskapsförlust, övertro på AI, otillgängligt verktyg samt användning av molntjänster. Studien identiferade totalt sex kategorier att hantera risker på vilka är: datadelning, granska output, säkerhetskontrolller, kompetensutveckling, riskmedvetenhet samt att helhetsförståelse.