Deepfake Voice Implementation for Scams : Information Security Risks with Deepfake Technology

Sammanfattning

Deepfake teknologi kan användas för att skapa filmer, bilder och ljudinspelningar med hjälp utav artificiell intelligens. Media som skapas med deepfake teknologi är manipulerat material men framstår som realistiskt. Det kan vara svårt att skilja på vad som är autentiskt och vad som är en deepfake. Denna teknologi kan användas för bra och kreativa ändamål om den används under etiskt korrekta förhållanden. Riskerna som följer med användningen av deepfake är dock många och farliga och har betydande inverkan på informationssäkerheten. Deepfakes kan användas för att sprida desinformation som skapar en polarisering i samhället. Dessutom kan deepfakes användas för att bedraga individer, företag och organisationer på värdesaker som pengar eller information. Genom att identifiera sårbarheter och öka medvetenheten om sina egna möjligheter att förhindra en eventuell deepfake attack, minskar risken eftersom det också lyfter fram relevansen av detta ämne. I den här avhandlingen undersöks medvetenheten om deepfake teknologi bland gemene man samt förmågan att upptäcka deepfakes. Med hjälp av en undersökning som inkluderar ljud som genererats av deepfake, har insikt om förekomsten av deepfake teknologi samt gemene mans förmåga att identifera röster som genererats av deepfakes analyserat. Resultaten från undersökningen analyserades för att se hur benägen den genomsnittlige medborgaren är att falla för deepfakes. Undersökningen tyder på att människor inte kan förlita sig på sin egen förmåga att upptäcka deepfake implementationer och att detta är likgiltigt för kön eller innehavande förkunskaper. Detta innebär att människor utan vidtagande åtgärder löper större risk för att falla offer för deepfake-teknologi. Detta understryker vikten av nödvändiga försiktighetsåtgärder mot deepfake teknologi när du är online.