Diskrimineringsrätt i algoritmisk rekrytering : Bevisbörda, ansvar och rättssäkerhet i AI-baserade urvalsprocesser

Sammanfattning

I takt med den tekniska utvecklingen har artificiell intelligens (AI) fått en allt större roll i rekryteringssammanhang. AI-baserade system används i dag i ökande utsträckning för att sortera ansökningar, analysera kandidater och rangordna arbetssökande, ofta i ett tidigt skede av rekryteringsprocessen. Utvecklingen motiveras ofta av effektivitet och objektivitet, men väcker samtidigt frågor om insyn och rättssäkerhet. Användningen av AI i rekrytering aktualiserar särskilt diskrimineringsrättsliga problem. Svensk diskrimineringsrätt bygger på att diskriminerande beslut ska kunna identifieras och prövas i efterhand, bland annat genom bevisbörderegeln i diskrimineringslagen. Även i traditionella rekryteringsprocesser kan sådana prövningar vara förenade med betydande svårigheter. När rekryteringsbeslut fattas genom algoritmiska processer som är komplexa och i praktiken svåra att överblicka eller rekonstruera kan dessa svårigheter emellertid förstärkas och anta nya former, särskilt i fråga om möjligheten att klarlägga vilka omständigheter som har varit avgörande för urvalet. Detta kan försvåra den rättsliga prövningen, både genom att den arbetssökande saknar förutsättningar att göra diskriminering sannolik och genom att arbetsgivaren kan ha begränsade möjligheter att redogöra för beslutsgrunderna. I uppsatsen analyseras hur svensk diskrimineringsrätt fungerar i rekryteringsprocesser där beslut fattas genom eller med stöd av AI-baserade system. Analysen visar att diskrimineringslagen formellt är tillämplig även vid AI-baserad rekrytering, men att dess processuella utformning är bristfälligt anpassad till algoritmiskt beslutsfattande. AI-förordningen förbättrar förutsättningarna för teknisk transparens, men löser inte de centrala diskrimineringsrättsliga problemen. Sammantaget riskerar diskrimineringsskyddet att bli formellt intakt men funktionellt otillräckligt i en arbetsmarknad där allt fler rekryteringsbeslut fattas med stöd av AI.