High-Risk AI in Life and Health Insurance Underwriting - Balancing Underwriting with Data Protection and Non-Discrimination

Sammanfattning

Sedan framväxten av artificiell intelligens (AI) har de teknologiska framstegen snabbt ökat i både intensitet och omfattning, ofta i en takt som överstiger den hastighet med vilken regelverk kan upprätthålla de rättigheter på vilka Europeiska unionen (EU) är grundad. Försäkringsbranschen är en sektor där teknologiska framsteg inom AI är avgörande för lönsamhet. EU har försökt begränsa potentiella kränkningar av mänskliga rättigheter vid användningen av AI-system genom att införa AI-förordningen. Regelverket har delvis varit föremål för negativ kritik, särskilt från försäkringsbranschen. Uppsatsens fokus snävar in på definitionen av ”AI”, dess rättsliga beståndsdelar samt tekniska funktioner på vilka de rättsliga förutsättningarna vilar. När denna grund väl är lagd och kombineras med en undersökning av hur AI-system används inom försäkringssektorn, analyserar uppsatsen därefter bestämmelserna i AI-förordningen om högrisk-klassade AI-system. Den undersöker också hur försäkringsbolag, särskilt vid riskbedömning och prissättning av liv- och hälsoförsäkringar, lämpligen bör anpassa sin användning av sådana system utifrån dessa rättsliga ramar för att uppfylla rätten till dataskydd och rätten till icke-diskriminering. Uppsatsens slutsatser omfattar de praktiska svårigheterna att inventera det dataunderlag och de steg – både tekniska och övergripande – baserat på vilka ett AI-system grundar sina slutsatser. I kombination med systemets frekventa benägenhet till bias och diskriminering innebär dessa faktorer regleringsmässiga och rättighetsbaserade utmaningar. Med teknisk kompetens, förståelse för regelverken och anpassning till de tekniska förutsättningarna i de aktuella systemen, tillsammans med en vilja till efterlevnad och innovation, kan dessa utmaningar emellertid hanteras.