Artificiell intelligens vid rekrytering – reflektioner ur ett likabehandlingsperspektiv
Användningen av artificiell intelligens blir allt vanligare i olika sammanhang, även i arbetslivet. Debatten angående detta tycks också fortfarande gå het. Jag beslutade också själv att ytligt behandla användningen av artificiell intelligens i rekryteringen ur ett likabehandlingsperspektiv. Till början vill jag lyfta fram att jag inte är någon expert på artificiell intelligens, men jag är särskilt intresserad av likabehandlings- och jämställdhetsaspekter som gäller den. I den här texten fokuserar jag dock närmast på likabehandlingsperspektivet.
Många känner säkert till begreppet artificiell intelligens, men det kan ändå vara nödvändigt att klargöra vad som avses med det. Artificiell intelligens eller AI är ett mycket brett begrepp, men enligt EU:s förordning om artificiell intelligens är ett AI-system ”ett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut ska genereras.”
Sammanfattningsvis innebär artificiell intelligens en dator eller datorprogram som kan utföra funktioner som anses vara intelligenta. Rekommendationsalgoritmer och taligenkänning är exempel på sådana AI-system. Generativ artificiell intelligens är en form av artificiell intelligens som utnyttjar maskin- och djupinlärning för att skapa nytt innehåll, såsom bilder, text och videor.
Varför bör artificiell intelligens och dess användning granskas ur ett likabehandlingsperspektiv?
Vi lever i en ojämlik värld som också återspeglas i artificiell intelligens. Algoritmiska system grundar sig ofta på historiska data och modeller som upprepar skadliga stereotyper och antaganden om till exempel kön, ålder, ras, sexuell läggning, samhällsklass och funktionsnedsättning. Även vid användning av generativ artificiell intelligens bör man alltid komma ihåg att dess funktion påverkas mycket av de data med vilka den har utbildats. AI är alltså inte fri från stereotyper och diskriminering.
Det finns också ganska många fallexempel och undersökningar om hur diskriminerande artificiell intelligens kan vara. Till exempel i en undersökning som genomfördes 2024 ombads artificiell intelligens bedöma meritförteckningar som i övrigt är likadana, men till en del lades till ett ledarskapspris, stipendium och en paneldiskussion förknippat med funktionsnedsättning. I undersökningen observerades att artificiell intelligens förhöll sig fördomsfullt till de meritförteckningar där funktionsnedsättning nämndes. Enligt undersökningen har de diskriminerande fördomarna sitt ursprung i AI-utbildningsdata som innehåller fördomar och attityder som härstammar från människor.
Enligt Global Witness undersökningar riktar också Facebooks annonsplattform arbetsplatsannonser könssnedvridet i flera länder. Till exempel marknadsfördes 96 procent av mekanikerplatserna till män och 79 procent av förskolelärarplatserna till kvinnor.
Rekryteraren ska förhålla sig kritisk till AI-verktygen
Vårdslös användning av artificiell intelligens kan leda till oönskade slutresultat. Enligt en internationell enkätundersökning som genomfördes 2022 hade 36 procent av företagen som deltog i undersökningen upplevt utmaningar eller direkta konsekvenser för affärsverksamheten på grund av snedvridningar i artificiell intelligens. Exempel på sådana konsekvenser är förlorade inkomster, kunder och arbetstagare samt rättegångskostnader och ryktesskada.
Vid användning av artificiell intelligens ska man alltså vara särskilt försiktig och kritisk i synnerhet om den används i beslut eller processer som påverkar människors liv och utkomst. Ett bra exempel på detta är rekrytering. EU:s förordning om artificiell intelligens som trädde i kraft 2024 definierar i sin riskklassificering på fyra nivåer AI-rekryteringssystem som system med hög risk. AI-system med hög risk omfattas av vissa skyldigheter innan de kan släppas ut på marknaden, till exempel tillräckliga riskbedömnings- och riskminskningssystem samt hög kvalitet på det datamaterial som matas in i systemet för att minimera risken för diskriminerande resultat.
Man kan konstatera att lyckligtvis har bestämmelser införts, men det vore önskvärt att de också utvecklas kontinuerligt. I en publikation från delegationen för jämställdhetsärenden (2025) lyfter man fram att det finns skäl att ännu fundera på till exempel hur olika former av multipel och intersektionell diskriminering kan beaktas inom ramen för den nuvarande regleringen samt hur man utöver förebyggandet av risker kan integrera främjandet av jämställdhet och likabehandling i AI-applikationerna.
Förmodligen använder allt fler arbetsgivare artificiell intelligens i något skede av rekryteringsprocessen. Enligt åtminstone internationella enkäter har användningen av artificiell intelligens i rekryteringen ökat betydligt. Enligt Duunitoris artikel (Koivunen 2025) finns det i Finland inte tillgång till information om användningen av artificiell intelligens vid rekrytering, men användningen av AI fokuserar på kommunikation och riktad reklam vid rekrytering av sakkunniga. I artikeln betonas också att användningen beror på rekryteringssättet, till exempel används artificiell intelligens i stor utsträckning för att bedöma arbetsansökningar i företag inom personalbranschen som behandlar stora ansökningsmassor. LinkedIn inför också ständigt nya AI-egenskaper som påverkar rekryteringen.
Utbildningen av rekryterare är viktigt för att främja likabehandling vid anställning
Användningen av artificiell intelligens kan leda till diskriminerande slutresultat, men så kan också beslut som fattas av en människa. Därför ska anställda och i synnerhet rekryterare utbildas i likabehandlingsfrågor. Diskrimineringslagen förutsätter också att arbetsgivaren främjar likabehandling.
Enligt diskrimineringslagen ska arbetsgivaren med beaktande av olika diskrimineringsgrunder bedöma hur likabehandling förverkligas vid anställning samt utveckla arbetsförhållandena och de tillvägagångssätt som iakttas vid valet av personal och vid beslut som gäller personalen. Det är mycket viktigt att man i bedömningen beaktar rekryterarnas kunskaper och färdigheter i likabehandlingsfrågor.
Snedvridningar och diskriminerande attityder i våra tankesätt är ofta omedvetna och svåra att identifiera utan utbildning. Detsamma gäller användningen av artificiell intelligens vid rekrytering. Om rekryteraren inte har utbildats i artificiell intelligens eller likabehandlingsfrågor är det mycket svårt att identifiera snedvridningar i artificiell intelligens. Ibland kan också artificiell intelligens vara dold och dess inverkan identifieras inte, till exempel LinkedIns funktioner för hur platsannonser riktas. Det skulle också vara viktigt att använda yrkesmässig interaktion mellan utvecklare av artificiell intelligens, rekryteringsexperter samt likabehandlingsexperter för att man ska kunna utveckla mer icke-diskriminerande system samt främja likabehandling.
EU kräver tillräcklig AI-kunnighet för dem som arbetar med artificiell intelligens
För att återgå till EU:s förordning om artificiell intelligens har man från och med februari 2025 förutsatt att leverantörer och tillhandahållare av AI-system säkerställer att personalen och andra personer som hanterar AI-system för deras räkning har tillräcklig AI-kunnighet. Människors tekniska kunskaper, erfarenhet, utbildning och kontext där man har för avsikt att använda AI-system ska beaktas. Detta gäller naturligtvis också rekryteringen. EU:s förordning förutsätter alltså i praktiken att arbetsgivaren säkerställer att arbetstagarna har tillräcklig AI-kunnighet. Flera krav kommer att införas 2026, av vilka bland annat ett är att arbetsgivaren inte får fatta det slutliga rekryteringsbeslutet utan övervakning av en människa.
Slutligen är det bra att komma ihåg att artificiell intelligens i sig inte är bra eller dålig – konsekvenserna beror i hög grad på för vilket ändamål den används och hurdana utbildningsdata den grundar sig på. I synnerhet i fråga om generativ artificiell intelligens har även användaren en betydande roll i hurdana instruktioner man ger systemet. Med tanke på rekryteringen är det viktigt att arbetsgivarna följer upp och iakttar bestämmelserna om artificiell intelligens samt satsar på att bedöma och främja likabehandling.
Referenser:
https://digital-strategy.ec.europa.eu/fi/policies/regulatory-framework-ai
Kate Glazko, Yusuf Mohammed, Ben Kosa, Venkatesh Potluri, Jennifer Mankoff (2024) Identifying and Improving Disability Bias in GPT-Based Resume Screening. https://dl.acm.org/doi/pdf/10.1145/3630106.3658933
https://digital-strategy.ec.europa.eu/fi/policies/regulatory-framework-ai
Tekoäly ja sukupuolten tasa-arvo
https://duunitori.fi/tyoelama/reilu-rekrytointi-tekoaly-eu
https://digital-strategy.ec.europa.eu/fi/policies/ai-talent-skills-and-literacy
https://www.finlex.fi/fi/lainsaadanto/2014/1325?language=swe#chp_2__sec_7__heading
