Topline
Hulpmiddelen voor het werven van banen die beweren kunstmatige intelligentie te gebruiken om gender- en raciale vooroordelen te voorkomen, verbeteren mogelijk de diversiteit bij het aannemen niet, en zouden die vooroordelen zelfs kunnen bestendigen, betoogden onderzoekers van de Universiteit van Cambridge zondag, die de programma's castten - die in het verleden kritiek hebben gekregen - als een manier om technologie te gebruiken om een snelle oplossing te bieden voor een dieperliggend probleem.
Het AI-aangedreven gezichtsherkenningssysteem van Google Vision wordt getoond.
Getty Images
Belangrijkste feiten
In een paper gepubliceerd door Filosofie en technologie, hebben onderzoekers gekeken naar claims van verschillende bedrijven die AI-aangedreven wervingstools aanbieden, waarvan vele beweren vooroordelen te elimineren en diversiteit te bevorderen door de namen, geslachten en andere identificatiegegevens van kandidaten te verbergen, en waarvan sommige rangschikken kandidaten op basis van cv-scans, online beoordelingen en analyse van spraak en gezichtsuitdrukkingen van sollicitanten.
De onderzoekers - twee professoren aan het Centre for Gender Studies van de Universiteit van Cambridge - voerden aan dat deze tools de uniformiteit bij het aannemen van personeel kunnen bevorderen, omdat ze culturele vooroordelen reproduceren van de 'ideale kandidaat', die van oudsher blanke of Europese mannen waren.
De tools verbeteren mogelijk ook de diversiteit niet omdat ze gebaseerd zijn op bedrijfsgegevens uit het verleden en dus kandidaten kunnen promoten die het meest lijken op huidige werknemers.
Er is "weinig verantwoordelijkheid voor hoe deze producten worden gebouwd of getest", zei Eleanor Drage, een co-auteur van het onderzoek en onderzoeker bij het University of Cambridge Centre for Gender Studies, in een verklaring, eraan toevoegend dat de technologie zou kunnen dienen als een "gevaarlijk" bron van "verkeerde informatie over hoe rekrutering kan worden 'bevooroordeeld' en eerlijker gemaakt."
Cruciaal citaat
“Door te beweren dat racisme, seksisme en andere vormen van discriminatie met behulp van kunstmatige intelligentie uit het wervingsproces kunnen worden verwijderd, reduceren deze bedrijven ras en geslacht tot onbeduidende datapunten, in plaats van machtssystemen die bepalen hoe we ons door de wereld bewegen, ', zegt Drage in een verklaring.
Tangens
Amazon kondigde in 2018 aan dat het zou stoppen het gebruik van een AI-wervingstool om de cv's van sollicitanten te beoordelen nadat bleek dat het systeem vrouwen sterk discrimineerde. Dit komt omdat de computermodellen waarop het vertrouwde, zijn ontwikkeld op basis van cv's die de afgelopen 10 jaar bij het bedrijf zijn ingediend, voornamelijk afkomstig van mannelijke sollicitanten.
Belangrijke achtergrond
Organisaties maken steeds vaker gebruik van AI om wervingsprocessen voor banen te helpen beheren. In een 2020 poll van de meer dan 300 HR-leiders geciteerd door de auteurs van de krant van zondag, ontdekte het adviesbureau Gartner dat 86% van de werkgevers virtuele technologie gebruikt bij hun wervingspraktijken, een trend die is versneld sinds de Covid-19-pandemie velen ertoe dwong om online te werken. Hoewel sommige bedrijven hebben beweerd dat AI een meer kosten- en tijdbesparend wervingsproces kan bieden, deskundigen hebben gevonden de systemen hebben de neiging om raciale en gendervooroordelen te promoten - in plaats van te elimineren - door bestaande vooroordelen uit de echte wereld te repliceren. Verschillende Amerikaanse wetgevers hebben Gericht om vooroordelen in kunstmatige-intelligentiesystemen aan te pakken, aangezien de technologie snel blijft evolueren en er weinig wetten bestaan om deze te reguleren. Het Witte Huis deze week vrijgegeven een "Blauwdruk voor een AI Bill of Rights", waarin wordt beweerd dat algoritmen die bij het aannemen van personeel worden gebruikt, "bestaande ongewenste ongelijkheden weerspiegelen en reproduceren" of nieuwe "vooroordelen en discriminatie incorporeren". De blauwdruk, die niet juridisch bindend is of een officieel overheidsbeleid is, roept bedrijven op ervoor te zorgen dat AI de gegevensprivacy niet discrimineert of schendt, en om gebruikers bewust te maken van wanneer de technologie wordt gebruikt.
Waarop moet ik letten?
In een lijst met aanbevelingen, de auteurs van Sunday's Filosofie en technologie paper suggereerde dat bedrijven die AI-technologieën ontwikkelen zich richten op bredere, systematische ongelijkheden in plaats van "individuele gevallen van vooringenomenheid". Ze stellen bijvoorbeeld voor dat softwareontwikkelaars de categorieën onderzoeken die worden gebruikt om kandidaten te sorteren, verwerken en categoriseren en hoe deze categorieën discriminatie kunnen bevorderen door te vertrouwen op bepaalde aannames over geslacht en ras. Onderzoekers beweren ook dat HR-professionals moeten proberen te begrijpen hoe AI-wervingstools werken en wat enkele van hun mogelijke beperkingen zijn.
Verrassend feit
De Europese Unie heeft AI-aangedreven wervingssoftware en prestatie-evaluatietools geclassificeerd als "hoog risico" in haar nieuwe draft wettelijk kader inzake AI, wat inhoudt dat de instrumenten aan meer controle zouden worden onderworpen en aan bepaalde nalevingsvereisten zouden moeten voldoen.
Verder lezen
DC wil het voortouw nemen in de strijd tegen AI-bias (Axios)
Bron: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/