Algoritmes moeten discriminatie in vacatureteksten opsporen
Of het bewust gebeurt of onbewust, discriminatie op de arbeidsmarkt is een hardnekkig probleem. Dat begint al bij de teksten van vacatures. Omdat een project gericht op leeftijdsdiscriminatie vorig jaar goed uitpakte, wil het ministerie van Sociale Zaken en Werkgelegenheid algoritmes nu breder inzetten en zoeken naar alle vormen van discriminatie.
Dat de teksten van vacatures nauw luisteren, weet Antske Fokkens, computerlinguïst aan de Vrije Universiteit in Amsterdam. Een verkeerde formulering kan al snel mensen uitsluiten. Zo zal iemand die na ouderschapsverlof weer in deeltijd aan de slag wil misschien niet reageren op een baan "voor naast je studie", legt ze uit.
Samen met het College voor de Rechten van de Mens, de Inspectie SZW en TextKernel, een bedrijf dat data over de arbeidsmarkt verzamelt, verwerkt en analyseert, spitte Fokkens afgelopen jaar bijna 2 miljoen vacatures door, op zoek naar teksten die mensen van een bepaalde leeftijd uitsluiten.
Bauke Visser van TextKernel noemt twee voorbeelden van vacatureteksten waarin mensen worden uitgesloten. Soms gebeurt het subtiel: "Het team bestaat uit vijftien mensen met een gemiddelde leeftijd van 31 jaar. Een perfecte omgeving om met leeftijdsgenoten een ervaren metaalbewerker te worden." Maar soms ook duidelijker: "je bent een man van maximaal 40 jaar".
Algoritme
Antske Fokkens hoefde niet zelf alles te lezen, dat deed een algoritme. "Dat betekent dat we een computer voorbeelden geven en zeggen: dit is leeftijdsdiscriminatie, en dit. Ook zeggen we waarop gelet moet worden. Op de woorden, en bijvoorbeeld waar iets in de tekst staat. Dan leert de computer zelf voorspellen of iets leeftijdsdiscriminatie is of niet." Zo werden meer dan 40.000 gevallen gevonden.
Reden voor de inspectie om meer te gaan zoeken. Door het computerprogramma bij te leren zou het ook naar bijvoorbeeld discriminatie op grond van geaardheid, afkomst of religie kunnen zoeken.
Dat is iets waar Bauke Visser van TextKernel ervaring mee heeft. Het bedrijf ontwikkelde een systeem dat dit in Frankrijk al doet. "Het is software die een vacature binnenkrijgt en dan zegt: ja of nee. Ja het is discriminerend, of nee het is dat niet".
Staand plassen
Eenvoudig is dat niet. Om een computerprogramma zelfstandig te laten speuren heeft het veel voorbeelden nodig. "Sommige soorten discriminatie komen heel weinig voor", aldus Visser.
Bovendien kun je het algoritme dat op leeftijd let, niet zomaar op andere kenmerken plakken. Daarvoor heb je ook sociale wetenschappers nodig, die weten wat voor taalpatronen voorkomen bij verschillende vormen van discriminatie, benadrukt Fokkens van de VU.
En niet alle manieren waarop mensen worden uitgesloten in een tekst, zijn er door een computer uit te vissen. Visser: "Als je alleen mannen wil hebben voor een bepaalde vacature, en je schrijft daarin: je kunt staand plassen, dan gaat ons algoritme dat waarschijnlijk niet vinden."
De nieuwe proef moet uiterlijk volgende maand gaan lopen. Daarna zal het ministerie de resultaten meenemen bij het opstellen van een nieuwe wet, waarmee discriminatie op de arbeidsmarkt moet worden aangepakt.