Algoritmes zoeken naar bijstand-fraudeurs, welke rol speelt etnisch profileren?
"Ik weet niet waar de gemeente precies op zoekt, maar ik denk dat ik word geprofileerd op mijn buitenlandse afkomst."
Aan het woord is Miryam - niet haar echte naam. Ze krijgt een bijstandsuitkering in de gemeente Nissewaard, waar ook Spijkenisse onder valt. Die gemeente gebruikt 'slimme' algoritmes om bijstandsfraudeurs op te sporen.
Etnisch profileren doet de gemeente zeker niet, benadrukt de wethouder voor Werk en Inkomen, Igor Bal. "En die algoritmes hebben voor inwoners ook veel voordelen", stelt hij.
Vakanties
De gemeente scant jaarlijks met behulp van het Amsterdamse data-bedrijf Totta alle 2300 bijstandsontvangers. Net als andere gemeenten is Nissewaard verplicht om onderzoek te doen naar mogelijke fraude.
"We kijken daarvoor naar zaken als leeftijd, aantal kinderen en of iemand in het verleden fraude heeft gepleegd", zegt wethouder Bal.
Maar ook vakantiegedrag, in hoeverre iemand meewerkt aan zogenoemde participatietrajecten en nieuwe inschrijvingen van auto's op een adres worden meegewogen.
Als iemand een hoge risicoscore krijgt, kan er vervolgonderzoek worden ingesteld. Pas dan kan eventueel de uitkering worden stopgezet.
Op die manier analyseert de gemeente jaarlijks alle 2300 bijstandsontvangers en wist de gemeente vorig jaar "2 of 3" bijstandsfraudeurs op te sporen bij wie de uitkering werd stopgezet. Dat is maar een klein deel van de 76 opgespoorde fraudeurs. De overige fraudeurs werden bijvoorbeeld via tips van buren en anderen opgespoord.
Proxy
Critici waarschuwen voor de gevaren van het doen van onderzoek op basis van risicoprofielen. De Belastingdienst maakte het daarbij wel heel bont: burgers met een dubbele nationaliteit werden vaker gecontroleerd dan anderen.
Daarvan is in Nissewaard geen sprake. Toch kan er ook onbedoeld sprake zijn van discriminatie, zegt Marlies van Eck, aan de Radboud Universiteit gespecialiseerd in de juridische kant van algoritmes.
Ook wat je doet of niet doet, of waar je woont, kan veel zeggen over je etniciteit of je geslacht. Zo wonen er in sommige wijken meer mensen van buitenlandse afkomst: als je in die wijk woont, geeft je postcode aan dat je een grotere kans hebt om een migratie-achtergrond te hebben.
Geen adressen
De gemeente Nissewaard analyseert dan ook geen adressen, benadrukt de gemeente. "Dat is heel goed, want daarmee voorkom je veel discriminatiezorgen", zegt Van Eck. Maar niet volledig: de gemeente analyseert wel vakantiegedrag, wat bijvoorbeeld ook al iets over etniciteit kan zeggen.
"Kijk eens naar je eigen Netflix-kijkgeschiedenis. Als Netflix niet zou weten dat ik een vrouw ben, kunnen ze dat misschien wel afleiden aan mijn gedrag, aan mijn kijkgeschiedenis."
Dat kan in een uiterst geval leiden tot extra controles voor bepaalde bevolkingsgroepen. Ook ambtenaren die fraude opsporen, hebben vooroordelen, en het kan daardoor zijn dat een bepaalde bevolkingsgroep ten onrechte vaker voorkomt in de fraudestatistieken. Als die vooroordelen in een dataset terechtkomen, kunnen mensen met een bepaalde afkomst vaker boven komen drijven.
Hulpmiddel
Toch denkt Van Eck wel dat slimme algoritmes kunnen helpen. "Je moet ze zien als hulpmiddel, net het weerbericht", zegt Van Eck. "Als je het weerbericht zon voorspelt, zie je dat ook niet direct als absolute waarheid. Je kijkt ook even naar buiten om te zien of de zon echt schijnt."
Wethouder Bal benadrukt bovendien dat de fraude die door het algoritme is gevonden, anders misschien nooit aan het licht was gekomen. "Maar ook voor bijstandsontvangers heeft dit voordelen", stelt hij.
Tot het Totta-algoritme werd ingevoerd, moesten veel mensen veel vaker worden gecontroleerd. Ook Miryam moest jaarlijks met haar complete administratie langs bij de gemeente, tot het nieuwe algoritme werd ingevoerd: sindsdien maar één keer. "Als iemand geen fraudeur is, geven we dat ook mee aan het algoritme", belooft wethouder Bal.
De coalitie van organisaties die het fraude-opsporingssysteem SyRI van tafel wist te krijgen, is er desondanks niet gerust op. Ze laat weten de lokale ontwikkelingen, met name die in de gemeente Nissewaard, in de gaten te houden.
