COA verdeelt met algoritme statushouders over het land: “In plaats van win-win verliest iedereen”

COA verdeelt met algoritme statushouders over het land: "In plaats van win-win verliest iedereen"

Hoog risico op discriminatie door algoritme waarmee COA experimenteert, waarschuwen wetenschappers en journalisten

Het Centraal Orgaan opvang asielzoekers (COA) test een algoritme dat automatisch bepaalt in welke gemeente een statushouder gaat wonen. GeoMatch belooft de vluchtelingen te koppelen aan de plaats waar zij de grootste kans op werk hebben. Onderzoekers van de Universiteit Utrecht en Follow the Money waarschuwen dat dat niet gebeurt. "In plaats van een win-winsituatie verliest iedereen", zegt promovendus Kinan Alajak. "De statushouder, de gemeente én de gemeenschap."

Ongelijkheid door algoritme GeoMatch

GeoMatch zoekt niet de beste woonplaats voor een statushouder, zeggen de onderzoekers. Het kijkt naar welke vluchteling het meest 'past' bij een plek. "Als een andere statushouder ook maar de kans heeft ergens iets meer te verdienen, wordt diegene aan die regio gekoppeld", legt Alajak uit. Hij doet aan de Universiteit Utrecht (UU) en Hogeschool Utrecht promotieonderzoek naar technologie en beleid. "Daardoor worden kansarme mensen uiteindelijk gekoppeld aan plaatsen waar hun kansen sowieso al laag zijn."

"Het algoritme vergroot de ongelijkheid tussen statushouders en die tussen gemeenten", zegt ook Koen Leurs, specialist op het gebied van migratie en digitalisering aan de UU. Alajak: "Wanneer statushouders worden gekoppeld aan gemeenten waar zij minder kans op werk hebben, raakt dat iedereen. Niet alleen de migrant, maar ook de gemeente en daarmee de hele gemeenschap."

Alajak en Leurs werkten samen met econoom Merve Burnazoglu, mediawetenschapper Gerwin van Schie (beiden UU), en onderzoeksjournalisten David Davidson en Evaline Schot. Ze analyseerden vertrouwelijke documenten van het COA, zoals rapportages en risicoanalyses rondom gegevensbescherming en kunstmatige intelligentie (AI) van onafhankelijke organisaties. Zo legden ze bloot hoe het algoritme beslissingen neemt en wat de gevolgen zijn.

Risico op discriminatie door kunstmatige intelligentie

In de documenten kwamen de onderzoekers ernstige zorgen over het systeem tegen. In een van de rapportages stond bijvoorbeeld: "Een deel van de variabelen zegt onmiskenbaar iets over de etniciteit van de betrokkenen. Dit leidt tot hoog risico op discriminatie." Toch ging de proef met GeoMatch van start.

Iemands opleiding en werkervaring tellen nauwelijks mee - of je Syrisch, Somalisch of Koerdisch bent wél.

De al vroeg geuite zorgen blijken terecht. "Het algoritme gebruikt zogenaamde 'bijzondere persoonsgegevens', zoals afkomst en nationaliteit, om vaardigheden en baankansen in te schatten", leggen Leurs en Alajak uit. "In de beslissingen van het systeem tellen iemands opleiding en werkervaring nauwelijks mee, terwijl of je Syrisch, Somalisch of Koerdisch bent wél verschil maakt."

"GeoMatch houdt ook weinig rekening met vrouwen. In een gezin kijkt het systeem vooral naar de persoon met de meeste kans op werk. Door de gekleurde data waarmee het algoritme is getraind is dat volgens GeoMatch meestal de man."

Ondoorzichtig AI-systeem

Hoe GeoMatch precies werkt weet niemand van de betrokkenen. "Statushouders weten niet waarom ze ergens worden geplaatst en werknemers van het COA krijgen geen inzicht in de afwegingen van het systeem", zeggen Alajak en Leurs. "De ruimte voor menselijke controle verdwijnt volledig. En dat terwijl de beslissingen van GeoMatch grote gevolgen hebben: ze bepalen waar iemand een nieuw leven moet opbouwen."

COA wil het algoritme toch gebruiken

Ondanks alle zorgen en kritiek wil het COA het systeem op grote schaal gebruiken. "GeoMatch koppelt straks per jaar mogelijk duizenden mensen aan gemeenten", zeggen Leurs en Alajak. De wetenschappers roepen het COA en de overheid op om te stoppen met het experimenteren met algoritmen bij kwetsbare groepen. "In ieder geval tot de systemen transparant zijn, gecontroleerd kunnen worden en totdat de rechten van mensen worden beschermd."

Meer lezen?

Kinan Alajak, Merve Burnazoglu, Koen Leurs en Gerwin van Schie publiceerden hun bevindingen in een wetenschappelijk artikel in het internationale peer-reviewed tijdschrift Social Inclusion. David Davidson en Evaline Schot schreven een artikel voor het onderzoeksjournalistieke platform Follow the Money.

Hoe is het onderzoek uitgevoerd?