De overheid moet stoppen met slimme computerprogramma's.

Een groep experts geeft de overheid advies. Deze groep heet staatscommissie. Ze zeggen: de overheid moet stoppen met speciale computerprogramma's. Deze programma's heten algoritmes. De algoritmes zoeken naar fraude. Maar ze zorgen vaak voor discriminatie. Discriminatie betekent dat je mensen ongelijk behandelt.

Dit mag niet gebeuren. De overheid gebruikt steeds meer van deze programma's. Ze zoeken vooral fraude bij mensen. Maar dit botst met de regels van ons land. Het kan mensen ook veel pijn doen. Deze programma's kunnen mensen onterecht als risico zien. Mensen weten vaak niet dat dit gebeurt.

Ze weten niet welke regels de computer gebruikt. Een voorbeeld is de toeslagenaffaire. Ook DUO heeft dit gedaan. DUO controleerde studenten op fraude. Ongeveer 10.000 studenten werden gecontroleerd. Studenten met een andere afkomst werden vaker gekozen. Dit was niet eerlijk.

De voorzitter van de groep is Joyce Sylvester. Zij zegt: veel groepen kunnen hier last van hebben. Jongeren, ouderen of mensen uit bepaalde wijken. Vooral mensen die kwetsbaar zijn. De programma's zijn vaak gebaseerd op oude informatie. Als oude informatie discrimineerde, doet het programma dit ook. Het maakt het probleem dan nog groter.

De overheid zegt dat het slim is. Het zou beter zijn om fraude te vinden. Maar de groep experts ziet geen goed bewijs. Het kan veel problemen geven als het fout gaat. Er is een register voor algoritmes. Dit register laat zien hoe de overheid programma's gebruikt. Maar dit register is niet goed genoeg.

De overheid is niet open en eerlijk. De groep zegt: stop nu met deze programma's. Stop tot er goede afspraken zijn. Afspraken die discriminatie stoppen. De overheid kan ook andere manieren gebruiken. Zomaar wat mensen controleren, bijvoorbeeld. De overheid moet laten zien waarom ze iets doen.

En dat het geen schade doet. Gegevens verzamelen kan wel helpen. Maar mensen moeten het dan goed vinden. En ze moeten mee kunnen denken.