Overheid moet stoppen met algoritmes. Zij maken verschil.

Een speciale groep praat met de overheid. Deze groep heet een commissie. Zij zegt: overheid, stop met algoritmes. Algoritmes zijn programma's in de computer. Zij zoeken naar informatie over mensen. Zij vinden soms fraude. Maar algoritmes behandelen mensen vaak niet gelijk.

Dit is discriminatie. Dit is niet goed voor onze wetten. Het kan mensen veel pijn doen. Algoritmes kunnen mensen onterecht als verdacht zien. De overheid gebruikt nu veel van deze programma's. Mensen weten vaak niet dat dit gebeurt. Zij weten niet hoe algoritmes werken.

Zij weten ook niet waarom zij verdacht zijn. Er is een lijst met algoritmes. Maar deze lijst is niet helemaal goed. De overheid is niet duidelijk genoeg. Zij beschermt mensen niet goed. De commissie wil dat de overheid nu stopt. Zij moeten stoppen tot er betere regels zijn.

Die regels moeten discriminatie voorkomen. Er waren al voorbeelden. Denk aan de toeslagenaffaire. Ook bij DUO was er een probleem. DUO is een dienst van de overheid. Zij controleerde studenten op fraude. Studenten met een andere achtergrond werden meer gecontroleerd.

Dit was niet eerlijk. Dit kwam door een algoritme. Een vrouw uit de commissie zegt: veel mensen kunnen dit krijgen. Jonge mensen, oude mensen of mensen uit een wijk. Dit raakt vaak kwetsbare mensen. Algoritmes gebruiken vaak oude informatie. Deze oude informatie kan al discriminatie bevatten.

Dan maakt het algoritme de discriminatie erger. De overheid zegt dat algoritmes snel werken. Maar de commissie vindt dit niet bewezen. Als het misgaat, is de schade groot. De overheid kan fraude op andere manieren vinden. Bijvoorbeeld door willekeurig te controleren. De overheid moet eerlijk zijn over keuzes.

Zij moet laten zien dat algoritmes goed zijn. En dat zij mensen niet schaden. Informatie verzamelen kan wel goed zijn. Het kan helpen om ongelijkheid te zien. Maar mensen moeten hier zelf mee instemmen. Zij moeten ook meepraten over de regels.