Algemeen
De politie voorspelt met algoritme wie geweld zal plegen: kans Marokkaanse en Antilliaanse Nederlanders groter geschat
Personen belanden op risicolijst
De politie voorspelt al sinds 2015 met een algoritme wie er in de toekomst geweld zal plegen. Bij Marokkaanse en Antilliaanse Nederlanders werd de kans op geweldpleging groter geschat vanwege hun achtergrond. Dat schrijven de speurneuzen van Follow the Money.
Geen controle
Het algoritme, het zogeheten Risicotaxatie Instrument Geweld (RTI-G), woog gedurende enkele jaren etnische achtergrond mee in de voorspellingen. De politie beweert dat dit nu niet meer gebeurt.
Volgens FTM zijn de statistische kwaliteit en etnische juistheid van het risicomodel twijfelachtig, bijvoorbeeld omdat de effectiviteit van het algoritme niet wordt gecontroleerd op ongewenste neveneffecten. Bepaalde wijken of etnische afkomsten kunnen bijvoorbeeld onevenredig vaak voorkomen onder de hoogste scores.
Personen die een hoge risicoclassificatie krijgen belanden op lijsten met potentieel risicovolle personen. Die mensen komen dan ook in aanmerking voor een persoonsgerichte aanpak, schrijft het onderzoeksplatform. Dat kan bestaan uit repressieve en preventieve maatregelen die moeten voorkomen dat iemand de fout in gaat. Omdat de gevolgen voor als risico geclassificeerde mensen groot kunnen zijn, is het van belang dat er goeie controle is op het algoritme, stelt Follow the Money.
Het onderzoeksplatform wist de hand te leggen op een intern document over de onderbouwing van het risicomodel. Uit het document bleek welke risicofactoren het model hanteert en hoe zwaar die worden meegewogen in de score.
Zeker even checken
Zeker even checken
Gerelateerd
Gerelateerd
Meest gelezen
Meest gelezen
