Algoritme schatte de kans dat veroordeelden opnieuw de fout ingaan, vaak te laag in
In dit artikel:
De Inspectie Justitie en Veiligheid heeft ontdekt dat het risico‑inschattingssysteem van de reclassering mogelijk jarenlang onjuist heeft gewerkt. Centraal staat het algoritme OXREC, dat sinds de invoering in 2018 standaard wordt ingezet bij adviezen aan het Openbaar Ministerie en rechters en jaarlijks zo’n 44.000 keer wordt toegepast. Uit het onderzoek blijkt dat in ongeveer een kwart van de gegeven adviezen het recidiverisico onjuist is berekend, vaak te laag.
De fouten blijken te zitten in de software en in de gebruikte data: formules voor gevangenen en verdachten zijn door elkaar gehaald en onjuiste cijfers zijn in de berekeningen terechtgekomen. Bovendien is de dataset verouderd en oorspronkelijk ontwikkeld voor een andere doelgroep dan waarvoor OXREC nu wordt gebruikt. Als gevolg konden met name groepen zoals drugsgebruikers en mensen met ernstige psychische aandoeningen (bijv. psychoses) een flink te gunstige risicobeoordeling krijgen. De inspectie heeft niet uitgezocht in hoeveel individuele zaken rechters of reclasseringsmedewerkers de foutieve scores overnamen.
Verder voldoet het systeem niet aan privacyregels en gebruikt het variabelen als buurtscore en inkomenshoogte. Zulke kenmerken kunnen discriminatie in de hand werken; het College voor de Rechten van de Mens waarschuwde eerder dat dergelijke factoren alleen onder strikte voorwaarden ingezet mogen worden. Interne communicatie wijst ook op het gevaar van te veel vertrouwen in de uitkomst van het algoritme, waardoor professioneel menselijk oordeel wordt ondergraven.
De inspectie adviseert om OXREC snel te herstellen of tijdelijk buiten gebruik te stellen, en stelt dat er een heldere structuur nodig is voor ontwikkeling, onderhoud, juridische toetsing en periodieke evaluatie van algoritmes, inclusief training met actuele data. De reclassering heeft OXREC voorlopig stopgezet; de inspectie zal voortgang met verbeteringen elke zes maanden controleren. Context: risicotaxaties beïnvloeden beslissingen over toezicht, behandelmaatregelen en straffen, waardoor foutieve scores ingrijpende gevolgen kunnen hebben voor veroordeelden en het maatschappelijk vertrouwen.