Le carceri dell’Ontario utilizzano un programma informatico per decidere chi va in massima sicurezza. Quel programma, SAFER, sta mettendo i detenuti neri in condizioni più dure a tassi che non hanno nulla a che fare con il loro comportamento reale. It is doing so disproportionately.
Un’indagine di The Breach e una nuova azione legale collettiva smascherano i meccanismi di questo pregiudizio. The findings are damning. La provincia utilizza dati storici per prevedere il rischio. That data is already skewed. The algorithm amplifies the skew.
### How the SAFER algorithm works
Lo strumento in questione è il Security Assessment for Evaluating Risk, o SAFER. Le carceri dell’Ontario lo utilizzano dal 2021. Assegna un punteggio di rischio a ogni detenuto. The score dictates security level. High risk equals maximum security. Low risk means less restrictive housing.
But how does it calculate risk? Esamina i documenti degli arresti e la storia disciplinare. It does not look at guilt. It looks at past interactions with police. Those interactions are not random. They reflect systemic racism.
Il giornalista Desmond Cole ha esaminato i risultati dello strumento. He dug into government data. He found a stark racial gap. I neri costituiscono circa il 5% della popolazione dell’Ontario. Eppure rappresentavano quasi il 27% dei detenuti di massima sicurezza tra il 2022 e il 5. Non si tratta di un errore di arrotondamento. Questo è uno schema.
I bianchi erano sottorappresentati in quella categoria di massima sicurezza. Significativamente così. I dati mostrano che i detenuti neri vengono contrassegnati come pericolosi più spesso rispetto ai detenuti bianchi con profili simili. Perché? Perché le loro storie contengono più contatti con la polizia. Ulteriori accuse. Altri arresti. Anche quando innocente. Lo strumento tratta i registri degli arresti come prova di comportamenti futuri. It confuses contact with crime with criminality.
### Why Ontario ignored Black prisoners
L’azione legale collettiva, intentata dallo studio legale Koskie Mizzly, afferma che la provincia sapeva che ciò sarebbe accaduto. Avevano i dati. Hanno visto la disparità. Hanno agito? No.
I documenti di formazione del Ministero interno raccontano una storia diversa rispetto alle dichiarazioni pubbliche. I documenti ammettono che valutazioni come SAFER “contribuirebbero probabilmente alla sovrarappresentazione” delle popolazioni indigene e razzializzate. They knew the tool was biased.
So why not fix it for Black inmates?
They did fix it for Indigenous prisoners. La provincia ha adottato misure di mitigazione specifiche per le popolazioni indigene. Hanno creato delle tutele. Hanno riconosciuto la storia unica del colonialismo e il suo impatto sul sistema giudiziario. Ma non hanno esteso protezioni simili ai prigionieri neri. Hanno tracciato una linea. Indigenous bias got a fix. I pregiudizi dei neri sono stati ignorati.
Questa mitigazione selettiva suggerisce di dare priorità all’ottica rispetto all’equità. Permette al sistema di affermare che sta affrontando la disparità lasciando che la più grande minoranza non indigena ne subisca le conseguenze.
Who designed this, and who is watching?
Grant Duwe è il ricercatore a cui è attribuita la progettazione di SAFER. Il Ministero dell’Avvocato Generale ne supervisiona l’utilizzo. Both were asked for comments. Entrambi tacquero. The Breach ha osservato che nessuno dei due ha risposto alle richieste riguardanti la metodologia o l’accuratezza del programma.
Questo silenzio è significativo. Quando uno strumento influisce sulla vita e sulle libertà, e quando tale strumento mostra chiari pregiudizi razziali, la trasparenza è obbligatoria. Il rifiuto di fornire spiegazioni solleva dubbi sulla validità dei punteggi di rischio stessi. Se non puoi giustificare gli input, non puoi fidarti degli output.
Il difensore civico dell’Ontario sta guardando ora. La relazione del Mediatore, citata nell’indagine, rileva di aver ricevuto denunce sull’impatto di SAFER. Nello specifico, denunce sull’effetto sproporzionato sui prigionieri neri e indigeni. È attualmente in corso una revisione ufficiale del programma da parte del Ministero.
Esiste un’alternativa?
Alcuni potrebbero sostenere che la valutazione del rischio sia necessaria. Le carceri devono gestire la sicurezza. Devono prevedere la violenza. Ma fare affidamento sui dati storici sugli arresti è una scorciatoia pigra. Affida il giudizio morale al codice.
Il sistema attuale presuppone che il comportamento passato della polizia sia un valido indicatore del pericolo futuro. Ignora la realtà che le comunità emarginate sono controllate più pesantemente. Li penalizza per i peccati di un sistema giudiziario imperfetto.
- “Valutazioni come SAFER contribuirebbero probabilmente alla sovrarappresentazione” – Documenti del Ministero dell’Interno
La causa mira a ritenere la provincia responsabile. Cerca di denunciare la negligenza nell’ignorare le disparità conosciute. La revisione in corso potrebbe modificare il modo in cui viene utilizzato lo strumento. Potrebbe modificare i pesi. Potrebbe aggiungere nuovi fattori.
Ma cambiare una formula non risolve la causa principale. La causa principale è il sistema giudiziario stesso. Sono le pratiche di polizia a generare i dati in primo luogo. Puoi regolare l’algoritmo quanto desideri. Se i dati rimangono avvelenati da bias, l’output sarà sempre distorto.
Ci rimane una domanda che ha
