As prisões de Ontário estão a utilizar um programa de computador para decidir quem vai para a segurança máxima. Esse programa, SAFER, está a colocar os reclusos negros em condições mais duras a taxas que nada têm a ver com o seu comportamento real. Está fazendo isso de forma desproporcional.
Uma investigação de The Breach e uma nova ação coletiva expõem a mecânica desse preconceito. As descobertas são contundentes. A província usa dados históricos para prever o risco. Esses dados já estão distorcidos. O algoritmo amplifica a distorção.
Como funciona o algoritmo SAFER
A ferramenta em questão é a Avaliação de Segurança para Avaliação de Riscos, ou SAFER. As prisões de Ontário o utilizam desde 2021. Ele atribui uma pontuação de risco a cada preso. A pontuação determina o nível de segurança. Alto risco é igual a segurança máxima. Baixo risco significa habitação menos restritiva.
Mas como calcula o risco? Ele analisa registros de prisão e histórico disciplinar. Não olha para a culpa. Ele analisa interações anteriores com a polícia. Essas interações não são aleatórias. Eles refletem o racismo sistêmico.
O jornalista Desmond Cole examinou o resultado da ferramenta. Ele investigou dados do governo. Ele encontrou uma grande lacuna racial. Os negros representam cerca de cinco por cento da população de Ontário. No entanto, representavam quase 27% dos prisioneiros de segurança máxima entre 2022 e 2022. Isso não é um erro de arredondamento. Isso é um padrão.
Os brancos estavam sub-representados nessa categoria de segurança máxima. Significativamente. Os dados mostram que os reclusos negros são sinalizados como perigosos com mais frequência do que os reclusos brancos com perfis semelhantes. Por que? Porque suas histórias contêm mais contatos policiais. Mais cobranças. Mais prisões. Mesmo quando inocente. A ferramenta trata os registros de prisões como evidência de comportamento futuro. Confunde contato com crime com criminalidade.
Por que Ontário ignorou os prisioneiros negros
A ação coletiva, movida pelo escritório de advocacia Koskie Mizzly, afirma que a província sabia que isso iria acontecer. Eles tinham os dados. Eles viram a disparidade. Eles agiram? Não.
Os documentos internos de formação do ministério contam uma história diferente das declarações públicas. Os documentos admitem que avaliações como a SAFER “provavelmente contribuiriam para a sobre-representação” dos povos indígenas e racializados. Eles sabiam que a ferramenta era tendenciosa.
Então, por que não consertar isso para os presidiários negros?
Eles consertaram isso para prisioneiros indígenas. A província adotou medidas de mitigação específicas para as populações indígenas. Eles criaram salvaguardas. Reconheceram a história única do colonialismo e o seu impacto no sistema judicial. Mas não estenderam proteções semelhantes aos prisioneiros negros. Eles traçaram uma linha. O preconceito indígena foi resolvido. O preconceito negro foi ignorado.
Esta mitigação seletiva sugere uma priorização da ótica sobre a equidade. Permite ao sistema afirmar que está a resolver a disparidade, ao mesmo tempo que deixa a maior minoria não-indígena sofrer as consequências.
Quem projetou isso e quem está assistindo?
Grant Duwe é o pesquisador responsável pelo projeto do SAFER. O Ministério do Procurador-Geral supervisiona a sua utilização. Ambos foram solicitados a comentar. Ambos ficaram em silêncio. The Breach observou que nenhum dos dois respondeu às solicitações relacionadas à metodologia ou precisão do programa.
Este silêncio é revelador. Quando uma ferramenta afecta vidas e liberdades, e quando essa ferramenta mostra um claro preconceito racial, a transparência é obrigatória. A recusa em explicar levanta questões sobre a validade das próprias pontuações de risco. Se você não consegue justificar os insumos, não pode confiar nos resultados.
O Provedor de Justiça de Ontário está observando agora. O relatório do Provedor de Justiça, citado na investigação, refere que recebeu queixas sobre o impacto do SAFER. Especificamente, reclamações sobre o efeito desproporcional sobre os presos negros e indígenas. Uma revisão oficial do programa pelo ministério está atualmente em andamento.
Existe uma alternativa?
Alguns poderão argumentar que a avaliação dos riscos é necessária. As prisões devem gerenciar a segurança. Eles devem prever a violência. Mas confiar em dados históricos de prisões é um atalho preguiçoso. Terceiriza o julgamento moral para o código.
O sistema actual pressupõe que o comportamento policial passado é um substituto válido para perigos futuros. Ignora a realidade de que as comunidades marginalizadas são policiadas de forma mais rigorosa. Penaliza-os pelos pecados de um sistema de justiça falho.
- “Avaliações como o SAFER provavelmente contribuiriam para a sobre-representação” – Documentos do Ministério Interno
A ação visa responsabilizar a província. Procura expor a negligência de ignorar disparidades conhecidas. A revisão contínua pode mudar a forma como a ferramenta é usada. Pode ajustar os pesos. Pode adicionar novos fatores.
Mas mudar uma fórmula não resolve a causa raiz. A causa raiz é o próprio sistema de justiça. São as práticas policiais que geram os dados em primeiro lugar. Você pode ajustar o algoritmo o quanto quiser. Se os dados permanecerem envenenados por preconceitos, o resultado será sempre tendencioso.
Ficamos com uma questão que
