Věznice v Ontariu používají počítačový program k určení úrovně segregace vězňů. Tento systém, nazvaný SAFER, posílá černé vězně do zón s maximální ostrahou v neúměrně vysokém počtu. A dělá to zcela bezdůvodně, aniž by vzala v úvahu jejich skutečné chování.
Vyšetřování The Breach a nová hromadná žaloba odhalují mechanismy za touto zaujatostí. Zjištění zní jako obžaloba: provincie používá k předpovědi rizika historická data. Tato data jsou již vychýlena jedním směrem a algoritmus toto zkreslení pouze zvyšuje.
Jak funguje algoritmus SAFER
Dotyčný nástroj se nazývá Posouzení bezpečnosti pro vyhodnocení rizik nebo SAFER. Od roku 2021 ji vězeňské úřady v Ontariu používají k přiřazení skóre rizika každému vězně. Právě tento ukazatel určuje úroveň zabezpečení: vysoké riziko vede k maximální bezpečnosti, nízké riziko vede k méně přísným podmínkám zadržení.
Ale jak přesně systém počítá riziko? Prohlíží záznamy o zatčení a disciplinární záznamy. Nehledí na vinu. Zohledňuje pouze minulé kontakty s policií. Tyto kontakty ale nejsou náhodné – odrážejí systémový rasismus.
Novinář Desmond Cole analyzoval výsledky nástroje. Po prozkoumání vládních dat našel mezi rasami výrazný předěl. Černoši tvoří asi pět procent populace Ontaria, ale v letech 2022 až 2025 tvoří téměř dvacet sedm procent vězňů ve věznicích s nejvyšší ostrahou. Nejde o zaokrouhlovací chybu. Toto je stabilní vzorec.
V kategorii s maximální ostrahou byli bílí vězni výrazně podzastoupeni. Data ukazují, že černí vězni jsou častěji označeni jako nebezpeční než bílí vězni s podobnými profily. Proč? Protože mají v minulosti větší kontakt s policií. Další obvinění. Další zatčení. I když jsou nevinní. Nástroj považuje záznamy o zatčení za důkaz budoucího chování. Zaměňuje fakt kontaktu s orgány činnými v trestním řízení se samotným kriminálním sklonem.
Proč Ontario ignoruje osud černochů
Skupinová žaloba, kterou podala advokátní kancelář Koskie Mizzly, tvrdí, že provincie znala důsledky předem. Měli data. Viděli nerovnováhu. Jednali? ne
Interní dokumenty školicích materiálů ministerstva vyprávějí jiný příběh než veřejná prohlášení. Uznávají, že hodnocení jako BEZPEČNĚJŠÍ „pravděpodobně povedou k nadměrnému zastoupení“ původních obyvatel a barevných lidí. Věděli, že nástroj je zaujatý.
Tak proč to neopravit pro černé vězně?
Udělali to pro domorodé národy. Provincie zavedla specifická zmírňující opatření pro domorodé obyvatele. Byly vytvořeny záruky. Byla uznána jedinečná historie kolonialismu a jeho dopad na soudní systém. Ale podobná ochrana nebyla rozšířena na černé vězně. Hranice byla nakreslena. Zaujatost vůči domorodým lidem byla opravena a zaujatost vůči černochům byla ignorována.
Toto selektivní zmírnění demonstruje prioritu vzhledu před poctivostí. To umožňuje systému tvrdit, že řeší nerovnost, zatímco největší nepůvodní etnickou skupinu nechává nést následky.
Kdo to vyvinul a kdo to sleduje?
Grant Douhet je výzkumník, který se zasloužil o vývoj SAFER. Ministerstvo nejvyššího státního zástupce (generální prokurátor) kontroluje používání tohoto nástroje. Oba byli požádáni o vyjádření. Oba mlčeli. The Breach poznamenává, že žádný z nich neodpověděl na dotazy týkající se metodologie nebo přesnosti programu.
Toto ticho je vypovídající. Když nástroj ovlivňuje životy a svobody a když tento nástroj vykazuje jasnou rasovou zaujatost, transparentnost je naprosto nezbytná. Neschopnost vysvětlit akce vyvolává otázky o platnosti samotných hodnocení rizik. Pokud nedokážete ospravedlnit vstupy, nemůžete věřit ani výstupům.
Ombudsman z Ontaria nyní situaci sleduje. Zpráva komisaře citovaná při vyšetřování naznačovala, že obdržel stížnosti na dopad SAFER. Konkrétně stížnosti na nepřiměřený dopad na černošské a domorodé vězně. V současné době probíhá formální přezkoumání programu ministerstvem.
Existuje alternativa?
Někdo může namítnout, že je nutné posouzení rizik. Věznice musí zajistit bezpečnost. Musí předvídat násilí. Ale spoléhat se na historické údaje o zatčení je líné zjednodušení. To deleguje morální soud na kód.
Současný systém předpokládá, že minulé chování policie je přijatelným zástupcem budoucího nebezpečí. Ignoruje skutečnost, že marginalizované komunity jsou hlídány mnohem častěji. Systém je trestá za hříchy vadného (chybného) justičního systému.
„Posouzení jako SAFER pravděpodobně povedou k nadměrnému zastoupení [původních obyvatel a barevných lidí]“ – dokumenty interního oddělení
Cílem žaloby je pohnat provincii k odpovědnosti. Snaží se odhalit nedbalost spojenou s ignorováním známých nerovnováh. Současná recenze může změnit způsob použití tohoto nástroje. Váhy faktorů lze upravit. Mohou být přidány nové možnosti.
Ale změna vzorce neřeší kořen problému. Základem problému je samotný soudní systém. To jsou policejní praktiky, které generují data na prvním místě. Algoritmus můžete změnit, jak chcete. Pokud data zůstanou otrávena zkreslením, výstup bude vždy zkreslený.
Zůstává nám otázka, která…
