В’язниці Онтаріо використовують комп’ютерну програму для визначення рівня ізоляції ув’язнених. Ця система, що отримала назву SAFER, відправляє чорношкірих ув’язнених у зони з максимальним рівнем суворості у непропорційно високих кількостях. І робить вона це абсолютно необґрунтовано, не враховуючи їхньої реальної поведінки.
Розслідування видання The Breach і новий колективний позов розкривають механізми цієї упередженості. Висновки звучать як обвинувальний вирок: провінція використовує історичні дані для прогнозування ризику. Ці дані вже зміщені в один бік, а алгоритм лише посилює це спотворення.
Як працює алгоритм SAFER
Інструмент, про який йдеться, називається Security Assessment for Evaluating Risk (Оцінка безпеки для оцінки ризику), або SAFER. З 2021 року тюремні адміністрації Онтаріо використовують його для присвоєння кожному ув’язненому оцінки ризику. Саме цей показник визначає рівень безпеки: високий ризик веде до максимального режиму, низький до менш суворих умов утримання.
Але як саме система розраховує ризик? Вона аналізує записи про арешти та дисциплінарні стягнення. Вона не дивиться на винність. Вона враховує лише минулі контакти із поліцією. Але ці контакти невипадкові — вони відбивають системний расизм.
Журналіст Десмонд Коул проаналізував результати роботи інструменту. Вивчивши урядові дані, він виявив різкий розрив між расами. Чорношкірі становлять близько п’яти відсотків населення Онтаріо, проте на них припадає майже двадцять сім відсотків ув’язнених у в’язницях максимального режиму за період з 2022 по 2025 рік. Це не помилка округлення. Це стійка закономірність.
Білі ув’язнені були значно непредставлені у категорії максимального режиму. Дані показують, що чорношкірі ув’язнені частіше позначаються як небезпечні, ніж білі ув’язнені з аналогічними профілями. Чому? Бо в їхній історії більше контактів із поліцією. Більше звинувачень. Більше за арешти. Навіть якщо вони невинні. Інструмент трактує записи про арешти як доказ майбутньої поведінки. Він плутає факт контакту з правоохоронними органами із злочинною схильністю.
Чому Онтаріо ігнорує долі чорношкірих
У колективному позові, поданому юридичною фірмою Koskie Mizzly, стверджується, що провінція знала про наслідки заздалегідь. Вони мали дані. Вони бачили дисбаланс. Чи діяли вони? Ні.
Внутрішні документи навчальних матеріалів міністерства розповідають іншу історію, ніж публічні заяви. У них зізнається, що такі оцінки, як SAFER, «швидше за все, призведуть до надмірного представництва корінних народів та осіб кольорових рас. Вони знали, що інструмент упереджений.
Тоді чому б не виправити це для чорношкірих в’язнів?
Для корінних народів це зробили. Провінція вжила специфічних заходів пом’якшення наслідків для корінного населення. Були створені сафеguards (заходи захисту). Було визнано унікальну історію колоніалізму та її вплив на систему правосуддя. Але аналогічний захист не був поширений на чорношкірих ув’язнених. Було проведено кордон. Усунення щодо корінних народів виправили, а усунення щодо чорношкірих — проігнорували.
Такий виборчий пом’якшувальний захід свідчить про пріоритет зовнішнього вигляду над справедливістю. Це дозволяє системі заявляти, що вона вирішує проблему нерівності, залишаючи найбільшу некорінну етнічну групу страждати від наслідків.
Хто це розробив і хто стежить?
Грант Дуе – дослідник, якому приписують розробку SAFER. Міністерство генерального прокурора (Solicitor General) контролює використання цього інструменту. Обидва були запрошені надати коментарі. Обидва промовчали. The Breach зазначає, що жоден із них не відповів на запити щодо методології чи точності програми.
Це мовчання показове. Коли інструмент впливає життя і свободи, і коли цей інструмент демонструє явну расову упередженість, прозорість обов’язкова. Відмова пояснювати дії викликає питання дійсності самих оцінок ризику. Якщо ви не можете обґрунтувати вхідні дані, ви не можете довіряти вихідним результатам.
Уповноважений з прав людини Онтаріо (Ontario Ombudsman) тепер слідкує за ситуацією. У звіті Уповноваженого, процитованому у розслідуванні, зазначено, що він отримав скарги на вплив SAFER. Зокрема, скарги на непропорційний вплив на чорношкірих та корінних ув’язнених. Наразі проводиться офіційний огляд програми міністерством.
Чи існує альтернатива?
Деякі можуть заперечити, що необхідна оцінка ризику. В’язниці повинні забезпечувати безпеку. Вони мають передбачати насильство. Але опора на історичні дані про арешти — це ліниве спрощення. Це делегує моральний судження коду.
Поточна система передбачає, що минула поведінка поліції є допустимим проксі для майбутньої небезпеки. Вона ігнорує реальність: маргіналізовані спільноти патрулюються набагато частіше. Система карає їх за гріхи flawed (недосконалої) системи правосуддя.
«Оцінки на кшталт SAFER, швидше за все, призведуть до надмірного представництва [корінних народів та осіб кольорових рас]» — Внутрішні документи Міністерства
Мета позову – притягти провінцію до відповідальності. Він прагне розкрити недбалість, пов’язану з ігноруванням відомих диспропорцій. Поточний огляд може змінити те, як використовується цей інструмент. Можливо, будуть скориговані ваги факторів. Можливо, буде додано нові параметри.
Але зміна формули не усуває коріння проблеми. Корінь проблеми – сама система правосуддя. Це практики поліцейської роботи, які генерують дані. Ви можете міняти алгоритм скільки завгодно. Якщо дані залишаються отруєними упередженістю, вихід завжди буде упередженим.
Ми залишаємося з питанням, яке…
