Тюрьмы провинции Онтарио используют компьютерную программу для определения уровня изоляции заключенных. Эта система, получившая название SAFER, отправляет чернокожих заключенных в зоны с максимальным уровнем строгости в непропорционально высоких количествах. И делает она это совершенно необоснованно, не учитывая их реальное поведение.
Расследование издания The Breach и новый коллективный иск раскрывают механизмы этой предвзятости. Выводы звучат как обвинительный приговор: провинция использует исторические данные для прогнозирования риска. Эти данные уже смещены в одну сторону, а алгоритм лишь усиливает это искажение.
Как работает алгоритм SAFER
Инструмент, о котором идет речь, называется Security Assessment for Evaluating Risk (Оценка безопасности для оценки риска), или SAFER. С 2021 года тюремные администрации Онтарио используют его для присвоения каждому заключенному оценки риска. Именно этот показатель определяет уровень безопасности: высокий риск ведет к максимальному режиму, низкий — к менее строгим условиям содержания.
Но как именно система рассчитывает риск? Она анализирует записи об арестах и дисциплинарные взыскания. Она не смотрит на виновность. Она учитывает только прошлые контакты с полицией. Но эти контакты не случайны — они отражают системный расизм.
Журналист Десмонд Коул проанализировал результаты работы инструмента. Изучив правительственные данные, он выявил резкий разрыв между расами. Чернокожие составляют около пяти процентов населения Онтарио, однако на них приходится почти двадцать семь процентов заключенных в тюрьмах максимального режима за период с 2022 по 2025 год. Это не ошибка округления. Это устойчивая закономерность.
Белые заключенные были значительно недопредставлены в категории максимального режима. Данные показывают, что чернокожие заключенные чаще помечаются как опасные, чем белые заключенные с аналогичными профилями. Почему? Потому что в их истории больше контактов с полицией. Больше обвинений. Больше арестов. Даже если они невиновны. Инструмент трактует записи об арестах как доказательство будущего поведения. Он путает факт контакта с правоохранительными органами с самой преступной склонностью.
Почему Онтарио игнорирует судьбы чернокожих
В коллективном иске, поданном юридической фирмой Koskie Mizzly, утверждается, что провинция знала о последствиях заранее. У них были данные. Они видели дисбаланс. Действовали ли они? Нет.
Внутренние документы обучающих материалов министерства рассказывают иную историю, чем публичные заявления. В них признается, что такие оценки, как SAFER, «скорее всего, приведут к чрезмерному представительству» коренных народов и лиц цветных рас. Они знали, что инструмент предвзят.
Тогда почему бы не исправить это для чернокожих заключенных?
Для коренных народов это сделали. Провинция приняла специфические меры смягчения последствий для коренного населения. Были созданы safeguards (меры защиты). Была признана уникальная история колониализма и ее влияние на систему правосудия. Но аналогичная защита не была распространена на чернокожих заключенных. Была проведена граница. Смещение в отношении коренных народов исправили, а смещение в отношении чернокожих — проигнорировали.
Такая избирательная смягчающая мера свидетельствует о приоритете внешнего вида над справедливостью. Это позволяет системе заявлять, что она решает проблему неравенства, оставляя самую крупную некоренную этническую группу страдать от последствий.
Кто это разработал и кто следит?
Грант Дуэ — исследователь, которому приписывают разработку SAFER. Министерством генерального прокурора (Solicitor General) контролируется использование этого инструмента. Оба были запрошены дать комментарии. Оба промолчали. The Breach отмечает, что ни один из них не ответил на запросы относительно методологии или точности программы.
Это молчание показательно. Когда инструмент влияет на жизни и свободы, и когда этот инструмент демонстрирует явную расовую предвзятость, прозрачность обязательна. Отказ объяснять действия вызывает вопросы о действительности самих оценок риска. Если вы не можете обосновать входные данные, вы не можете доверять выходным результатам.
Уполномоченный по правам человека Онтарио (Ontario Ombudsman) теперь следит за ситуацией. В отчете Уполномоченного, процитированном в расследовании, указано, что он получил жалобы на воздействие SAFER. В частности, жалобы на непропорциональное влияние на чернокожих и коренных заключенных. В настоящее время проводится официальный обзор программы министерством.
Существует ли альтернатива?
Некоторые могут возразить, что оценка риска необходима. Тюрьмы должны обеспечивать безопасность. Они должны предсказывать насилие. Но опора на исторические данные об арестах — это ленивое упрощение. Это делегирует моральный суждения коду.
Текущая система предполагает, что прошлое поведение полиции является допустимым прокси для будущей опасности. Она игнорирует реальность: маргинализированные сообщества патрулируются гораздо чаще. Система наказывает их за грехи flawed (несовершенной) системы правосудия.
«Оценки вроде SAFER, скорее всего, приведут к чрезмерному представительству [коренных народов и лиц цветных рас]» — Внутренние документы Министерства
Цель иска — привлечь провинцию к ответственности. Он стремится раскрыть халатность, связанную с игнорированием известных диспропорций. Текущий обзор может изменить то, как используется этот инструмент. Возможно, будут скорректированы веса факторов. Возможно, будут добавлены новые параметры.
Но изменение формулы не устраняет корень проблемы. Корень проблемы — сама система правосудия. Это практики полицейской работы, которые изначально генерируют данные. Вы можете менять алгоритм сколько угодно. Если данные остаются отравленными предвзятостью, выход всегда будет предвзятым.
Мы остаемся с вопросом, который…
