Ontarios Gefängnisse verwenden ein Computerprogramm, um zu entscheiden, wer in den Hochsicherheitsbereich geht. Dieses Programm, SAFER, setzt schwarze Häftlinge härteren Bedingungen aus, und zwar zu einem Preis, der nichts mit ihrem tatsächlichen Verhalten zu tun hat. Dies geschieht überproportional.
Eine Untersuchung von The Breach und eine neue Sammelklage enthüllen die Mechanismen dieser Voreingenommenheit. Die Ergebnisse sind vernichtend. Die Provinz nutzt historische Daten, um das Risiko vorherzusagen. Diese Daten sind bereits verzerrt. Der Algorithmus verstärkt den Versatz.
So funktioniert der SAFER-Algorithmus
Bei dem Tool handelt es sich um das Security Assessment for Evaluating Risk, kurz SAFER. Gefängnisse in Ontario verwenden es seit 2021. Es weist jedem Insassen eine Risikobewertung zu. Die Punktzahl bestimmt das Sicherheitsniveau. Hohes Risiko bedeutet maximale Sicherheit. Geringes Risiko bedeutet weniger restriktive Wohnverhältnisse.
Aber wie berechnet es das Risiko? Dabei werden die Verhaftungsakten und die Disziplinargeschichte untersucht. Es geht nicht um Schuld. Es befasst sich mit früheren Interaktionen mit der Polizei. Diese Interaktionen sind nicht zufällig. Sie spiegeln systemischen Rassismus wider.
Der Journalist Desmond Cole untersuchte die Ergebnisse des Tools. Er hat sich in Regierungsdaten vertieft. Er stellte einen eklatanten Rassenunterschied fest. Schwarze machen etwa fünf Prozent der Bevölkerung Ontarios aus. Dennoch machten sie zwischen 2022 und 2022 fast 27 Prozent der Hochsicherheitshäftlinge aus. Das ist kein Rundungsfehler. Das ist ein Muster.
Weiße Menschen waren in dieser Kategorie mit maximaler Sicherheit unterrepräsentiert. Bezeichnenderweise. Die Daten zeigen, dass schwarze Häftlinge häufiger als gefährlich eingestuft werden als weiße Häftlinge mit ähnlichen Profilen. Warum? Weil ihre Vorgeschichte mehr Polizeikontakte enthält. Weitere Gebühren. Weitere Verhaftungen. Auch wenn es unschuldig ist. Das Tool behandelt Festnahmeaufzeichnungen als Beweis für zukünftiges Verhalten. Es verwechselt den Kontakt mit Kriminalität mit Kriminalität.
Warum Ontario schwarze Gefangene ignorierte
In der von der Anwaltskanzlei Koskie Mizzly eingereichten Sammelklage wird behauptet, die Provinz habe gewusst, dass dies passieren würde. Sie hatten die Daten. Sie sahen die Ungleichheit. Haben sie gehandelt? Nein.
Interne Schulungsdokumente des Ministeriums erzählen eine andere Geschichte als öffentliche Erklärungen. In den Dokumenten wird eingeräumt, dass Einschätzungen wie SAFER „wahrscheinlich zur Überrepräsentation“ indigener und rassistisch motivierter Menschen beitragen würden. Sie wussten, dass das Tool voreingenommen war.
Warum also nicht das Problem für schwarze Insassen beheben?
Sie haben es für indigene Gefangene repariert. Die Provinz hat spezifische Abhilfemaßnahmen für die indigene Bevölkerung ergriffen. Sie haben Schutzmaßnahmen geschaffen. Sie erkannten die einzigartige Geschichte des Kolonialismus und seine Auswirkungen auf das Justizsystem. Aber sie gewährten schwarzen Gefangenen keinen ähnlichen Schutz. Sie haben eine Grenze gezogen. Die indigene Voreingenommenheit wurde behoben. Schwarze Voreingenommenheit wurde ignoriert.
Diese selektive Abschwächung legt eine Priorisierung der Optik vor der Gerechtigkeit nahe. Dadurch kann das System behaupten, dass es die Ungleichheit bekämpft, während die größte nicht-indigene Minderheit unter den Folgen leiden muss.
Wer hat das entworfen und wer schaut zu?
Grant Duwe ist der Forscher, dem die Entwicklung von SAFER zugeschrieben wird. Das Ministerium des Generalstaatsanwalts überwacht seine Verwendung. Beide wurden um Kommentare gebeten. Beide verstummten. The Breach stellte fest, dass keiner von beiden auf Anfragen bezüglich der Methodik oder Genauigkeit des Programms reagierte.
Diese Stille ist bezeichnend. Wenn ein Werkzeug Leben und Freiheiten beeinträchtigt und wenn dieses Werkzeug eine klare rassistische Voreingenommenheit aufweist, ist Transparenz zwingend erforderlich. Die Verweigerung einer Erklärung wirft Fragen zur Gültigkeit der Risikobewertungen selbst auf. Wenn Sie die Eingaben nicht rechtfertigen können, können Sie den Ausgaben nicht vertrauen.
Der Ombudsmann von Ontario beobachtet jetzt. In dem in der Untersuchung zitierten Bericht des Bürgerbeauftragten wird darauf hingewiesen, dass Beschwerden über die Auswirkungen von SAFER eingegangen seien. Insbesondere Beschwerden über die unverhältnismäßige Auswirkung auf schwarze und indigene Gefangene. Derzeit läuft eine offizielle Überprüfung des Programms durch das Ministerium.
Gibt es eine Alternative?
Einige könnten argumentieren, dass eine Risikobewertung notwendig ist. Gefängnisse müssen für Sicherheit sorgen. Sie müssen Gewalt vorhersagen. Aber sich auf historische Verhaftungsdaten zu verlassen, ist eine faule Abkürzung. Es lagert moralisches Urteilsvermögen an Code aus.
Das aktuelle System geht davon aus, dass früheres Polizeiverhalten ein gültiger Indikator für zukünftige Gefahren ist. Es ignoriert die Realität, dass marginalisierte Gemeinschaften stärker überwacht werden. Es bestraft sie für die Sünden eines fehlerhaften Justizsystems.
- „Bewertungen wie SAFER würden wahrscheinlich zu einer Überrepräsentation beitragen“ – Dokumente des Innenministeriums
Ziel der Klage ist es, die Provinz zur Rechenschaft zu ziehen. Es soll die Nachlässigkeit aufdecken, die mit der Ignorierung bekannter Unterschiede einhergeht. Die laufende Überprüfung kann die Art und Weise ändern, wie das Tool verwendet wird. Es kann sein, dass die Gewichte angepasst werden. Es kann neue Faktoren hinzufügen.
Aber die Änderung einer Formel behebt nicht die Grundursache. Die Hauptursache ist das Justizsystem selbst. Es sind die Polizeipraktiken, die die Daten überhaupt erst generieren. Sie können den Algorithmus beliebig anpassen. Wenn die Daten weiterhin durch Voreingenommenheit vergiftet bleiben, wird die Ausgabe immer voreingenommen sein.
Uns bleibt eine Frage, die es gibt
