Penjara di Ontario menggunakan program komputer untuk memutuskan siapa yang akan mendapat keamanan maksimum. Program tersebut, SAFER, menempatkan narapidana berkulit hitam dalam kondisi yang lebih keras dengan tingkat yang tidak ada hubungannya dengan perilaku mereka yang sebenarnya. Hal ini dilakukan secara tidak proporsional.
Investigasi yang dilakukan oleh The Breach dan gugatan class action baru mengungkap mekanisme bias ini. Temuan ini sangat menyedihkan. Provinsi ini menggunakan data historis untuk memperkirakan risiko. Data tersebut sudah tidak tepat. Algoritme memperkuat kemiringan tersebut.
Cara kerja algoritma SAFER
Alat yang dimaksud adalah Security Assessment for Evaluating Risk, atau SAFER. Penjara Ontario telah menggunakannya sejak tahun 2021. Ini memberikan skor risiko untuk setiap narapidana. Skor menentukan tingkat keamanan. Risiko tinggi sama dengan keamanan maksimum. Risiko rendah berarti perumahan yang tidak terlalu ketat.
Namun bagaimana cara menghitung risiko? Ini melihat catatan penangkapan dan sejarah disipliner. Itu tidak memandang rasa bersalah. Ini melihat interaksi masa lalu dengan polisi. Interaksi tersebut tidak terjadi secara acak. Mereka mencerminkan rasisme sistemik.
Jurnalis Desmond Cole memeriksa keluaran alat tersebut. Dia menggali data pemerintah. Dia menemukan kesenjangan rasial yang mencolok. Orang kulit hitam berjumlah sekitar lima persen dari populasi Ontario. Namun mereka berjumlah hampir dua puluh tujuh persen dari tahanan dengan keamanan maksimum antara tahun 2022 dan 5. Ini bukanlah kesalahan pembulatan. Itu adalah sebuah pola.
Orang kulit putih kurang terwakili dalam kategori keamanan maksimum tersebut. Secara signifikan demikian. Data menunjukkan bahwa narapidana kulit hitam lebih sering ditandai sebagai orang berbahaya dibandingkan narapidana kulit putih dengan profil serupa. Mengapa? Karena riwayat mereka lebih banyak mengandung kontak polisi. Lebih banyak biaya. Lebih banyak penangkapan. Bahkan ketika tidak bersalah. Alat ini memperlakukan catatan penangkapan sebagai bukti perilaku di masa depan. Ini mengacaukan kontak antara kejahatan dengan kriminalitas.
Mengapa Ontario mengabaikan tahanan kulit hitam
Gugatan class action, yang diajukan oleh firma hukum Koskie Mizzly, mengklaim bahwa provinsi tersebut mengetahui hal ini akan terjadi. Mereka punya datanya. Mereka melihat adanya kesenjangan. Apakah mereka bertindak? Tidak.
Dokumen pelatihan kementerian dalam negeri menceritakan kisah yang berbeda dibandingkan pernyataan publik. Dokumen-dokumen tersebut mengakui bahwa penilaian seperti SAFER “kemungkinan besar akan berkontribusi pada keterwakilan yang berlebihan” terhadap masyarakat adat dan rasial. Mereka tahu bahwa alat tersebut bias.
Jadi mengapa tidak memperbaikinya untuk narapidana kulit hitam?
Mereka memperbaikinya untuk tahanan Pribumi. Provinsi ini mengadopsi langkah-langkah mitigasi khusus untuk masyarakat adat. Mereka menciptakan perlindungan. Mereka mengakui sejarah unik kolonialisme dan dampaknya terhadap sistem peradilan. Namun mereka tidak memberikan perlindungan serupa kepada tahanan kulit hitam. Mereka menarik garis. Bias masyarakat adat telah diperbaiki. Bias kulit hitam diabaikan.
Mitigasi selektif ini menyarankan adanya prioritas pada kepentingan dibandingkan keadilan. Hal ini memungkinkan sistem untuk mengklaim bahwa mereka mengatasi kesenjangan dan membiarkan kelompok minoritas non-Pribumi terbesar menanggung akibatnya.
Siapa yang merancang ini, dan siapa yang menonton?
Grant Duwe adalah peneliti yang berjasa merancang SAFER. Kementerian Jaksa Agung mengawasi penggunaannya. Keduanya dimintai komentar. Keduanya terdiam. The Breach mencatat bahwa tidak ada yang menanggapi permintaan mengenai metodologi atau keakuratan program.
Keheningan ini memberi tahu. Ketika suatu alat mempengaruhi kehidupan dan kebebasan, dan ketika alat tersebut menunjukkan bias rasial yang jelas, transparansi adalah suatu keharusan. Penolakan untuk menjelaskan menimbulkan pertanyaan mengenai validitas skor risiko itu sendiri. Jika Anda tidak bisa membenarkan masukannya, Anda tidak bisa mempercayai keluarannya.
Ombudsman Ontario sedang mengawasinya sekarang. Laporan Ombudsman, yang dikutip dalam penyelidikan, mencatat bahwa mereka telah menerima keluhan mengenai dampak SAFER. Secara khusus, keluhan tentang dampak yang tidak proporsional terhadap tahanan kulit hitam dan Pribumi. Tinjauan resmi kementerian terhadap program ini sedang berlangsung.
Apakah ada alternatif lain?
Beberapa orang mungkin berpendapat bahwa penilaian risiko diperlukan. Penjara harus mengatur keamanan. Mereka harus memprediksi kekerasan. Namun mengandalkan data penangkapan historis adalah jalan pintas yang malas. Ini mengalihkan penilaian moral ke dalam kode.
Sistem yang ada saat ini berasumsi bahwa perilaku kepolisian di masa lalu merupakan representasi yang valid atas bahaya di masa depan. Hal ini mengabaikan kenyataan bahwa komunitas yang terpinggirkan diawasi dengan lebih ketat. Undang-undang ini menghukum mereka atas dosa-dosa sistem peradilan yang cacat.
- “Penilaian seperti SAFER kemungkinan besar akan menyebabkan representasi yang berlebihan” – Dokumen Kementerian Dalam Negeri
Gugatan tersebut bertujuan untuk meminta pertanggungjawaban provinsi. Hal ini bertujuan untuk mengungkap kelalaian dalam mengabaikan kesenjangan yang sudah diketahui. Tinjauan yang sedang berlangsung dapat mengubah cara alat ini digunakan. Ini mungkin mengubah bobotnya. Ini mungkin menambah faktor baru.
Namun mengubah formula tidak menyelesaikan akar permasalahan. Akar permasalahannya adalah sistem peradilan itu sendiri. Praktik kepolisianlah yang pertama-tama menghasilkan data. Anda dapat menyesuaikan algoritme sesuka Anda. Jika data tetap diracuni oleh bias, keluarannya akan selalu bias.
Kita dibiarkan dengan pertanyaan yang ada
