Skandal! Alat AI Tempatkan Tawanan Kulit Hitam di Penjara Narkoba Maksimum di Ontario

Skandal! Alat AI Tempatkan Tawanan Kulit Hitam di Penjara Narkoba Maksimum di Ontario

Sebuah program kecerdasan buatan (AI) yang digunakan untuk mengklasifikasikan tingkat keamanan tawanan di penjara Ontario secara tidak proporsional menempatkan tahanan kulit hitam dalam kondisi maksimum, berdasarkan laporan penyelidikan dari The Breach dan gugatan kelas yang diajukan terhadap provinsi tersebut.

Investigasi yang dilakukan oleh jurnalis Desmond Cole ini mengungkap bahwa alat Evaluasi Keamanan untuk Menilai Risiko (SAFER) yang telah digunakan di penjara Ontario sejak 2021 menetapkan skor risiko bagi tawanan berdasarkan berbagai faktor, seperti sejarah penangkapan dan disiplin.

Data pemerintah yang dianalisis oleh ahli kriminologi dari Universitas Toronto, Scot Wortley, menunjukkan bahwa meski orang kulit hitam hanya mewakili sekitar 5 persen dari populasi Ontario, mereka menyumbang hampir 27 persen dari populasi penjara maksimum antara 2022 dan 2025. Sementara itu, orang kulit putih secara signifikan kurang terwakili dalam kategori itu dibandingkan dengan proporsi mereka di populasi.

Gugatan kelas yang diajukan oleh firma hukum Koskie Minsky mengklaim bahwa provinsi tersebut menyadari bahwa ketergantungan alat ini pada data sejarah sistem peradilan – yang mencerminkan ketidaksetaraan rasial yang terdokumentasi dalam penegakan hukum dan penuntutan – dapat merugikan tahanan kulit hitam. Selain itu, Ontario telah mengambil langkah mitigasi untuk tahanan Pribumi tanpa memberikan perlindungan yang sama bagi tahanan kulit hitam. Dokumen pelatihan internal kementerian yang dirilis oleh The Breach secara eksplisit mengakui bahwa “penilaian seperti SAFER kemungkinan akan berkontribusi pada kelebihan representasi” orang Pribumi dan rasial di penjara maksimum.

Tidak ada tanggapan dari Kementerian Umum Ontario maupun Grant Duwe, peneliti yang diakreditasi merancang SAFER, mengenai metodologi atau akurasi program tersebut. Laporan Ombudsman Ontario yang disebut dalam investigasi mengungkapkan bahwa kementerian menerima keluhan mengenai dampak tidak proporsional dari alat ini terhadap tahanan kulit hitam dan Pribumi, sementara tinjauan program masih berlangsung.

About The Author

Teknonesia Team

See author's posts