Dalam terbaru “We Have Creating the Torment Nexus dari novel sci-fi klasik Jangan buat nexus siksaanBerita, The Guardian melaporkan bahwa pemerintah Inggris sedang mengembangkan algoritma prediksi yang akan bertujuan untuk mengidentifikasi orang -orang yang paling mungkin melakukan pembunuhan. Apa yang bisa salah?
Laporan, yang mengutip dokumen yang diperoleh melalui permintaan kebebasan informasi oleh organisasi transparansi StateWatch, menemukan bahwa Kementerian Kehakiman ditugaskan untuk merancang sistem profil yang dapat menandai orang -orang yang tampaknya mampu melakukan kejahatan kekerasan yang serius sebelum mereka benar -benar melakukannya. Proyek prediksi pembunuhan yang disebut (dinamai ulang untuk proyek “berbagi data untuk meningkatkan penilaian risiko” sehingga tidak terlihat secara eksplisit dystopian) menyedot data antara 100.000 dan 500.000 orang dalam upaya mengembangkan model yang dapat mengidentifikasi “prediktor dalam data untuk risiko pembunuhan.”
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Proyek ini mencakup data dari Kementerian Kehakiman (MOJ), Home Office, Greater Manchester Police (GMP), dan Polisi Metropolitan di London. Catatan -catatan tersebut dilaporkan tidak terbatas pada mereka yang memiliki catatan kriminal tetapi juga mencakup data tersangka yang tidak dihukum, korban, saksi, dan orang hilang. Ini juga termasuk rincian tentang kesehatan mental seseorang, kecanduan, melukai diri sendiri, bunuh diri, kerentanan, dan kecacatan— “Penanda Kesehatan” yang diklaim MOJ “diharapkan memiliki kekuatan prediktif yang signifikan.” The Guardian melaporkan bahwa pejabat pemerintah menolak penggunaan data korban atau populasi yang rentan, dan bersikeras bahwa hanya data dari orang -orang dengan setidaknya satu hukuman pidana yang digunakan.
Tidak perlu banyak untuk melihat seberapa buruk gagasan ini dan apa hasil akhir yang mungkin terjadi: penargetan yang tidak proporsional dari orang-orang berpenghasilan rendah dan terpinggirkan. Tetapi untuk berjaga -jaga itu tidak jelas, Anda hanya perlu melihat alat peradilan prediktif sebelumnya yang telah diluncurkan oleh Kementerian Kehakiman Inggris dan hasil yang mereka hasilkan.
Misalnya, sistem penilaian pelaku pemerintah digunakan oleh sistem hukum untuk “memprediksi” jika seseorang cenderung kembali, dan prediksi itu digunakan oleh hakim dalam keputusan hukuman. Tinjauan pemerintah terhadap sistem menemukan bahwa di antara semua pelanggar, pengulangan aktual secara signifikan di bawah tingkat yang diprediksi, terutama untuk pelanggaran tanpa kekerasan. Tapi, seperti yang Anda bayangkan, algoritma menilai pelanggar kulit hitam kurang akurat daripada pelaku kulit putih.
Itu bukan hanya masalah Inggris, tentu saja. Alat-alat pemolisian prediktif ini secara teratur menyesatkan orang-orang di mana pun mereka diimplementasikan, dengan risiko yang terkait dengan komunitas yang terpinggirkan miring-hasil dari bias rasial yang ditemukan dalam data itu sendiri yang berasal dari over-roling historis komunitas warna dan komunitas berpenghasilan rendah yang mengarah pada interaksi polisi yang lebih banyak, tingkat penahanan yang lebih tinggi, dan hukuman yang lebih keras. Hasil -hasil itu dimasukkan ke dalam data, yang kemudian diperburuk oleh pemrosesan algoritmik dari informasi itu dan memperkuat perilaku yang mengarah pada hasil yang tidak merata.
Bagaimanapun, seperti halnya pengingat: kami tidak seharusnya merangkul sifat prediktif dari precogs Laporan Minoritas—Kami seharusnya skeptis terhadap mereka.
RakyatPos.ID Network
