Kecenderungan terkode

Kecenderungan terkode (Coded Bias) adalah film dokumenter Amerika Serikat yang disutradarai oleh Shalini Kantayya dan tayang perdana pada Festival Film Sundance 2020.^[1] Film ini menampilkan kontribusi para peneliti Joy Buolamwini, Deborah Raji, Meredith Broussard, Cathy O’Neil, Zeynep Tufekci, Safiya Noble, Timnit Gebru, Virginia Eubanks, Silkie Carlo, dan lainnya.^[2]

Sebelumnya, Kantayya menyutradarai film dokumenter Catching the Sun serta satu episode dari seri televisi National Geographic, Breakthrough.^[3][4] Ia juga menjadi rekan di UC Berkeley Graduate School of Journalism.^[5] Dalam wawancara dengan 500 Global pada 17 Agustus 2021, Kantayya menyatakan bahwa tiga tahun sebelum wawancara tersebut ia bahkan belum mengetahui apa itu algoritme.^[6] Ia kemudian membaca buku Weapons of Math Destruction yang membahas bagaimana kecerdasan buatan, pembelajaran mesin, dan algoritme dapat menentukan hasil hidup bagi kelompok tertentu. Setelah itu, ia menemukan karya Joy Buolamwini melalui sebuah ceramah TED.

Film ini mengangkat tema kecerdasan buatan dan bias yang dapat tertanam di dalam teknologi tersebut. Penelitian Joy Buolamwini, peneliti dari MIT Media Lab, menemukan bahwa wajahnya tidak dikenali oleh banyak sistem pengenalan wajah, dan ia berupaya mengetahui penyebab kegagalan tersebut. Ia kemudian menemukan bahwa sistem pengenalan wajah hanya bekerja ketika ia mengenakan topeng putih. Penelusuran selanjutnya menunjukkan bagaimana teknologi kecerdasan buatan dapat memengaruhi kelompok minoritas.^[7]

Coded Bias menunjukkan bahwa struktur hukum untuk kecerdasan buatan masih minim sehingga berpotensi menyebabkan pelanggaran hak asasi manusia. Film ini menyatakan bahwa beberapa algoritme dan teknologi kecerdasan buatan dapat mendiskriminasi berdasarkan ras dan gender dalam bidang perumahan, peluang karier, layanan kesehatan, kredit, pendidikan, dan penegakan hukum.^[8] Buolamwini dan rekan-rekannya kemudian diminta untuk memberikan kesaksian di hadapan Kongres Amerika Serikat mengenai kecerdasan buatan. Ia selanjutnya mendirikan kelompok advokasi digital Algorithmic Justice League.^[9]

Film ini menyoroti bagaimana sistem pengenalan wajah dapat menimbulkan masalah bagi kelompok rentan, karena bias dalam kode membuat sistem tidak mengenali setiap orang secara setara. Ketika perusahaan semakin banyak menggunakan pembelajaran mesin, algoritme yang dibahas memiliki pengaruh besar terhadap informasi yang diterima masyarakat—misalnya menentukan siapa yang berhasil melalui proses rekrutmen otomatis, siapa yang memperoleh akses layanan kesehatan, dan siapa yang menjadi sasaran pengawasan ketat dalam sistem kepolisian.^[10]

Film ini pertama kali tayang perdana pada Festival Film Sundance pada Januari 2020.^[11] Film tersebut diputar secara terbatas pada 11 November 2020 sebelum dirilis penuh di bioskop virtual di Amerika Utara pada 18 November 2020.^[12] Penayangan terbatas menghasilkan pendapatan box office sebesar 10.236 dolar.^[13] Pada 5 April 2021, film ini tersedia di layanan streaming Netflix.^[14]

Pada situs agregasi ulasan Rotten Tomatoes, film ini memperoleh tingkat persetujuan 100% berdasarkan 52 ulasan dengan nilai rata-rata 7,9/10. Konsensus kritikus di situs tersebut menyatakan bahwa “Jelas, ringkas, dan komprehensif, Coded Bias menawarkan gambaran menggetarkan tentang sisi tersembunyi dari fondasi algoritmis masyarakat modern.”^[15] Pada Metacritic, film ini memperoleh skor rata-rata tertimbang 73 dari 100 berdasarkan tujuh ulasan kritikus.^[16]

Dalam ulasan untuk The New York Times, Devika Girish menyatakan bahwa “Film ini bergerak luwes antara kritik pragmatis dan politik yang lebih luas, berargumen bahwa persoalannya tidak hanya terletak pada teknologi yang bermasalah; bahkan jika teknologi itu sempurna, teknologinya tetap berpotensi mengancam kebebasan manusia.”^[17]

Nick Allen dari RogerEbert.com memuji dokumenter ini karena “alur yang mengesankan,” dan menyatakan bahwa “Seseorang mungkin mengira dokumenter tentang data dan algoritme akan terasa kering, tetapi Coded Bias menepis anggapan itu dengan materi yang kuat dan ritme yang lincah, berpindah-pindah di seluruh negeri dan dunia.”^[18]

Dalam ulasan di situs Society for Social Studies of Science, Renee Shelby mempertanyakan apakah penonton memahami kekuatan yang menurutnya disalahgunakan melalui pengumpulan data. Ia menyatakan bahwa “Di mana ada kekuasaan, di situ ada perlawanan; dan film ini menyinggung politik ‘dari atas’ dan ‘dari bawah’.” Film ini menampilkan aktivisme perempuan dan gerakan sosial (misalnya Gerakan Payung Hong Kong) yang berupaya memastikan agar pengawasan dan alat algoritmis tidak disalahgunakan.^[2]

Ashley Sosa, dalam ulasannya untuk videolibrarian.com, memberi film ini nilai 2,5 dari 5 bintang dan menyebut bahwa “Pesan peringatan dokumenter tentang bahaya bias algoritmis disampaikan secara menarik dan manusiawi. Rincian teknis disajikan secara minimal, yang dapat dipandang positif atau negatif tergantung pengetahuan awal dan minat penonton.”^[19]