Facebook secara keliru menyebut pria kulit hitam sebagai 'primata'

Perangkat lunak pengenal wajah telah dikecam oleh para pembela hak-hak sipil yang menunjukkan masalah dengan akurasi, terutama yang menyangkut orang-orang yang tidak berkulit putih (Al Jazeera)

Facebook telah mengumumkan bahwa mereka menonaktifkan fitur rekomendasi topik setelah salah mengira pria kulit hitam sebagai "primata" dalam sebuah video di jejaring sosial.

Seorang juru bicara Facebook menyebutnya sebagai "kesalahan yang jelas tidak dapat diterima" dan mengatakan perangkat lunak rekomendasi yang terlibat dibuat offline.

"Kami meminta maaf kepada siapa pun yang mungkin telah melihat rekomendasi ofensif ini," kata Facebook dalam menanggapi penyelidikan AFP.

“Kami menonaktifkan seluruh fitur rekomendasi topik segera setelah kami menyadari hal ini terjadi sehingga kami dapat menyelidiki penyebabnya dan mencegah hal ini terjadi lagi.”

Perangkat lunak pengenalan wajah telah dikecam oleh para pembela hak-hak sipil yang menunjukkan masalah dengan akurasi, terutama yang berkaitan dengan orang-orang yang tidak berkulit putih.

Pengguna Facebook dalam beberapa hari terakhir yang menonton video tabloid Inggris yang menampilkan pria kulit hitam ditunjukkan prompt yang dibuat secara otomatis menanyakan apakah mereka ingin "terus melihat video tentang Primata," menurut New York Times.

Video Juni 2020 yang dipermasalahkan, diposting oleh Daily Mail, berjudul, "Pria kulit putih memanggil polisi pada pria kulit hitam di marina."

Sementara manusia termasuk di antara banyak spesies dalam keluarga primata, video itu tidak ada hubungannya dengan monyet, simpanse, atau gorila.

Tangkapan layar dari rekomendasi tersebut dibagikan di Twitter oleh mantan manajer desain konten Facebook Darci Groves.

"Permintaan 'terus melihat' ini tidak dapat diterima," tweet Groves, mengarahkan pesan itu ke mantan rekan di Facebook.

Raksasa media sosial yang didirikan oleh Mark Zuckerberg telah menghadapi beberapa kontroversi dalam beberapa tahun terakhir.

Pada tahun 2020, ratusan pengiklan menandatangani kampanye Stop Hate for Profit, yang diselenggarakan oleh kelompok keadilan sosial termasuk Liga Anti-Pencemaran Nama Baik (ADL) dan Free Press, untuk menekan Facebook agar mengambil langkah nyata untuk memblokir ujaran kebencian dan informasi yang salah, di setelah kematian seorang pria kulit hitam, George Floyd dalam tahanan polisi.

Dalam artikel Al Jazeera 2019, David A Love, seorang jurnalis lepas dan profesor studi media yang berbasis di Philadelphia, juga menuduh bahwa perusahaan Zuckerberg dengan sukarela “memungkinkan kelompok kebencian, nasionalis kulit putih, dan ekstremis sayap kanan”.