Teknik. Algoritma Facebook salah mengidentifikasi orang kulit hitam dan monyet

Algoritme rekomendasi Facebook bertanya kepada pengguna apakah mereka ingin menonton “video penting” lainnya dalam video tabloid Inggris yang menampilkan orang kulit hitam, The New York Times Jumat. Video surat harian, lebih dari setahun yang lalu, berjudul “Orang Kulit Putih Memanggil Polisi Melawan Orang Kulit Hitam di Marina”. Itu hanya menunjukkan orang, bukan monyet.

Di bawah, pertanyaan “Apakah Anda melihat lebih banyak video primata?” Opsi “Ya/Tolak” ditampilkan di layar beberapa pengguna, menurut tangkapan layar yang diposting ke Twitter oleh Darci Groves, mantan desainer raksasa media sosial itu. “Ini memalukan,” komentarnya, meminta mantan rekan Facebooknya untuk mengeskalasi masalah ini.

Seorang juru bicara Facebook menjawab: “Ini jelas kesalahan yang tidak dapat diterima.” “Kami meminta maaf kepada semua orang yang melihat rekomendasi yang menghina ini,” tambahnya. Dia mengatakan kelompok California menonaktifkan alat rekomendasi pada topik ini “segera setelah kami melihat apa yang terjadi untuk menyelidiki penyebab masalah dan mencegah terulangnya kembali.”

Kecerdasan buatan ‘tidak sempurna’

Kasus ini menyoroti batasan teknologi AI, yang secara teratur disorot oleh platform dalam upayanya untuk membangun umpan yang dipersonalisasi untuk masing-masing dari 3 miliar pengguna bulanannya. Juru bicara Facebook melanjutkan, “Seperti yang telah kami katakan, meskipun kami telah meningkatkan sistem AI kami, kami tahu itu tidak sempurna dan kami harus membuat kemajuan.”

Mereka juga menggunakannya secara ekstensif untuk memoderasi konten, untuk mengidentifikasi dan memblokir pesan dan foto yang bermasalah bahkan sebelum terlihat.

Twitter pendahulunya

Facebook, seperti para pesaingnya, sering dituduh gagal mengatasi rasisme dan bentuk kebencian dan diskriminasi lainnya.

Pada tahun lalu, algoritma Twitter telah dikritik sebagai rasis. Pengguna internet telah memperhatikan bahwa kecerdasan buatan dari jejaring sosial yang digunakan untuk memparafrasekan foto-foto yang diposting di platform menunjukkan orang kulit putih dengan mengorbankan orang kulit hitam.

Contoh Tweet di bawah ini: Gambar – secara vertikal – menampilkan wajah Barack Obama dan Senator kulit putih dari Partai Republik Mitch McConnell. Terlepas dari urutan penempatan wajah, pemotongan otomatis Twitter hanya menempatkan gambar di tengah gambar pada wajah kedua.

Topik tersebut meningkatkan ketegangan karena beberapa organisasi masyarakat sipil menuduh jaringan sosial dan algoritme mereka berkontribusi pada perpecahan masyarakat Amerika, dalam konteks demonstrasi gerakan Black Lives Matter. menghitung).