Kebencian dan hasutan di pasar terbesar: pengungkapan baru menempatkan Facebook di bawah tekanan

Senin 25 Oktober 2021

Kebencian dan hasutan di pasar terbesar
Sebuah pengungkapan baru menekan di Facebook

Untuk ketiga kalinya dalam beberapa minggu, internal Facebook telah diumumkan. Informasi yang diungkapkan baru-baru ini menunjukkan bahwa seruan untuk kekerasan dan pesan kebencian tidak cukup ditindaklanjuti di India, pasar terbesar Facebook. Panggilan untuk lebih banyak kontrol semakin keras.

Raksasa internet AS Facebook berada di bawah tekanan untuk mengungkapkan lebih banyak informasi tentang penanganan insiden kekerasan di pasar India yang kritis. Menurut beberapa media AS selama akhir pekan, mengutip dokumen internal perusahaan, kelompok itu gagal memuat informasi palsu dan pesan kebencian di platform India meskipun ada saran dari para analisnya. Facebook sadar bahwa moderasi yang buruk membuat platformnya rentan terhadap penyalahgunaan.

Facebook telah dituduh oleh mantan manajer produk Frances Haugen karena menempatkan keuntungannya di atas keselamatan orang dan dengan demikian menerima konsekuensi yang mengerikan bagi orang-orang, demokrasi, dan masyarakat. Pelapor lain mengikutinya minggu lalu dan melaporkan, menurut The Washington Post, diskusi internal di mana dugaan campur tangan Rusia dalam pemilihan presiden AS 2016 diremehkan melalui layanan Facebook.

Facebook membantah keras tuduhan tersebut. Namun, penemuan ini telah menyebabkan meningkatnya seruan untuk peraturan yang lebih ketat dari Facebook dan perusahaan Internet secara keseluruhan.

“Lebih banyak orang mati yang digambarkan daripada yang tua.”

Sesuai pengungkapan terbaru, analis Facebook di India melihat peningkatan tajam dalam “rumor dan seruan kekerasan” pada Desember 2019. The Wall Street Journal melaporkan bahwa Whatsapp sangat buruk pada Februari 2020 ketika puluhan orang tewas dalam bentrokan antara umat Hindu dan Muslim. di India. Kelompok itu kemudian mengirim lusinan peneliti ke sana untuk berbicara dengan pengguna tentang pengalaman mereka dengan algoritme platform.

Pada Februari 2019, para ilmuwan juga membuat profil Facebook palsu untuk pengguna berusia 21 tahun di India Utara. Tanpa campur tangan peneliti, Washington Post melaporkan dari memo internal bahwa file tersebut dipenuhi dengan “propaganda” Perdana Menteri nasionalis Hindu Narendra Modi dan “ucapan kebencian terhadap Muslim”. “Saya telah melihat lebih banyak gambar orang mati dalam tiga minggu terakhir daripada yang pernah saya lihat sepanjang hidup saya,” tulis peneliti yang memimpin eksperimen tersebut, menurut New York Times.

India adalah pasar terbesar untuk Facebook dalam hal jumlah pengguna. Namun, menurut laporan media, dokumen internal menunjukkan bahwa sebagian besar anggaran dialokasikan untuk memerangi disinformasi, meskipun hanya mewakili kurang dari 10 persen pengguna.

Seorang juru bicara perusahaan mengatakan perusahaan telah mengintensifkan perjuangannya melawan ujaran kebencian dalam bahasa selain bahasa Inggris. “Ujaran kebencian terhadap kelompok-kelompok yang terpinggirkan, termasuk Muslim, sedang meningkat di seluruh dunia,” kata juru bicara itu, dan Facebook “bekerja untuk meningkatkan penegakan aturannya” untuk mengatasi hal ini.