Cegah Konten Terorisme, Facebook Manfaatkan Teknologi Artificial Intelligence


Facebook Hoax News

Ilustrasi Facebook Berita Hoax

Ketika mendeteksi dan menghapus konten yang terkait dengan kelompok teroris dan kebencian terorganisir, Facebook menggunakan Artificial Intelligent (AI) atau kecerdasan buatan yang canggih.

Dengan teknologi tersebut, Facebook mampu mendeteksi dan memahami konteks konten yang melanggar standar komunitas seperti teks yang disematkan dalam gambar dan video, pencocokan media untuk menemukan konten identik dengan foto, video, teks, dan bahkan audio yang telah Facebook hapus sebelumnya.

“Teknologi kecerdasan buatan secara proaktif memfilter konten-konten yang berpotensi melanggar,” kata Head of Counter-Terrorism and Dangerous Organizations Facebook APAC, Nawab Osman saat diskusi virtual bertajuk "Facebook - Dangerous Organisations: Under the Hood Press Briefing" dilansir IDX Channel, Senin (6/9).

Setidaknya ada enam teknik dalam penggunaan dan pemanfaatan teknologi Facebook untuk memerangi konten terorisme.

DIkutip dari IDX Channel, mulai dari mengumpulkan propaganda terorisme dari kanal-kanal distribusi yang ada, mencocokkan gambar dan video untuk mencegah konten kekerasan di masa mendatang, menggolongkan konten untuk memahami teks, mengidentifikasi kelompok organisasi berbahaya, mengidentifikasi akun berbahaya yang sebelumnya telah dihapus, hingga membagikan informasi penting untuk pengguna di semua platform.

Osman menyebutkan sekitar 99,7 persen konten teroris dan 97,8 persen konten kebencian terorganisir ditindak oleh Facebook pada April hingga Juni 2021. Konten tersebut diidentifikasi secara proaktif menggunakan teknologi yang terus diperbarui, bahkan sering kali sebelum ada orang yang melihatnya.

“Kami perlu memahami bahwa pelaku sangat pintar dalam mengakali sistem kami. Oleh sebab itu, jika AI tidak yakin apakah konten ini melanggar atau tidak, kami punya ribuan content reviewer yang memiliki keahlian dan akan memutuskan apakah konten tersebut melanggar standar komunitas atau tidak,” kata Osman.

Ia menyebutkan setidaknya ada 350 orang yang tergabung dalam tim spesialis yang berfokus untuk mengatasi isu organisasi berbahaya di platform Facebook, Instagram, dan WhatsApp. Osman mengatakan tim pakar dan content policy secara proaktif memantau dan menganalisis laporan berita hingga melakukan riset terkait konten serta isu terorisme dan kebencian terorganisir.

“Kami memiliki standar komunitas yang menjelaskan parameter pelanggaran konten terorisme dan kebencian terorganisir atau apa yang boleh dan tidak boleh diunggah di Facebook,” ujar Osman.

Osman mengatakan Facebook berkomitmen agar menciptakan platform tetap aman di samping menjaga kebebasan berpendapat serta hak asasi manusia. Untuk menguatkan komitmen tersebut, Facebook juga bekerja sama dengan perusahaan lain, masyarakat sipil, peneliti, dan pemerintah