Deteksi Deepfake di Instagram-Facebook, Meta Perketat Keamanan


Meta

Meta

Meta, perusahaan di balik platform-platform media sosial ternama seperti Instagram, Facebook, dan Threads, telah mengumumkan langkah-langkah baru dalam upaya menghadapi penipuan menggunakan teknologi deepfake. Deepfake, sebuah bentuk konten buatan kecerdasan buatan (Artificial Intelligence) yang sulit dibedakan dari materi asli, telah menjadi perhatian besar karena potensi penyalahgunaannya dalam menyebarkan informasi palsu dan melakukan penipuan online.

Nick Clegg, Presiden Global Affairs di Meta, mengumumkan bahwa perusahaan tersebut mulai mendeteksi dan memberi label pada gambar-gambar deepfake yang diunggah ke platform mereka. Langkah ini merupakan respons atas peningkatan kemampuan teknologi dalam menciptakan konten deepfake dengan kualitas yang semakin menyerupai aslinya.

Langkah-Langkah Deteksi Deepfake oleh Meta:

Meta akan menerapkan kebijakan pemantauan dan pemberian label pada konten yang dibuat menggunakan teknologi AI generatif. Cap tak terlihat akan tertanam di file gambar yang diunggah, memungkinkan Meta untuk mengidentifikasi gambar-gambar deepfake tersebut.

Kebijakan ini tidak hanya berlaku untuk konten yang dibuat melalui platform Meta, tetapi juga untuk konten yang dihasilkan menggunakan platform di luar Meta seperti OpenAI, Midjourney, Shutterstock, dan Google.

Menurut Nick Clegg, Meta sedang mengembangkan sistem yang lebih canggih untuk mengenali video dan audio buatan AI yang diunggah ke platformnya. Meskipun teknologi ini masih dalam tahap pengembangan, Meta optimis bahwa kemampuan deteksinya akan terus berkembang.

Implikasi Kebijakan Deteksi Deepfake:

Langkah Meta dalam mendeteksi deepfake menunjukkan keseriusan perusahaan dalam menghadapi dampak negatif dari penyebaran konten palsu yang dihasilkan menggunakan teknologi AI.

Reuters melaporkan bahwa langkah ini mencerminkan arah kebijakan platform media sosial dan internet secara umum dalam mengurangi dampak buruk dari konten palsu, seperti yang telah dilakukan sebelumnya dalam menangani konten-konten yang melanggar hak cipta atau menggambarkan kekerasan dan eksploitasi terhadap anak-anak.

Cara serupa telah diterapkan dalam 10 tahun terakhir untuk menghapus konten terlarang seperti konten yang menggambarkan kekerasan dan eksploitasi terhadap anak.

Penipuan Menggunakan Teknologi Deepfake:

Selain menjadi perhatian dalam konteks penyebaran informasi palsu, deepfake juga telah digunakan untuk melakukan penipuan online yang merugikan. Sebuah kasus di Hong Kong menyoroti bagaimana deepfake digunakan untuk menipu seorang pekerja keuangan dalam sebuah perusahaan multinasional.

Pekerja keuangan tersebut dipaksa untuk membayar sebesar  US$25 juta (Rp 392,97 miliar) kepada penipu yang menyamar menggunakan teknologi deepfake sebagai kepala keuangan perusahaan dalam panggilan konferensi video. Meskipun awalnya mencurigai pesan phishing yang mengarah ke permintaan transaksi rahasia, pekerja tersebut mempercayai keaslian panggilan video setelah melihat dan mendengar rekan kerja yang "hadir" di dalamnya.

Korban ditipu dengan disuruh untuk menghadiri panggilan video yang disebut akan dihadiri oleh beberapa beberapa anggota staf lainnya. Namun semuanya sebenarnya adalah rekreasi palsu, kata polisi Hong Kong, dikutip dari CNN International, Senin (5/2/2024).

"(Dalam) konferensi video yang dihadiri banyak orang, ternyata semua orang yang [dia lihat] adalah palsu," kata pengawas senior Baron Chan Shun-ching kepada stasiun penyiaran publik kota RTHK.

Hal ini menunjukkan bahwa penipuan menggunakan deepfake tidak hanya menjadi ancaman dalam konteks informasi, tetapi juga dalam transaksi keuangan dan komunikasi bisnis secara luas.

Kasus ini, bersama dengan beberapa kasus lainnya yang melibatkan deepfake, menunjukkan perlunya kesadaran dan langkah-langkah pencegahan yang lebih cermat dalam menghadapi penipuan yang menggunakan teknologi canggih seperti deepfake.

Dalam penanganan kasus tersebut, polisi Hong Kong telah melakukan beberapa penangkapan terhadap pelaku penipuan yang menggunakan teknologi deepfake untuk melakukan kejahatan.

Langkah-langkah Meta dalam mendeteksi dan memberi label pada konten deepfake merupakan respons yang penting terhadap perkembangan teknologi yang semakin canggih dalam menciptakan konten palsu. Meskipun masih dalam tahap pengembangan, langkah ini mencerminkan keseriusan Meta dalam melindungi pengguna platformnya dari penipuan dan penyebaran informasi palsu.

Kasus penipuan menggunakan deepfake juga menyoroti perlunya kesadaran dan langkah-langkah pencegahan yang lebih cermat dari individu dan lembaga dalam menghadapi ancaman penipuan yang menggunakan teknologi canggih. Dengan demikian, kerjasama antara industri, pemerintah, dan masyarakat dalam memerangi penipuan online menjadi semakin penting untuk dilakukan.


Bagikan artikel ini