JABAR EKSPRES – Dengan kemajuan teknologi yang semakin canggih, munculnya konten penipuan berbasis Deepfake atau konten buatan AI yang sulit dibedakan dari foto, video, dan suara asli telah menjadi perhatian di platform seperti Instagram, Facebook, dan Threads.

Meta, perusahaan di balik kedua platform tersebut, telah mengambil langkah untuk mengatasi masalah ini dengan memberikan label khusus pada konten yang dihasilkan menggunakan teknologi AI.

Baca juga : Aplikasi TRA Football Investasi Atau Skema Penipuan Berkedok Perjudian?

Presiden Global Affairs Meta, Nick Clegg, mengumumkan kebijakan baru yang memantau dan memberikan label pada konten hasil karya AI, baik yang dibuat menggunakan platform Meta maupun platform lain di luar Meta.

Identifikasi konten AI didasarkan pada “cap” yang tertanam di file gambar, yang dapat dideteksi oleh sistem Meta.

Langkah ini menandai upaya Meta dalam menghadapi masalah penyebaran konten penipuan yang dihasilkan melalui rekayasa AI yang diposting di Facebook dan Instagram.

Sebelumnya, kebijakan serupa telah diterapkan untuk menghapus konten terlarang seperti kekerasan dan eksploitasi anak-anak.

Meskipun Meta yakin bahwa sistem mereka dapat mengenali setiap gambar buatan AI, mereka masih mengembangkan sistem serupa untuk mengenali video dan audio AI.

Sampai sistem identifikasi yang sempurna tersedia, Meta akan meminta pengguna untuk memberikan label pada konten audio dan video AI yang diunggah, dengan pelanggar dikenai penalti.

Kendati demikian, Meta belum memberikan kejelasan mengenai rencana mereka untuk konten AI yang tersebar di WhatsApp.

Modus Penipuan Baru di Facebook dan Instagram Menggunakan Deepfake

Selain menjadi perhatian dalam konteks keamanan online, konten Deepfake juga telah digunakan dalam penipuan.

Sebuah kasus di Hong Kong menunjukkan bagaimana seorang pekerja keuangan tertipu untuk membayar US$25 juta kepada penipu yang menggunakan teknologi Deepfake.

Penipu menyamar sebagai kepala keuangan perusahaan dalam panggilan konferensi video yang ternyata berisi rekreasi palsu.

Meskipun awalnya curiga, pekerja tersebut percaya karena anggota staf lainnya dalam panggilan tersebut tampak dan terdengar seperti orang sungguhan.