JABAR EKSPRES – Dengan kemajuan teknologi yang semakin canggih, munculnya konten penipuan berbasis Deepfake atau konten buatan AI yang sulit dibedakan dari foto, video, dan suara asli telah menjadi perhatian di platform seperti Instagram, Facebook, dan Threads.
Identifikasi konten AI didasarkan pada “cap” yang tertanam di file gambar, yang dapat dideteksi oleh sistem Meta.
Langkah ini menandai upaya Meta dalam menghadapi masalah penyebaran konten penipuan yang dihasilkan melalui rekayasa AI yang diposting di Facebook dan Instagram.
Baca Juga:Tata Cara Shalat Jenazah Lengkap dengan Bacaan Doa3 Cara Cek Umur Kartu Telkomsel Mudah dan Cepat
Sebelumnya, kebijakan serupa telah diterapkan untuk menghapus konten terlarang seperti kekerasan dan eksploitasi anak-anak.
Meskipun Meta yakin bahwa sistem mereka dapat mengenali setiap gambar buatan AI, mereka masih mengembangkan sistem serupa untuk mengenali video dan audio AI.
Sampai sistem identifikasi yang sempurna tersedia, Meta akan meminta pengguna untuk memberikan label pada konten audio dan video AI yang diunggah, dengan pelanggar dikenai penalti.
Kendati demikian, Meta belum memberikan kejelasan mengenai rencana mereka untuk konten AI yang tersebar di WhatsApp.
Modus Penipuan Baru di Facebook dan Instagram Menggunakan Deepfake
Selain menjadi perhatian dalam konteks keamanan online, konten Deepfake juga telah digunakan dalam penipuan.
Sebuah kasus di Hong Kong menunjukkan bagaimana seorang pekerja keuangan tertipu untuk membayar US$25 juta kepada penipu yang menggunakan teknologi Deepfake.
Penipu menyamar sebagai kepala keuangan perusahaan dalam panggilan konferensi video yang ternyata berisi rekreasi palsu.