Facebook mengatakan AI-nya dapat mendeteksi deepfake dan menentukan sumbernya – Berita Marseille

Kecerdasan buatan (AI) telah maju ke titik di mana komputer dapat belajar membuat “kepalsuan yang mendalam” dengan menggabungkan foto dan video asli. Kami telah melihat deepfake sebelumnya – video yang konon menampilkan selebritas terkenal, yang sebenarnya palsu. Hasil video atau foto palsu yang dalam bisa menyenangkan dan tidak berbahaya, seperti foto di atas Bayangkan seperti apa Captain America karya John Krasinski. Tetapi orang jahat dapat menggunakan teknologi deepfake untuk menyebarkan informasi yang salah, karena teknologi tersebut memungkinkan penyerang tampil sebagai politisi dan membuat mereka mengatakan hampir semua hal.

Deepfake ini dapat menyebar seperti api di media sosial dan berpotensi melakukan banyak kerusakan sebelum dapat diekspos. Di sinilah Facebook dapat menyelamatkan, karena peneliti AI perusahaan telah mengembangkan teknologi yang tidak hanya mendeteksi deepfake. Facebook mengklaim bahwa AI-nya memang dapat melacak asal usul deepfake dengan menemukan karakteristik unik yang dapat membantunya mengidentifikasi sumber deepfake yang dimaksudkan untuk menyebarkan disinformasi.

PENAWARAN TERBAIK HARI INI Bagaimana colokan mini pintar baru di Amazon ini berharga hanya $4,24 masing-masing?! Daftar Harga: $21,96 Harga: $16,97 Anda Akan Menghemat: $4,99 (23%) Tersedia di amazon. Anda mungkin menerima komisi Beli Sekarang yang tersedia di Amazon. Anda bisa mendapatkan komisi

Melihat Facebook di garis depan perang melawan deepfake sudah menyegarkan, dengan teknologi deepfake menyebar luas di aplikasi sosial Facebook termasuk Facebook, Messenger, WhatsApp dan Instagram.

Perusahaan telah bermitra dengan Michigan State University untuk menciptakan teknologi yang dapat mendeteksi apakah video atau foto itu palsu atau asli.

Facebook menggunakan kecerdasan buatannya sendiri untuk mencari bukti bahwa foto atau video telah dirusak. Teknik yang sama dapat digunakan untuk mengidentifikasi kesamaan antara deepfake dan membuat sidik jari yang dapat mengidentifikasi asal deepfake berbahaya:

Metode rekayasa balik kami didasarkan pada penemuan pola unik di balik model AI yang digunakan untuk membuat satu gambar deepfake. Kita mulai dengan memetakan gambar dan kemudian menentukan properti model yang digunakan untuk membuat gambar. Dengan menggeneralisasi penetapan gambar untuk pengenalan grup terbuka, kami dapat menyimpulkan lebih banyak informasi tentang model generatif yang digunakan untuk membuat kepalsuan mendalam tanpa menyadari bahwa itu belum pernah terlihat sebelumnya. Dan dengan menelusuri kesamaan antara model dalam kumpulan foto palsu, kami juga dapat mengetahui apakah serangkaian foto berasal dari satu sumber. Kemampuan untuk mendeteksi deepfake yang dihasilkan dari model AI yang sama dapat berguna dalam mendeteksi contoh disinformasi terkoordinasi atau serangan berbahaya lainnya yang diluncurkan menggunakan deepfake.

Sementara penyerang dapat menyembunyikan jejak mereka sambil membuat pemalsuan mendalam untuk tujuan jahat, AI Facebook masih dapat memulihkan elemen sidik jari yang memungkinkan penyelidik menentukan sumbernya.

Facebook menyamakan algoritme dengan teknologi yang memungkinkan seseorang mengidentifikasi komponen mobil berdasarkan suaranya, meskipun mereka belum pernah mendengar suara mobil sebelumnya:

Untuk lebih memahami hyperparameter, pikirkan model generatif sebagai jenis mobil dan hyperparameternya sebagai berbagai komponen mesin tertentu. Mobil yang berbeda mungkin terlihat sama, tetapi di balik kap mesin mereka dapat memiliki mesin yang sangat berbeda dengan komponen yang sangat berbeda. Pendekatan kami terhadap reverse engineering agak mirip dengan mengenali komponen mobil berdasarkan suaranya, meskipun itu adalah mobil baru yang belum pernah kami dengar.

Facebook masih menyempurnakan teknologi deteksi deepfake, tetapi mengatakan bahwa “pekerjaan ini akan memberikan alat peneliti dan praktisi untuk menyelidiki lebih baik insiden disinformasi yang diatur menggunakan deepfake, serta membuka arah baru untuk penelitian di masa depan.” Blog Facebook lengkap tentang topik ini tersedia di tautan ini.

Kesepakatan terbaik hari ini Roku Express 4K+ yang semuanya baru telah menerima diskon besar pertamanya di Amazon! Daftar Harga: $39.99 Harga: $29.99 Anda Hemat: $10.00 (25%) Tersedia di amazon. Anda mungkin menerima komisi Beli Sekarang yang tersedia di Amazon. Anda bisa mendapatkan komisi