digitalMamaID – Di era digital, kemampuan kecerdasan buatan (artificial intelligence/AI) dalam menghasilkan gambar, video, dan teks semakin canggih dan realistis. Hal ini membuat siapapun semakin sulit membedakan konten atau informasi yang asli dan yang palsu, salah satunya deepfake. Tipe AI ini mampu mengecoh mata biasa, seringkali deepfake juga digunakan untuk memanipulasi dan menyebarkan disinformasi.
Deepfake berasal dari kata “deep learning” dan “fake”. Dalam buku Luka-Luka Linimasa karya Kalis Mardiasih dijelaskan, deepfake terdiri dari dua jaringan saraf, yaitu generator dan diskriminator. Generator dan diskriminator ini bekerja beriringan untuk menciptakan suatu manipulasi yang tampak seperti nyata.
Walau tidak sepenuhnya ilegal tapi, kehadiran deepfake bisa menjadi sebuah ancaman. Banyak artis-artis Hollywood bahkan politikus pernah menjadi korban deepfake.
Cara mendeteksi deepfake
Lalu adakah cara untuk mendeteksi deepfake? Tentu saja! Seiring kemajuan teknologi di balik deepfake, berkembang pula alat dan teknik yang dirancang untuk mendeteksinya. Ada lima alat dan teknik untuk mendeteksi deepfake, yaitu:
1. Sentinel
Sentinel sebetulnya tidak secara eksplisit diciptakan untuk deteksi deepfake. Awalnya perusahaan ini berfokus pada verifikasi AI dan autentikasi media. Produk utamanya, Media Trust, dirancang khusus untuk memahami berbagai format media, termasuk gambar dan video, serta apakah AI digunakan di dalamnya. Namun, adanya fitur khusus ini justru menjadikan Sentinel sebagai detektor deepfake. Selain itu, alat ini dapat mengidentifikasi artefak dan ketidakkonsistenan dalam media serta menjalankan seluruh proses menggunakan model pembelajaran mesin.
Dilansir dari Unite.ai, teknologi Sentinel digunakan oleh berbagai organisasi terkemuka di Eropa. Sistem ini bekerja dengan memungkinkan pengguna mengunggah media digital melalui situs web atau API mereka. Kemudian secara otomatis dianalisis untuk pemalsuan AI. Sistem ini menentukan apakah media tersebut deepfake atau bukan dan memberikan visualisasi manipulasi.
Teknologi ini menggunakan algoritma AI canggih untuk menganalisis media yang diunggah dan menentukan apakah media tersebut telah dimanipulasi. Sistem ini memberikan laporan terperinci tentang temuannya, termasuk visualisasi area media yang telah diubah. Hal ini memungkinkan pengguna untuk melihat dengan tepat di mana dan bagaimana media tersebut telah dimanipulasi. Teknologi deteksi deepfake Sentinel dirancang untuk melindungi integritas media digital.
Fitur Utama:
- Deteksi deepfake berbasis AI
- 500 halaman, 500 tingkatan dan 1000 permintaan per hari dengan penyimpanan 10 MB
- Memberikan visualisasi manipulasi
2. Intels’s FakeCatcher
Intel meluncurkan detektor deepfake real-time yang dikenal sebagai FakeCatcher. Teknologi ini diklaim dapat mendeteksi video palsu dengan tingkat akurasi 96% dan memberikan hasil dalam hitungan milidetik. Detektor yang dirancang bekerja sama dengan Umur Ciftci dari Universitas Negeri New York di Binghamton ini menggunakan perangkat keras dan perangkat lunak Intel.
Tidak seperti pendekatan detektor lain, FakeCatcher mencari petunjuk autentik dalam perubahan fisiologis manusia, ia mencatat pola darah dalam piksel video. Saat jantung memompa darah, pembuluh darah akan berubah warna. Sinyal aliran darah ini dikumpulkan dari seluruh wajah dan algoritma menerjemahkan sinyal ini ke dalam peta spasiotemporal. Kemudian, ia dapat langsung mendeteksi apakah video itu asli atau palsu.
Fitur utama:
- Deteksi data real-time
- Akurasi 96%
- Respon dalam milidetik, jadi ideal bagi pengguna yang membutuhkan tugas yang diselesaikan segera
- Melacak pola aliran darah dalam klip video
3. WeVerify
WeVerify adalah layanan yang secara khusus dibuat untuk mengidentifikasi manipulasi media, dalam hal ini deepfake. Berfokus pada analisis dan kontekstualisasi konten media sosial dan web dalam ekosistem daring yang lebih luas untuk mengungkap konten yang direkayasa.
Menurut TechTipsWithTea, hal ini dicapai melalui alat multimoda yang mengintegrasikan beberapa teknik yang menganalisis ketidakkonsistenan media visual, baik itu kesalahan pencahayaan, keburaman atau bahkan proporsi objek. Selain itu, alat ini juga menganalisis ketidakkonsistenan dalam modulasi suara, apakah itu perbedaan pola bicara atau bahkan kebisingan latar belakang lainnya. Yang lebih penting, WeVerify melakukan pemeriksaan pada media sosial untuk menemukan pelaku yang pertama kali menyebarkan manipulasi.
Fitur utama:
- Forensik audio melacak ketidakkonsistenan dalam pola bicara, kloning suara, artefak, dan bahkan kebisingan latar belakang.
- Karena sebagian besar informasi palsu tersedia di media sosial, WeVerify melacak pengguna/alamat IP pertama yang melaluinya media tersebut dibagikan.
- DeepFake mempraktikkan teknik multimoda seperti yang disebutkan di atas.
- Menggunakan database publik berbasis blockchain yang berisi informasi palsu yang diketahui
4. Microsoft’s Video Authenticator Tool
Video Authenticator milik Microsoft bekerja dengan mencoba mendeteksi tanda-tanda yang menunjukkan bahwa suatu gambar telah dibuat secara artifisial, yang mungkin tidak terlihat oleh mata manusia. Dalam kasus video, ia dapat memberikan persentase secara real-time pada setiap bingkai saat video diputar. Ia bekerja dengan mendeteksi batas pencampuran deepfake dan pemudaran halus atau elemen skala abu-abu yang tidak terdeteksi oleh mata manusia.
Dilansir dari Microsoft teknologi ini awalnya dikembangkan oleh Microsoft Research yang bekerja sama dengan tim Responsible AI Microsoft dan Komite Microsoft AI, Ethics and Effects in Engineering and Research (AETHER) yang merupakan dewan penasihat di Microsoft yang membantu memastikan bahwa teknologi baru dikembangkan dan diterapkan secara bertanggung jawab. Video Authenticator dibuat menggunakan kumpulan data publik dari Face Forensic++ dan diuji pada DeepFake Detection Challenge Dataset, keduanya merupakan model terkemuka untuk pelatihan dan pengujian teknologi deteksi deepfake.
Fitur utama:
- Menganalisis foto atau video diam.
- Memberikan skor keyakinan secara real-time.
- Mendeteksi perubahan skala abu-abu yang halus.
- Memungkinkan deteksi deepfake secara langsung.
5. Phoneme-Viseme Mismatch Detector
Teknik inovatif ini, yang dikembangkan oleh para peneliti dari Universitas Stanford dan Universitas California, memanfaatkan fakta bahwa viseme, yang merupakan singkatan visual phoneme, adalah representasi visual dari suatu fonem, terkadang berbeda atau tidak konsisten dengan fonem yang diucapkan. Ketidakkonsistenan ini merupakan kelemahan umum dalam deepfake, karena AI sering kali kesulitan untuk mencocokkan gerakan mulut dengan kata-kata yang diucapkan secara sempurna.
Teknik Phoneme-Viseme Mismatch menggunakan algoritma AI tingkat lanjut untuk menganalisis video dan mendeteksi ketidakkonsistenan ini. Teknik ini membandingkan gerakan mulut (viseme) dengan kata-kata yang diucapkan (fonem) dan mencari ketidakcocokan. Jika ketidakcocokan terdeteksi, ini merupakan indikasi kuat bahwa video tersebut adalah deepfake.
Fitur utama:
- Berfokus pada gerakan bibir dan ketidakkonsistenan suara di setiap bingkai video.
- Ia bekerja dengan klip video beresolusi rendah.
- Mendeteksi manipulasi AI yang halus.
- Berfokus pada fonem yang memerlukan gerakan mulut yang lengkap.
- Model sumber terbuka.
Ancaman deepfake semakin nyata dan berpotensi mengganggu segalanya, mulai dari ranah pribadi hingga urusan negara, sehingga kebutuhan akan deteksi deepfake yang efektif menjadi lebih penting dari sebelumnya.
Namun, perlu untuk diingat bahwa teknologi saja tidak dapat menyelesaikan masalah deepfake. Perlunya literasi digital, bagaimana menjadi konsumen konten yang lebih cerdas, mempertanyakan sumber informasi, dan mencari tanda-tanda manipulasi. Dengan terus mendapatkan edukasi tentang perkembangan terbaru dalam teknologi dan deteksi deepfake, siapapun dapat berperan dalam memerangi ancaman ini. [*]
