10drama.com– Kemajuan teknologi tidak selalu memberikan dampak yang baik. Keberadaan teknologi terbaru justru dapat dimanfaatkan secara salah dan digunakan untuk tujuan yang merugikan. Salah satunya adalahdeepfake yang lahir dari teknologi kecerdasan buatan.
Deepfake artinya adalah teknologi yang memungkinkan pembuatan gambar, video, dan rekaman audio palsu dengan kualitas sedemikian rupa sehingga terlihat nyata dan meyakinkan.
Secara sederhana, apa itu deepfake? Deepfake adalah jenis teknologi AI yang meniru wajah, suara, dan gerakan manusia untuk membuat konten digital seolah-olah asli.
Teknologi deepfake menjadi berisiko jika digunakan untuk membuat konten di mana seseorang tampak melakukan sesuatu yang sebenarnya tidak pernah mereka lakukan.
Deepfake dapat meniru suara serta wajah manusia. Lalu, bagaimana mekanisme kerjanya?
Deepfake dan cara kerjanya
Dikutip dari 10drama.com, TechTarget menjelaskan bahwa istilah deepfake berasal dari penggabungan kata “deep learning” dan “fake”. Makna deepfake dalam konteks ini mengacu pada teknologi yang menggunakan deep learning untuk menciptakan materi palsu.
Deep learningmerupakan bagian dari teknologi kecerdasan buatan yang menggunakan algoritma untuk mengubah atau menciptakan konten visual dan suara.
Sementara fake, adalah istilah yang menggambarkan bahwa konten yang dihasilkandeepfakemerupakan palsu atau tidak nyata.
Konten deepfake berbeda dengan video atau gambar yang diubah secara manual menggunakan aplikasi seperti Photoshop.Deepfakesendiri dibuat dengan menggunakan algoritma khusus yang menggabungkan rekaman lama dan baru.
Sebagai contoh, wajah seseorang pada gambar dipelajari menggunakan teknik pembelajaran mesin (machine learning/ML). Kemudian bahan analisis tersebut nantinya akan digunakan untuk dibuat versi “tiruannya” dalam konteks video lain.
Adapun cara kerja teknologi ini yaitu menggunakan kombinasi dua algoritma yaitu generator dan diskriminator. Kedua algoritma ini akan menghasilkan sistem bernama Generative Adversarial Network (GAN).
GAN ini kemudian akan bekerja dengan mengenali pola dalam gambar atau video dari sumber asli yang ingin direkayasa, lalu pola tersebut digunakan untuk membuat konten palsu sesuai keinginan si pengguna.
Saat membuat konten foto deepfakemisalnya, sistem GAN akan melihat foto sumber dari berbagai sudut dan menangkap seluruh detail serta perspektifnya agar dapat ditiru seakurat mungkin.
Metode ini juga mirip dengan cara saat menghasilkan konten videodeepfake. Namun, perbedaannya adalah sistem akan melakukan analisis yang jauh lebih mendetail hingga ke tingkat perilaku, gerakan, dan pola bicara dalam video sumber.
Setelah menganalisis pola-pola tersebut, sistem akan mengumpulkan seluruh informasi dan meneruskannya melalui diskriminator beberapa kali agar meningkatkan kesamaan gambar atau video dengan sumber aslinya.
Bisa meniru wajah dan suara
Seperti yang telah disebutkan di atas, teknologideepfakedapat menciptakan wajah dan suara seseorang secara sangat realistis dan terlihat meyakinkan. Konten yang ditampilkan diklaim mampu meniru gerakan bibir, bahkan ekspresi, serta intonasi suara dari orang yang direkayasa tersebut.
Konten olahan deepfake biasanya dibuat dengan dua cara. Pertama, menggunakan konten seperti video asli yang berisi wajah atau gerakan tubuh seseorang yang ingin diubah. Kedua, mengganti wajah orang tersebut ke dalam konten lain (face swap).
Bukan hanya gambar atau video, teknologideepfakejuga mampu menirukan suara seseorang secara mirip.
Metode kerjanya mirip dengan konten foto dan video, di mana model AI akan belajar pola suara seseorang dan menghasilkan rekaman yang terdengar hampir sama dengan suara aslinya.
Deepfakeaudio sering dikombinasikan denganlip–sync, yaitu konten palsu yang memanfaatkan sinkronisasi bibir di mana suara seseorang disesuaikan dengan gerakan bibir dalam video asli, sehingga terlihat nyata seolah-olah dikatakan langsung oleh orang tersebut.
Bahaya deepfake di kehidupan nyata
Konten-konten yang dihasilkan teknologi deepfakebisa berisiko. Karena materi ini dapat dimanipulasi untuk melakukan penipuan, pemerasan, merusak nama baik, hingga menyebarkan konten pornografi.
Sementara pelaku tindak pidana ini sering memanfaatkandeepfakeuntuk menyebarkan berita palsu yang bahkan melibatkan tokoh politik atau figuran publik agar terlihat lebih meyakinkan.
Penipuan berkedok deepfakehal ini juga dilaporkan pernah terjadi di berbagai negara lain dengan informasi yang salah yang bervariasi, meliputi:
- Pendiri Meta, Mark Zuckerberg yang menunjukkan kebanggaannya terhadap jumlah pengguna Facebook.
- Mantan presiden Amerika Serikat, Joe Biden yang dikabarkan mengalami penurunan kemampuan kognitif. Video tersebut dibuat dengan tujuan memengaruhi pemilihan presiden tahun 2020.
- Foto Paus Fransiskus memakai jaket tebal
- Mantan presiden Amerika Serikat, Donald Trump, terlibat pergulatan dengan petugas kepolisian.
- Video CEO Facebook Mark Zuckerberg yang menyampaikan pidato mengenai kekuatan negatif perusahaannya
- Video Ratu Elizabeth yang sedang menari dan berbicara mengenai kekuatan teknologi
Tips mendeteksi konten deepfake
Dihimpun 10drama.comTekno dari laman TechTargetada tiga cara utama yang dapat dilakukan untuk mengidentifikasi konten-konten yang beredar di internet dan kemungkinan dibuat menggunakan teknologideepfake.
Pertama, perhatikan ekspresi wajah atau gerakan mata dalam video tersebut. Dijelaskan bahwa posisi wajah pada konten palsu umumnya terlihat tidak alami dan mata jarang berkedip, berbeda dengan video yang menampilkan manusia asli.
Kedua, perhatikan pencahayaan atau bayangan yang terlihat pada subjek dalam video. Konten deepfake sering kali menunjukkan pencahayaan yang tidak sempurna dan terasa tidak alami. Selain itu, ketika video diperbesar, akan terlihat tidak wajar.
Ketiga, periksa keselarasan antara gerakan bibir dan suara yang dihasilkan. Dijelaskan bahwa video palsu sering kali menunjukkan ketidaksesuaian antara pergerakan mulut dengan suara yang terdengar.
Berikut beberapa tips yang diharapkan dapat membantu pembaca lebih waspada dan terhindar dari informasi palsu yang dibuat dengan bantuan teknologi.deepfake.
Dengan memahami konsep deepfake, makna deepfake, serta ciri-cirinya, diharapkan pembaca lebih waspada terhadap berita palsu yang dihasilkan oleh teknologi ini.