SUMATERA UTARA — Teknologi AI deepfake kini mampu memanipulasi gambar, video, dan suara hingga nyaris tak terbedakan dari aslinya. Kemampuan Generative Adversarial Networks (GAN) dan Deep Neural Networks (DNN) membuat wajah dan suara seseorang bisa "diperankan" tanpa persetujuannya. Bagi pengguna smartphone aktif, pemahaman soal deepfake jadi kian mendesak seiring maraknya penipuan berbasis audio dan video palsu.
Deepfake adalah konten gambar, video, atau audio yang dibuat maupun dimanipulasi memakai kecerdasan buatan sehingga tampak seperti rekaman asli. Manipulasi bisa membuat seseorang seolah mengucapkan kalimat atau melakukan tindakan yang tidak pernah terjadi.
Contoh paling gampang: video seseorang yang tampak berpidato, padahal ia tak pernah menyampaikan kalimat itu. Ada pula suara anggota keluarga yang ditiru AI untuk menghasilkan ucapan baru.
Deepfake punya sisi sah. Industri film memakainya untuk efek visual, kreator konten memakainya untuk hiburan, dan studio produksi memanfaatkannya guna efisiensi biaya syuting.
Masalah muncul saat teknologi dipakai tanpa izin. Wajah atau suara orang bisa dijadikan alat penipuan, penyebaran hoaks, hingga perusakan reputasi. Risiko ini makin relevan bagi pengguna Indonesia yang aktif bertransaksi digital lewat smartphone.
AI mempelajari pola dari data gambar, video, atau rekaman suara seseorang. Teknologi Deep Neural Networks (DNN) membantu AI mengenali pola tersebut, sementara Generative Adversarial Networks (GAN) menjadi salah satu metode untuk memproduksi konten buatan.
Setelah pola dikuasai, AI bisa membuat wajah seseorang tampak berbicara, menyelaraskan gerakan bibir dengan suara, atau meniru karakteristik vokal untuk menghasilkan ucapan baru. Hasilnya bisa sangat meyakinkan, bahkan dalam video yang diproses secara real-time.
Kualitas akhir tetap bergantung pada teknologi dan sistem yang dipakai. Tidak semua deepfake dibuat dengan cara sama, dan tidak semuanya bisa dihasilkan langsung saat itu juga.
Wajah seseorang ditiru atau ditempelkan ke tubuh orang lain. Gerakan bibirnya disesuaikan agar seolah mengucapkan kalimat tertentu, meski orang tersebut tidak pernah mengucapkannya.
Suara seseorang ditiru AI untuk menghasilkan ucapan yang tidak pernah ia sampaikan. Modus ini kerap dipakai meniru suara anggota keluarga atau atasan demi melancarkan penipuan transfer uang.
Foto seseorang dimanipulasi atau dibuat dari nol agar tampak berada dalam situasi yang sebenarnya tidak pernah terjadi, misalnya seolah sedang berada di lokasi tertentu.
AI mengubah wajah atau suara seseorang saat panggilan video berlangsung. Kemampuan ini bergantung pada teknologi yang dipakai dan belum tentu bisa dijalankan semua perangkat.
Risiko terbesar deepfake adalah penipuan. Pelaku bisa meniru suara anggota keluarga untuk meminta transfer uang, atau membuat video palsu berisi instruksi tertentu yang tampak berasal dari figur berwenang.
Deepfake juga dipakai menyebarkan informasi palsu dan memanipulasi opini publik. Gambar atau video buatan tanpa persetujuan orang bersangkutan berpotensi jadi alat pelecehan maupun penyalahgunaan identitas.
Konten deepfake yang dibuat rapi bisa sangat meyakinkan. Jika langsung dipercaya dan disebarkan tanpa diperiksa, konten tersebut berpotensi menyesatkan banyak orang dalam hitungan jam.
Mengenali deepfake tidak selalu mudah karena teknologi pembuatannya terus berkembang. Meski begitu, ada beberapa hal yang bisa diperiksa sebelum mempercayai atau meneruskan konten.
Perhatikan detail visual: gerakan bibir, ekspresi wajah, pencahayaan, atau bagian gambar yang terlihat tidak wajar. Dengarkan pula suaranya, apakah intonasi, pelafalan, atau suara latar terdengar janggal.
Langkah terakhir, periksa sumber konten. Cari tahu siapa yang pertama kali mengunggah dan apakah ada media kredibel yang memberitakannya. Untuk permintaan uang lewat panggilan suara atau video, verifikasi ulang lewat kanal lain sebelum bertindak.