Jakarta, Rasional.co – Wakil Menteri Komunikasi dan Digital Nezar Patria mendorong pengembang kecerdasan artifisial (AI) dan platform digital lebih aktif mendeteksi deepfake untuk mencegah penipuan. Ia juga menekankan pentingnya jejak keaslian konten agar masyarakat dapat membedakan materi asli dari hasil manipulasi AI.
Nezar menilai ancaman deepfake perlu mendapat perhatian serius karena video yang meniru wajah dan suara seseorang dapat menyesatkan masyarakat. Korban penipuan tidak hanya berasal dari kelompok rentan, seperti anak-anak dan warga lanjut usia, tetapi juga kalangan terpelajar.
“Video-video palsu yang dibuat dengan teknologi deepfake AI itu berhasil menipu banyak sekali masyarakat kita, terutama mereka yang cukup rentan, mereka yang di usia lanjut dan anak-anak. Bahkan mereka yang terpelajar juga banyak menjadi korban,” kata Nezar dalam acara IT Governance, Risk Management, Assurance, and Cybersecurity Summit 2026 di Jakarta Selatan, Rabu (14/10/2026).
Ia mencontohkan kasus pencatutan nama sejumlah gubernur dalam video deepfake yang beredar pada tahun sebelumnya. Video tersebut digunakan untuk mendorong masyarakat mendepositokan uang ke rekening tertentu hingga mengakibatkan kerugian puluhan juta rupiah.
“Tidak tanggung-tanggung, pembuatan video deepfake misalnya, itu mencatut nama-nama orang yang cukup terkenal, bahkan presiden sekalipun dicatut. Sejumlah gubernur, tahun lalu, menjadi korban karena digunakan dalam video-video yang beredar untuk menganjurkan masyarakat mendepositokan uang yang mengakibatkan kerugian puluhan juta,” imbuhnya.
Jejak Keaslian untuk Kenali Manipulasi AI
Nezar menegaskan tanggung jawab pendeteksian deepfake perlu dibebankan kepada platform penyedia konten dan pengembang AI. Menurut dia, salah satu pendekatan yang perlu diterapkan adalah provenance and authenticity, yakni jejak keaslian yang membantu mengidentifikasi asal-usul dan riwayat suatu konten.
“Tanggung jawab untuk pendeteksian deepfake harus pertama-tama dibebankan kepada platform yang menyediakan konten-konten seperti ini dan para pengembang AI. Jadi, harus ada yang namanya jejak otentisitas dari satu konten yang dihasilkan,” ujarnya.
Ia menjelaskan pendekatan tersebut dapat membantu mengenali manipulasi melalui jejak yang melekat pada konten digital. Nezar mencontohkan sejumlah perangkat smartphone terbaru yang menyertakan metadata pada foto sehingga jejak manipulasi menggunakan AI tetap dapat dibaca.
“Pendekatan ini juga sudah dilakukan di tingkat global, misalnya sejumlah perangkat smartphone terbaru sudah memberikan metadata dari foto yang kita ambil sehingga kalau dimanipulasi menggunakan artificial intelligence, tetap bisa dibaca jejaknya. Itu salah satu bentuk pendekatan yang kita kenal sebagai provenance and authenticity,” jelasnya.
Selain dukungan teknologi, Nezar menekankan pentingnya kecakapan digital masyarakat untuk mengenali konten hasil manipulasi dan melaporkan indikasi kejahatan siber. Pelaporan tersebut diperlukan agar kasus yang terjadi dapat dianalisis dan membantu mendeteksi perkembangan kejahatan siber.
“Kita juga membutuhkan masyarakat cakap digital yang bisa membedakan mana konten yang otentik dan yang digarap oleh AI. Masyarakat yang tidak mudah tertipu dan tentu saja yang berani melapor ketika ada kasus, karena laporan-laporan itu penting sekali untuk kemudian dianalisis dan dideteksi sejauh mana kejahatan-kejahatan siber ini berjalan,” tandas Nezar.