Jakarta – Perkembangan kecerdasan artifisial atau artificial intelligence (AI) membuat penipuan siber semakin sulit dikenali. Teknologi seperti deepfake dan suara sintetis kini dapat dimanfaatkan untuk meniru orang terdekat maupun tokoh terkenal.
Wakil Menteri Komunikasi dan Digital Nezar Patria menyebut gelombang penipuan berbasis AI telah menyebabkan kerugian Rp9,1 triliun.
Ancaman tersebut menunjukkan perubahan karakter kejahatan siber. AI tidak hanya digunakan untuk memperkuat pertahanan, tetapi juga mempercepat kemampuan pelaku dalam membuat serangan yang lebih berkualitas dan menjangkau lebih banyak korban.
“AI tidak menciptakan ancaman ini dari ketiadaan, tetapi mempercepat perkembangan, kualitas, dan jangkauannya,” ujar Nezar dalam Kaspersky’s Academic Partners Summit 2026 di Jakarta Pusat, Rabu (19/8/2026).
Perserikatan Bangsa-Bangsa juga memperkirakan kerugian akibat penipuan daring di kawasan Asia-Pasifik dapat mencapai US$114 miliar pada tahun ini.
Kondisi tersebut membuat pemerintah menilai keamanan tidak bisa lagi ditempatkan sebagai langkah setelah serangan terjadi. Sistem dan proses bisnis harus dirancang dengan mempertimbangkan keamanan sejak tahap awal.
“Kita perlu bergeser ke desain atau proses bisnis yang mengutamakan keamanan. Ini yang kita sebut sebagai security by design,” kata Nezar.
Pendekatan tersebut menjadi bagian dari upaya pemerintah membangun tata kelola keamanan AI yang tetap memungkinkan inovasi berkembang, tetapi dibarengi keamanan, akuntabilitas, dan ketahanan.
Kemkomdigi juga mendorong penguatan infrastruktur anti-scam, pencegahan pada tingkat operator, serta verifikasi pengguna dengan memanfaatkan AI.
Menurut Nezar, sistem deteksi penipuan yang diterapkan secara nasional juga harus dapat digunakan seluruh masyarakat, termasuk mereka yang berada di wilayah pedesaan.
Selain ancaman penipuan, perkembangan AI menghadirkan persoalan lain ketika teknologi mulai masuk ke pengambilan keputusan dan hubungan sosial.
Dalam acara Philo Connect di Jakarta Barat pada hari yang sama, Nezar menyebut AI berpotensi menimbulkan unintended consequences ketika mampu melakukan profiling dan membangun hubungan sintetik dengan manusia.
Perkembangan menuju embodied AI, seperti robot humanoid yang dapat berinteraksi langsung dengan manusia, dinilai akan membuat persoalan tersebut semakin kompleks.
Dengan dukungan large language model, robot dapat bercakap-cakap, mengenali lawan bicara, melakukan profiling, hingga membangun synthetic relations.
“Orang merasa bahwa dia lebih bisa percaya sama mesin ketimbang dengan manusia,” ujar Nezar.
Karena itu, menurut Nezar, perkembangan AI tidak cukup dilihat dari kemampuan teknologinya. Kemampuan manusia untuk berpikir kritis dan reflektif tetap diperlukan untuk menentukan nilai, tujuan, serta dampak penggunaan AI.
Dari sisi regulasi, Kemkomdigi tengah mengembangkan peraturan pelaksana Undang-Undang Pelindungan Data Pribadi serta Rancangan Undang-Undang Keamanan dan Ketahanan Siber.
Pemerintah juga mendorong pertukaran intelijen ancaman antara industri dan pemerintah, pengembangan deteksi ancaman berbasis AI, serta penguatan talenta keamanan siber melalui kolaborasi universitas dan industri.
Pengalaman serangan terhadap Pusat Data Nasional menjadi salah satu pelajaran penting. Menurut Nezar, insiden tersebut menunjukkan perlunya mengubah pendekatan keamanan siber dari reaktif menjadi preventif.
“Pengalaman itu telah memberi kita pelajaran yang sangat berharga,” katanya.
Dengan demikian, tantangan AI bukan sekadar bagaimana memanfaatkan teknologi yang semakin canggih, tetapi bagaimana memastikan sistem digital sejak awal mampu menghadapi penyalahgunaan, melindungi pengguna, dan tetap menempatkan manusia sebagai pengambil keputusan yang kritis.