Perkembangan menuju embodied AI, seperti robot humanoid yang dapat berinteraksi langsung dengan manusia, dinilai akan membuat persoalan tersebut semakin kompleks.
Dengan dukungan large language model, robot dapat bercakap-cakap, mengenali lawan bicara, melakukan profiling, hingga membangun synthetic relations.
“Orang merasa bahwa dia lebih bisa percaya sama mesin ketimbang dengan manusia,” ujar Nezar.
Karena itu, menurut Nezar, perkembangan AI tidak cukup dilihat dari kemampuan teknologinya. Kemampuan manusia untuk berpikir kritis dan reflektif tetap diperlukan untuk menentukan nilai, tujuan, serta dampak penggunaan AI.
Dari sisi regulasi, Kemkomdigi tengah mengembangkan peraturan pelaksana Undang-Undang Pelindungan Data Pribadi serta Rancangan Undang-Undang Keamanan dan Ketahanan Siber.
Pemerintah juga mendorong pertukaran intelijen ancaman antara industri dan pemerintah, pengembangan deteksi ancaman berbasis AI, serta penguatan talenta keamanan siber melalui kolaborasi universitas dan industri.
Pengalaman serangan terhadap Pusat Data Nasional menjadi salah satu pelajaran penting. Menurut Nezar, insiden tersebut menunjukkan perlunya mengubah pendekatan keamanan siber dari reaktif menjadi preventif.
“Pengalaman itu telah memberi kita pelajaran yang sangat berharga,” katanya.
Dengan demikian, tantangan AI bukan sekadar bagaimana memanfaatkan teknologi yang semakin canggih, tetapi bagaimana memastikan sistem digital sejak awal mampu menghadapi penyalahgunaan, melindungi pengguna, dan tetap menempatkan manusia sebagai pengambil keputusan yang kritis.