Jakarta – Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengingatkan meningkatnya risiko penyalahgunaan kecerdasan buatan (AI), terutama melalui teknologi deepfake yang dinilai dapat memperbesar ancaman penipuan di ruang digital.
Menurut Nezar, kemampuan AI saat ini memungkinkan pembuatan video, foto, hingga rekaman suara palsu yang sangat mirip dengan aslinya. Kondisi tersebut membuat masyarakat semakin sulit membedakan antara konten autentik dan hasil manipulasi teknologi.
“Suara maupun wajah seseorang kini dapat ditiru dan ditampilkan dalam bentuk video deepfake yang terlihat sangat meyakinkan,” kata Nezar, Kamis (18/6/2026).
Ia menjelaskan perkembangan AI berlangsung sangat cepat. Teknologi ini bahkan telah bergerak melampaui generative AI menuju agentic AI yang memiliki kemampuan lebih mandiri dalam melakukan penalaran dan pengambilan keputusan.
Meski membawa berbagai manfaat bagi sektor industri, pendidikan, hingga layanan publik, kemajuan AI juga menghadirkan tantangan baru yang perlu diantisipasi, khususnya dalam aspek keamanan digital.
Nezar menyoroti maraknya pemanfaatan AI oleh pelaku kejahatan siber untuk menjalankan berbagai modus penipuan. Salah satunya melalui penggunaan deepfake yang menghasilkan konten digital menyerupai kenyataan atau dikenal sebagai synthetic reality.
Menurutnya, rendahnya pemahaman masyarakat terhadap perkembangan teknologi AI menjadi salah satu faktor yang membuat banyak orang mudah menjadi korban penipuan berbasis manipulasi digital.
“Kurangnya literasi mengenai perkembangan AI membuat masyarakat lebih rentan terkecoh. Karena itu, kasus scam saat ini semakin mengkhawatirkan,” ujarnya.
Selain menyoroti ancaman deepfake, Nezar juga menekankan pentingnya keterlibatan manusia dalam sistem AI otonom. Ia menilai keputusan-keputusan penting yang dihasilkan teknologi tetap harus berada dalam pengawasan manusia melalui prinsip human in the loop.
Sejumlah pakar, lanjutnya, telah mendorong penerapan protokol yang lebih ketat untuk memastikan proses pengambilan keputusan oleh AI tetap terkendali dan tidak sepenuhnya berjalan tanpa pengawasan.
Lebih jauh, Nezar menilai pendekatan etika dalam pengembangan AI tidak lagi cukup dilakukan secara sukarela. Prinsip transparansi, akuntabilitas, dan keamanan harus diterapkan sejak tahap perancangan teknologi melalui konsep ethics by design.
Karena itu, ia mengajak pengembang, pelaku industri, akademisi, hingga komunitas pengguna AI untuk memperkuat tata kelola teknologi serta melakukan mitigasi risiko sejak awal pengembangan.
“Transparansi, akuntabilitas, dan keamanan harus menjadi bagian dari implementasi serta pengembangan setiap produk AI,” tegasnya.
(Tim Red)
