Jurnal Indonesia — Jakarta — Perkembangan kecerdasan artifisial (AI) memunculkan ancaman baru dalam bentuk penipuan digital, termasuk teknologi deepfake yang mampu meniru wajah, suara, hingga video seseorang dengan tingkat kemiripan tinggi.

Wakil Menteri Komunikasi dan Digital Nezar Patria mengatakan kemajuan AI membuat modus penipuan semakin kompleks sehingga masyarakat kerap kesulitan membedakan konten asli dan hasil rekayasa.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujar Nezar.

Risiko Agentic AI dan Synthetic Reality

Nezar menyatakan adopsi AI berlangsung cepat, bergeser dari generative AI menuju era agentic AI yang memiliki kemampuan lebih mandiri dalam penalaran dan pengambilan keputusan.

Ia menyebutkan hasil manipulasi kini berkembang menjadi apa yang disebut synthetic reality, yakni konten digital yang tampak sangat nyata sehingga sulit dikenali sebagai rekayasa.

“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” kata Nezar.

Upaya Pencegahan: Literasi, Etika, dan Kolaborasi

Menurut Nezar, peningkatan literasi digital publik merupakan langkah penting untuk mengurangi risiko penyalahgunaan AI. Masyarakat perlu menyadari bahwa foto, suara, atau video di ruang digital tidak selalu mencerminkan kondisi sebenarnya.

Selain itu, Nezar mengutip usulan akademisi dan pakar teknologi agar diterapkan protokol ketat sehingga keputusan penting tetap dalam kendali manusia.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.

Prinsip human in the loop mensyaratkan keterlibatan manusia dalam pengawasan dan pengambilan keputusan akhir, terutama untuk keputusan yang berdampak besar bagi individu dan masyarakat.

Nezar menegaskan pembahasan etika AI tidak lagi cukup bersifat sukarela. Ia menilai prinsip transparansi, akuntabilitas, keamanan, dan perlindungan pengguna harus menjadi bagian dari perancangan teknologi melalui pendekatan ethics by design.

“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tegasnya.

Untuk mewujudkan hal tersebut, pemerintah mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna AI dalam memperkuat tata kelola serta mitigasi risiko sejak tahap awal pengembangan.

“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” tutup Nezar.