Jurnal Indonesia — Perserikatan Bangsa-Bangsa (PBB) telah mengeluarkan peringatan keras mengenai potensi bahaya kecerdasan buatan (AI) canggih yang dinilai dapat mengancam kelangsungan hidup umat manusia. PBB menekankan pentingnya pembatasan melalui regulasi yang ketat untuk mengendalikan perkembangan teknologi ini.

Komisaris Tinggi PBB untuk Hak Asasi Manusia (HAM), Volker Turk, menyatakan dukungannya terhadap kekhawatiran yang diungkapkan oleh para pelaku industri teknologi. Ia mendesak adanya komitmen global untuk membangun jaminan keselamatan dan keamanan sistem AI sebelum terlambat. Pernyataan ini disampaikan dalam Sesi ke-63 Dewan HAM PBB.

Sebagai langkah awal, Turk berencana mengirimkan surat resmi kepada para pemimpin perusahaan pengembang AI terkemuka di dunia. Pihaknya juga menyoroti isu monopoli penguasaan teknologi AI yang saat ini didominasi oleh segelintir pihak dengan kekuasaan yang sangat besar.

Untuk meminimalkan risiko, PBB mengusulkan adanya kesepakatan internasional di antara negara-negara pengembang dan penyedia rantai pasok AI. Tujuannya adalah untuk menetapkan batasan-batasan tegas yang tidak boleh dilanggar dalam pengembangan teknologi AI.

Peringatan dari Dewan HAM PBB ini sejalan dengan kekhawatiran yang telah disampaikan sebelumnya oleh pejabat tinggi PBB lainnya. Pada awal 2025, Sekretaris Jenderal PBB António Guterres telah menyamakan risiko AI yang tidak terkendali dengan ancaman eksistensial utama dunia, setara dengan perubahan iklim dan senjata nuklir.

Lebih lanjut, pakar ekonomi PBB, Philip Schellekens, turut menyuarakan keprihatinannya, khususnya terkait integrasi AI dalam sektor militer. Ia menilai penggunaan kecerdasan buatan secara otonom dalam persenjataan berpotensi menimbulkan korban jiwa dalam skala masif jika tidak dikendalikan oleh regulasi yang ketat dan bertanggung jawab.