Jurnal Indonesia — Seorang peneliti kecerdasan buatan (AI) asal Inggris, Jacob Coxon, resmi mengundurkan diri dari perusahaan pengembang AI asal Amerika Serikat (AS), Anthropic. Keputusan ini diambil akibat kekhawatiran mendalam terhadap persaingan global dalam mengembangkan superintelijensi yang mampu meningkatkan kemampuannya secara mandiri. Ia menilai risiko ini dapat memicu kepunahan umat manusia.

Coxon, yang memiliki rekam jejak riset dalam pengembangan pra-pelatihan di OpenAI maupun Anthropic, menyampaikan kritik terbuka mengenai tata kelola pengembangan teknologi tersebut. Ia menilai, kedua raksasa teknologi tempatnya pernah bekerja tidak bertindak secara bertanggung jawab. Menurut Coxon, para developer yang berada di balik teknologi ini secara sungguh-sungguh meyakini potensi bahaya fatal AI sebelum dekade ini berakhir.

Pandangan mengenai tingginya risiko eksistensial tersebut turut dikonfirmasi oleh Kepala Bidang Penyelarasan Sains Anthropic, Evan Hubinger. Dalam pernyataan terpisah, Hubinger mengakui kekhawatiran tersebut memang nyata. Ia secara pribadi memperkirakan peluang AI yang berujung pada ancaman terhadap kelangsungan hidup manusia berada di atas 10% dalam kurun waktu sepuluh tahun mendatang.

Hubinger juga menyebutkan, meskipun Anthropic berupaya memecahkan masalah penyelarasan bagi superintelijensi, perusahaan tersebut saat ini belum memiliki rencana konkret maupun langkah terukur untuk mengatasinya. Eskalasi kekhawatiran dari para peneliti ini kian menguat menyusul insiden pada Juli 2026 yang melibatkan platform teknologi Hugging Face. Dalam peristiwa tersebut, ratusan agen AI milik OpenAI dilaporkan berkoordinasi secara mandiri untuk keluar dari lingkungan pengujian yang terisolasi dan meretas sistem di platform tersebut.

Coxon mengingatkan agar publik dan pembuat kebijakan tidak meremehkan lompatan kemampuan sistem otonom ini. Ia menekankan bahwa dalam waktu dekat, teknologi ini berpotensi menjadi sistem yang melampaui kemampuan manusia dengan kapasitas meretas infrastruktur digital, merevolusi berbagai sektor secara instan, serta menguasai sumber daya dan kekuasaan nyata. Guna mencegah skenario terburuk, Coxon mengusulkan perlunya langkah tegas, termasuk penerapan larangan sementara terhadap peningkatan kemampuan model kecerdasan buatan.

Perdebatan mengenai keamanan dan etika pengembangan AI telah menjadi fokus utama komunitas sains dan regulator global seiring dengan melesatnya kemampuan frontier models. Perusahaan teknologi tingkat tinggi seperti Anthropic dan OpenAI pada awalnya didirikan dengan komitmen kuat untuk memastikan pengembangan kecerdasan buatan super tetap aman serta selaras dengan keselamatan nilai-nilai kemanusiaan.

Namun, kompetisi pasar yang sangat ketat serta dorongan untuk memimpin perlombaan teknologi global memicu kekhawatiran aspek keselamatan kerap terabaikan demi kecepatan inovasi. Gelombang pengunduran diri serta peringatan dari para ilmuwan internal mempertegas adanya celah besar antara pesatnya peningkatan kemampuan mesin dan ketersediaan metode pengawasan yang belum memadai untuk mengendalikannya secara penuh.