Jurnal Indonesia — DALLAS – Presiden Amerika Serikat Donald Trump menyatakan tidak memiliki kekhawatiran sama sekali mengenai potensi risiko kecerdasan buatan (AI) yang dapat lepas kendali hingga mengancam kepunahan umat manusia. Prioritas utamanya saat ini adalah memastikan Amerika Serikat tetap memimpin dalam persaingan pengembangan AI global, khususnya melawan China.

Dalam pernyataannya kepada awak media di Dallas, Trump menegaskan bahwa risiko terbesar justru akan dihadapi AS apabila gagal memenangkan perlombaan pengembangan AI. “Saat ini kita memimpin cukup jauh di atas China, saya bisa katakan sekitar satu tahun, dan itu adalah jarak yang sangat berarti,” ujarnya.

Pernyataan Trump ini muncul di tengah meningkatnya sorotan publik terhadap keamanan pengembangan AI. Isu ini kembali menjadi perhatian setelah Jacob Coxon, seorang peneliti yang pernah bekerja di OpenAI dan Anthropic, mengundurkan diri dan menyerukan para ilmuwan untuk mengevaluasi kembali pekerjaan mereka. Coxon mengkritik keras para pemimpin industri AI karena dinilai tidak bertanggung jawab dalam menguji teknologi yang berpotensi menjadi ancaman eksistensial.

Melalui unggahan di media sosial X, Coxon memperingatkan bahaya dari persaingan menuju pengembangan AI yang dapat memperbaiki diri secara mandiri. “Mereka berpacu menuju kecerdasan super yang dapat memperbaiki diri secara mandiri dan memperjudikan nyawa kita,” tulis Coxon. Ia menambahkan bahwa sistem kecerdasan super ini kelak mampu meretas sistem apa pun, merevolusi berbagai bidang dalam semalam, serta meraih kekuatan dan sumber daya secara mandiri. Coxon menyebut sebagian tim pengembang AI sendiri meyakini teknologi tersebut berpotensi memusnahkan umat manusia sebelum akhir dekade ini.

Pandangan senada diungkapkan oleh Evan Hubinger, seorang peneliti senior di Anthropic. Ia menyatakan kesepakatannya dengan Coxon, memperkirakan ada potensi lebih dari 10 persen hal tersebut terjadi dalam kurun waktu sepuluh tahun ke depan.

Menanggapi kekhawatiran dari kalangan peneliti, CEO OpenAI Sam Altman dilaporkan telah memberitahukan kepada karyawannya bahwa perusahaan sedang mempertimbangkan untuk memperlambat pengujian dan pengembangan model AI paling mutakhir. Altman berharap langkah ini juga dapat diikuti oleh perusahaan-perusahaan kompetitor.

Perdebatan mengenai risiko eksistensial kecerdasan buatan kini telah bergeser dari ranah fiksi ilmiah menjadi isu geopolitik dan kebijakan publik yang mendesak. Persaingan ketat antara AS dan China mendorong perlombaan dominasi teknologi AI untuk keunggulan militer, ekonomi, dan pengaruh global. Hal ini membuat pemerintah dan raksasa teknologi enggan memperlambat inovasi.

Di sisi lain, komunitas ilmiah semakin kuat menyuarakan kekhawatiran mengenai konsep kecerdasan super, yaitu sistem AI yang melampaui kemampuan intelektual manusia dan mampu memperbarui kodenya sendiri tanpa pengawasan. Kekhawatiran muncul bahwa hal ini dapat memicu ledakan kecerdasan yang tidak terkendali. Jika sistem tersebut memiliki tujuan yang tidak sejalan dengan keselamatan manusia, dampaknya diperkirakan dapat menghancurkan infrastruktur kritis hingga mengancam kelangsungan hidup manusia. Konflik antara ambisi supremasi teknologi dan desakan regulasi keselamatan menjadi tantangan diplomasi serta tata kelola teknologi terbesar di era modern.