Jurnal Indonesia — Dua model kecerdasan buatan (AI) canggih milik OpenAI dilaporkan berhasil keluar dari lingkungan pengujian yang aman dan melancarkan serangan siber ke platform lain. Insiden ini terjadi saat OpenAI sedang menguji kemampuan siber dari model GPT-5.6 Sol dan satu model prarilis yang lebih kuat.

Dalam uji coba tersebut, kedua model AI sengaja diberi pembatas keamanan yang lebih longgar. Tujuannya adalah agar para peneliti dapat mengukur kemampuan AI dalam menemukan dan mengeksploitasi celah keamanan sistem. Namun, hasil pengujian melampaui ekspektasi.

AI tersebut berhasil menemukan celah keamanan jenis ‘zero-day vulnerability’ di dalam lingkungan sandbox pengujian. Setelah berhasil keluar, AI tersebut terhubung ke internet dan menyerang Hugging Face, sebuah platform yang menjadi repositori bagi jutaan model AI open source. AI itu bahkan memanfaatkan kredensial yang dicuri untuk menjalankan serangkaian serangan otomatis demi mendapatkan jawaban atas pengujian yang sedang dijalankannya.

OpenAI menyebut insiden ini sebagai kejadian siber yang belum pernah terjadi sebelumnya. Perusahaan menyatakan bahwa tindakan AI tersebut tidak diperintahkan secara langsung oleh manusia, melainkan merupakan upaya model untuk menyelesaikan tugas yang diberikan dengan cara yang dianggap paling efektif.

Serangan ini pertama kali terdeteksi oleh Hugging Face. CEO Hugging Face, Clément Delangue, mengungkapkan bahwa mereka mendeteksi puluhan ribu aktivitas otomatis yang dilakukan oleh sebuah agen AI otonom. Aktivitas tersebut berhasil dibendung sebelum menimbulkan dampak yang lebih luas.

“Kami curiga serangan siber ini dari lab canggih karena agennya sangat mutakhir. Dan ternyata benar,” ujar Delangue, mengonfirmasi kecurigaan awal mereka.

Setelah penyelidikan bersama, OpenAI akhirnya mengakui bahwa agen otonom tersebut digerakkan oleh salah satu model AI milik mereka. Hugging Face dan OpenAI menghabiskan waktu sekitar 24 jam untuk menyelesaikan masalah ini. Insiden ini pun menimbulkan kekhawatiran di kalangan para pemerhati AI.

Nate Soares, penulis buku ‘If Anyone Builds It, Everyone Dies’, menyatakan bahwa kejadian ini harus menjadi peringatan. Ia menekankan pentingnya kolaborasi global untuk mengendalikan perkembangan AI. Sementara itu, Zahra Timsah, Co-founder dan CEO i-GENTICAL, menilai insiden ini dapat memberikan tekanan bagi OpenAI dan perusahaan sejenis untuk lebih serius dalam penanganan model AI. Menurutnya, setiap model harus diuji secara menyeluruh dalam ruang digital khusus sebelum dirilis ke publik.

“Ibarat sabuk pengaman, airbag, rem dll pada mobil. Semua mestinya dicek sebelum mobil dipakai,” kata Timsah, memberikan analogi pentingnya pengujian keamanan.

Yoshua Bengio, salah satu pelopor AI modern dari Universitas Montreal, menyebut kejadian ini sebagai alarm keras bagi industri AI. Para peneliti menilai kemampuan AI dalam menemukan jalur serangan baru tanpa akses ke kode sumber menunjukkan bahwa model generasi terbaru telah mencapai tingkat kecakapan siber yang jauh melampaui perkiraan sebelumnya.

“Kita perlu segera mengambil tindakan untuk mencegah situasi ini, daripada mencoba memperbaiki kerusakan setelah kejadian,” tegas Bengio.

Menanggapi insiden tersebut, OpenAI menegaskan bahwa pihaknya telah memperkuat sistem pengamanan di lingkungan pengujian. Perusahaan juga bekerja sama dengan Hugging Face untuk memperbaiki celah keamanan yang telah dimanfaatkan oleh AI tersebut. OpenAI berjanji untuk terus mengevaluasi metode pengujian guna memastikan kemampuan AI yang terus meningkat tetap diimbangi dengan sistem pengamanan yang memadai.