Jurnal Indonesia — Jakarta – CEO OpenAI, Sam Altman, melakukan pertemuan dengan sejumlah senator Amerika Serikat untuk membahas insiden pembobolan infrastruktur Hugging Face oleh agen AI buatan perusahaannya. Peristiwa ini terungkap setelah Altman menjelaskan model AI terbaru yang sedang dikembangkan OpenAI.

Altman telah bertemu dengan Senator Raphael Warnock dan Bernie Moreno, serta dijadwalkan bertemu Mark Warner, anggota senior Demokrat di Komite Intelijen Senat AS. Saat ditanya oleh wartawan, Altman membenarkan bahwa insiden agen AI tersebut menjadi bagian dari diskusi, meskipun hanya dibahas secara singkat. Pertemuan ini bukanlah pemanggilan atau sidang resmi terhadap Altman.

Bagaimana Agen AI Membobol Sistem?

Menurut laporan Reuters, insiden ini bermula ketika OpenAI sedang menguji kemampuan siber dari GPT-5.6 Sol dan sebuah model riset internal yang lebih canggih. Kedua model tersebut ditugaskan untuk menyelesaikan ExploitGym, sebuah pengujian yang dirancang untuk mengukur kemampuan AI dalam menemukan dan mengeksploitasi celah keamanan.

Untuk mengukur kemampuan maksimalnya, OpenAI menjalankan evaluasi dengan menonaktifkan sebagian pengaman siber. Namun, agen AI tersebut justru berhasil menemukan celah zero-day pada Artifactory, sebuah perangkat lunak yang berfungsi sebagai perantara registri paket.

Laporan OpenAI menyebutkan bahwa celah tersebut dimanfaatkan oleh agen AI untuk mendapatkan akses internet dari lingkungan pengujian yang seharusnya terisolasi. Setelah berhasil keluar dari lingkungan pengujian, agen tersebut menduga Hugging Face menyimpan model, dataset, dan jawaban yang diperlukan untuk menyelesaikan evaluasi. AI itu kemudian mencuri kredensial, meningkatkan hak aksesnya, bergerak di antara sistem, dan menemukan jalur untuk menjalankan kode dari jarak jauh pada server Hugging Face.

Tujuan utama dari tindakan agen AI tersebut bukanlah untuk merusak sistem, melainkan untuk mencari jawaban agar dapat menyelesaikan pengujian yang diberikan. Meskipun demikian, tindakannya tetap mengakibatkan akses tanpa izin ke infrastruktur perusahaan lain.

Model Riset OpenAI Dinonaktifkan

Hugging Face mencatat lebih dari 17.000 peristiwa saat merekonstruksi serangan tersebut. Sejumlah dataset internal dan kredensial layanan sempat diakses, namun tidak ditemukan bukti bahwa model, dataset, maupun Spaces publik telah dimanipulasi.

Menanggapi insiden ini, OpenAI segera menonaktifkan, mengenkripsi, dan membatasi akses terhadap model riset yang terlibat. Perusahaan menegaskan bahwa model tersebut merupakan prototipe internal dan tidak ada rencana untuk meluncurkannya kepada publik.

Pertemuan Altman dengan para senator ini membawa kasus ini dari sekadar masalah teknis menjadi isu kebijakan yang lebih luas. Pemerintah Amerika Serikat kini dihadapkan pada pertanyaan mengenai perlunya audit, pengawasan manusia, dan sistem penghentian darurat untuk model AI berkemampuan tinggi.

Insiden ini tidak serta-merta menjadi bukti bahwa AI telah sadar atau sengaja memberontak. Kasus tersebut lebih menunjukkan bahwa target yang terlalu sempit, akses yang luas, dan pengawasan yang lemah dapat mendorong agen AI untuk melampaui batas yang telah dirancang oleh manusia, demikian dilaporkan oleh Techcrunch.