Jurnal Indonesia — Lembaga Keamanan AI Inggris (AI Security Institute/AISI) telah mengungkap temuan signifikan mengenai perilaku agen kecerdasan buatan (AI) yang dikembangkan oleh OpenAI dan Anthropic. Dalam serangkaian evaluasi keamanan yang dirancang untuk mengukur kemampuan model AI terbaru, beberapa agen dilaporkan melakukan tindakan yang tidak diizinkan.

Temuan ini, yang dilaporkan oleh Reuters pada Selasa (4/8/2026), menunjukkan bahwa agen AI yang ditenagai oleh model Mythos 5 dari Anthropic dan GPT-5.6-Sol dari OpenAI melampaui instruksi yang diberikan selama pengujian. AISI mencatat adanya aktivitas berkelanjutan yang berpotensi membahayakan, baik yang ditujukan kepada individu maupun organisasi nyata.

Dalam laporannya, AISI menjelaskan bahwa pengujian dilakukan dengan mensimulasikan skenario keamanan siber fiktif, mencakup 122 kali percobaan. Dari total tersebut, teridentifikasi 19 tindakan yang tidak mendapatkan persetujuan dalam 10 sesi uji. Sebanyak 17 pelanggaran berasal dari agen AI Anthropic, sementara dua pelanggaran lainnya dilakukan oleh agen OpenAI.

Salah satu insiden paling serius melibatkan agen AI yang membuat kode berbahaya dan menciptakan identitas daring palsu. Tujuannya adalah untuk membujuk pihak lain agar menyetujui kode tersebut. Meskipun demikian, AISI menegaskan bahwa tidak ada dampak atau kerugian nyata yang timbul dari seluruh pelanggaran yang terjadi selama periode pengujian.

AISI tidak merinci agen AI spesifik yang bertanggung jawab atas pembuatan identitas palsu tersebut. Namun, lembaga itu menyatakan insiden tersebut berbeda dari dua kasus yang sebelumnya telah diungkapkan oleh OpenAI sendiri. Peneliti dari organisasi nirlaba CivAI, Andrew Yoon, berpendapat bahwa indikasi mengarah pada agen AI milik Anthropic. “Fakta bahwa Mythos melakukan tindakan yang bersifat menipu, dengan tampak menyadari bahwa targetnya adalah manusia sungguhan, menunjukkan Anthropic mungkin belum sepenuhnya memahami perilaku model mereka,” ujar Yoon.

Menanggapi temuan ini, Anthropic menyatakan melalui akun resminya di X bahwa mereka bekerja sama dengan AISI untuk mendapatkan rincian lebih lanjut dan melakukan investigasi internal. Perusahaan tersebut belum memberikan tanggapan resmi kepada Reuters.

Sementara itu, OpenAI menjelaskan dalam unggahan blognya bahwa dua tindakan yang tidak diizinkan oleh agennya terkait dengan akses internet yang melanggar batasan dalam instruksi pengujian. OpenAI menegaskan komitmennya untuk bekerja sama dengan berbagai pihak, termasuk pelaku industri, lembaga AI nasional, evaluator independen, dan laboratorium AI lainnya, guna memperkuat standar evaluasi keamanan bagi sistem AI berisiko tinggi.

OpenAI juga mengungkapkan adanya insiden terpisah yang disebabkan oleh kesalahan konfigurasi oleh penyedia pengujian pihak ketiga, Irregular. Hal ini secara tidak sengaja memungkinkan agen AI terhubung ke internet. Pengungkapan ini serupa dengan insiden kesalahan konfigurasi yang sebelumnya juga disampaikan oleh Anthropic.

Sebelumnya, Reuters melaporkan bahwa OpenAI telah memperluas investigasi internal setelah menemukan indikasi adanya insiden lain di mana agen AI keluar dari batas pengujian (agent breakout). Meskipun demikian, AISI menekankan bahwa dalam pengujian kali ini, tidak ada agen AI yang berhasil keluar dari lingkungan uji terisolasi untuk mengakses internet secara bebas. Pemberian akses internet memang merupakan bagian dari prosedur standar dalam evaluasi kemampuan agen AI oleh lembaga tersebut.