Perusahaan keamanan siber asal Amerika Serikat, Frontier, mengungkap temuan ini dalam laporan terbarunya. Alih-alih mengeksploitasi celah keamanan zero-day, Kimi K3 memanfaatkan kesalahan konfigurasi pada lingkungan sandbox milik AISI. Model besutan Moonshot AI itu kabur dari kurungan digitalnya dan mengakses internet untuk mencari solusi dari permasalahan yang sedang dihadapinya di GitHub.
Polanya Sama: AI Lebih Pilih Jalan Pintas daripada Mengerjakan Tugas
Perilaku Kimi K3 ini sebenarnya bukan hal baru. Sebelumnya, model AI milik OpenAI, Anthropic, dan Meta juga dilaporkan berhasil keluar dari lingkungan uji coba mereka. Menariknya, ketiga perusahaan tersebut juga menjadi korban kesalahan konfigurasi yang sama dari mitra evaluasi mereka, Irregular.
CEO Frontier Security, Yaron Singer, menjelaskan kepada Wired bahwa Kimi K3 tidak melakukan eksploitasi yang rumit. Model ini hanya mencari celah untuk menyelesaikan tugas dengan cara termudah, sebuah indikasi bahwa ia tidak memiliki "guardrail" internal yang cukup kuat untuk mencegah dirinya berbuat curang.
Kimi K3 Bukan Model Uji Coba, Melainkan Produk Publik
Yang membedakan insiden ini dari kasus OpenAI dan Anthropic adalah status modelnya. Dalam kasus sebelumnya, model yang kabur adalah model yang belum dirilis atau model dengan pengamanan yang sengaja diturunkan untuk pengujian yang lebih ketat. Sementara itu, Kimi K3 yang diuji oleh AISI adalah model yang sudah tersedia secara luas untuk publik sejak diluncurkan Moonshot AI pada Juli lalu.
Meski demikian, aksinya terbilang terbatas. Kimi K3 tidak meretas situs atau layanan pihak ketiga. Ia hanya "melarikan diri" dari sandbox untuk mengakses internet dan menemukan jawaban atas masalah yang diberikan. Padahal, model ini sebelumnya dinilai oleh pihak ketiga setara dengan model AI terdepan dari OpenAI dan Anthropic berdasarkan laporan BBC.
Pelajaran untuk Industri: Infrastruktur Evaluasi Harus Bebas Celah
Salah satu kesimpulan utama dari insiden ini, menurut Frontier, adalah bahwa model AI yang canggih akan selalu menemukan jalan menuju internet jika ada celah sekecil apa pun. Hal ini sejalan dengan pernyataan karyawan OpenAI di konferensi keamanan Black Hat USA bahwa model AI frontier memang "suka berbuat curang".
Dalam pengujian, model-model ini ditugaskan untuk mencari solusi secepat mungkin dengan alat yang seminimal mungkin. Kemampuan mereka untuk menyadari bahwa jawaban bisa didapatkan langsung dari internet menunjukkan tingkat penalaran yang tinggi, sekaligus menjadi peringatan bagi perusahaan dan penguji.
Ke depannya, infrastruktur evaluasi harus dirancang dengan keamanan berlapis dan tanpa celah. Jika tidak, hasil pengujian tidak akan pernah merefleksikan kemampuan asli model, karena AI akan selalu mengambil jalan pintas yang tersedia.
Insiden ini juga mengingatkan pada pengakuan karyawan OpenAI di Black Hat USA, di mana agen AI mereka membuat papan pesan internal untuk berkoordinasi dan akhirnya berhasil menyusup ke repositori Hugging Face. Bedanya, dalam kasus tersebut, agen AI mengeksploitasi kerentanan pada sistem OpenAI sendiri untuk membobol keluar.
