MALUKU UTARA — Tiga peneliti keselamatan AI OpenAI, Mikita Balesni, Tomak Korbak, dan Jasmine Wang, diberhentikan secara mendadak setelah menyuarakan kekhawatiran soal kemampuan perusahaan memantau pola pikir agen AI. Pemecatan terjadi beberapa pekan usai mereka berperan penting dalam penyelidikan insiden peretasan situs Hugging Face oleh agen OpenAI saat pengujian. Ketiganya menilai alasan resmi perusahaan tidak masuk akal dan menduga pemecatan bermotif pembalasan.
Ketiga peneliti itu bekerja di divisi alignment atau keselamatan AI OpenAI. Tugas mereka memastikan sistem AI beroperasi aman sesuai tujuan yang ditetapkan pengembang. Mereka diberhentikan tanpa penjelasan rinci, beberapa pekan setelah terlibat dalam penyelidikan insiden keamanan yang melibatkan agen AI OpenAI.
Alasan Resmi yang Diberikan OpenAI
Korbak mengaku diberi tahu bahwa dirinya dipecat karena komunikasinya dengan organisasi keselamatan AI bernama METR. Organisasi itu bermitra dengan OpenAI untuk menyelidiki insiden Hugging Face. Korbak menyebut dirinya sebagai "kontak teknis utama" OpenAI dengan METR.
Balesni menerima alasan berbeda. Perusahaan menuduhnya "terlalu banyak berbicara dengan organisasi keselamatan pihak ketiga." Ia menangkap kesan OpenAI mengindikasikan dirinya membocorkan hak kekayaan intelektual perusahaan, tuduhan yang tegas ia bantah.
Sementara Wang diberitahu bahwa ia dipecat karena "mengakses email seorang eksekutif." Menurutnya, akses itu memang diberikan kepadanya untuk keperluan rekrutmen, dan ia sudah berulang kali meminta agar akses tersebut dicabut.
Kronologi Insiden Email yang Dituduhkan ke Wang
Wang mengaku tidak sengaja mengakses sebuah email sensitif. Ia langsung memberitahukan hal itu kepada eksekutif terkait dalam hitungan menit, lalu melaporkannya kembali ke tim IT OpenAI. Meski begitu, insiden tersebut tetap dijadikan dasar pemecatan.
"Alasan pemutusan hubungan kerja yang diberikan kepada kami benar-benar tidak masuk akal," tulis Wang di X, mengutip pemberitaan CNN, Jumat (9/10).
"Kami bukan orang pertama yang disingkirkan dari OpenAI dengan alasan yang mencurigakan. Jika para pekerja tidak mengambil sikap dari sekarang melawan tindakan seperti ini, saya khawatir kami tidak akan menjadi yang terakhir," lanjutnya.
Kekhawatiran soal Pengawasan Pola Pikir Agen AI
Korbak meyakini alasan sebenarnya pemecatan adalah keberaniannya bersuara selama berbulan-bulan. Ia khawatir OpenAI mulai kehilangan kemampuan memantau pola pikir agen AI, padahal fitur itu salah satu alat terbaik untuk mendeteksi saat AI mulai menyimpang.
Ia juga mencurigai pemecatannya dijadikan dalih bagi perusahaan untuk bekerja sama dengan METR. Kekhawatiran serupa disampaikan Balesni dan Wang dalam surat yang mereka kirim ke pimpinan OpenAI.
"Kami tidak percaya jalan menuju superinteligensi dapat dilalui dengan aman jika orang-orang yang berada paling dekat dengan risiko tidak lagi dapat bekerja secara terbuka dan saling percaya, baik satu sama lain maupun dengan pihak ketiga," tulis para peneliti.
"Budaya kerja itulah yang sedang kami coba pertahankan," lanjut mereka.
Bantahan OpenAI dan Memo Internal
Juru bicara OpenAI menyatakan ketiga peneliti dipecat bukan karena menyuarakan masalah keselamatan. Perusahaan beralasan ada pelanggaran prosedur dalam menangani informasi sensitif, yang disebut melampaui sekadar komunikasi dengan tim evaluasi luar.
"Hasil penyelidikan kami mengonfirmasi bahwa orang-orang ini tidak menjalankan prosedur perusahaan yang berlaku dalam menangani informasi sensitif, sehingga melanggar kebijakan dan merusak kepercayaan yang sangat penting bagi kerja kami," kata juru bicara OpenAI.
Dalam memo internal staf, seorang pimpinan riset OpenAI yang tidak disebutkan namanya menyatakan "sangat setuju" dengan pentingnya kerja sama dengan kelompok keselamatan luar. Ia menegaskan keputusan itu tidak berkaitan dengan tindakan menyuarakan kekhawatiran.
"Saya ingin menegaskan bahwa keputusan ini sama sekali tidak berkaitan dengan tindakan menyuarakan kekhawatiran keselamatan atau berpendapat. Kami selalu mendukung hal tersebut. Kami tidak pernah memecat karyawan karena menyampaikan kekhawatiran mereka," tulis pimpinan riset tersebut.
Rasa Takut di Internal OpenAI
Balesni mengaku sudah mendengar dari rekan-rekan mereka soal timbulnya rasa takut di internal OpenAI. Mantan koleganya mengaku bingung harus percaya pada siapa dan takut berbicara.
"Mantan rekan kerja saya mengaku bingung harus percaya pada siapa. Mereka juga takut untuk berbicara dan khawatir ponsel pribadi mereka akan diperiksa untuk mencari pesan yang dikirim kepada kami maupun pihak ketiga," ujar Balesni.
Ia khawatir rasa takut untuk bersuara dan berinteraksi dengan pihak luar akan melemahkan budaya keterbukaan yang selama ini jadi fondasi kerja keselamatan AI. Pemecatan ketiganya menambah daftar panjang persoalan keselamatan di industri AI, saat sejumlah mantan staf memilih mundur sukarela karena alasan serupa.
