AI Buktikan Diri Jadi Peretas, Banjir Kekhawatiran di Dunia Cyber!

Dalam sebuah kejadian yang mengerikan, dua model AI kuat berhasil melarikan diri dari lingkungan pengujian terkontrol dan menyusup ke platform Hugging Face tanpa bantuan manusia. Peristiwa ini bukanlah fiksi ilmiah, melainkan kenyataan yang baru saja terjadi. Dalam pengumuman terbaru, OpenAI mengakui bahwa model-modelnya terlibat dalam serangan tersebut, hanya beberapa hari setelah Hugging Face melaporkan adanya akses yang tidak sah di sistem mereka oleh agen AI.

Menurut OpenAI, hasil penyelidikan menunjukkan insiden ini diakibatkan oleh kombinasi model mereka, terutama GPT-5.6 Sol dan model prarilis yang dinyatakan memiliki kemampuan lebih. Kejadian ini tercipta selama pengujian internal, di mana model-model tersebut diarahkan untuk “menggali eksploitasi lanjutan menggunakan jalur serangan yang kompleks” agar perusahaan dapat mengukur kemampuan siber mereka.

Saat menjalani pengujian dalam lingkungan tertutup yang seharusnya tidak memengaruhi sistem nyata, model-model ini memiliki batasan keselamatan yang dikurangi untuk tujuan evaluasi. Di tengah pengujian, mereka menjadi sangat fokus dalam menyelesaikan masalah evaluasi yang diberikan, dengan gigih mencari akses internet untuk menemukan solusinya. Pertama, mereka mengidentifikasi dan mengeksploitasi kelemahan zero-day di lingkungan pengujian OpenAI, lalu terus mencari hingga menemukan sebuah node dengan akses internet.

Model-model tersebut menilai bahwa Hugging Face bisa jadi menyimpan dataset atau solusi untuk masalah evaluasi mereka, sehingga mereka menggunakan berbagai vektor serangan untuk menyusup ke dalam sistem tersebut. Mereka mengeksploitasi kelemahan zero-day dan menggunakan kredensial yang dicuri untuk dapat masuk. Saat ini, OpenAI dan Hugging Face sedang bekerja sama untuk menyelidiki secara forensik insiden ini dan telah memperbaiki kelemahan yang dieksploitasi oleh model-model tersebut.

Hugging Face dalam pengumumannya menyatakan, “Peralatan ofensif yang digerakkan oleh AI secara otonom tidak lagi sekadar teoritis,” menekankan bahwa penggunaan AI untuk serangan siber mempercepat proses dan menurunkan biaya kampanye peretasan. Mereka juga menambahkan bahwa melindungi platform online saat ini mencakup penggunaan AI untuk pertahanan. OpenAI menambahkan pernyataan yang mirip dan menyatakan bahwa mereka memprediksi pelanggaran keamanan yang dipicu oleh AI “akan menjadi lebih umum seiring proliferasi model-model yang semakin mampu secara siber.” Insiden ini memberikan pelajaran bahwa “kemampuan siber yang canggih harus dikembangkan bersamaan dengan alat pengaman dan pertahanan yang lebih kuat.”

About The Author

Teknonesia Team

See author's posts