Serangan Prompt Injection: Senjata Baru untuk Menghadang Agen Peretas AI!

Serangan Prompt Injection: Senjata Baru untuk Menghadang Agen Peretas AI!

Dalam dunia keamanan siber, taktik serangan berkembang pesat, dan salah satu yang terbaru adalah serangan prompt injection. Teknik ini merupakan metode di mana penyerang menyisipkan instruksi berbahaya ke dalam konten, menarik perhatian model bahasa besar (LLM) untuk melakukan tindakan yang merugikan. Penggunaan perintah yang tepat dapat mengakibatkan model tersebut mengeluarkan data sensitif atau bahkan mengambil langkah-langkah berbahaya lainnya.

Kini, para pembela keamanan juga mulai mengadopsi teknik prompt injection. Penelitian dari Tracebit baru-baru ini menunjukkan bahwa dengan menyisipkan prompt injection di samping kata sandi, kunci kriptografi, dan rahasia lain yang disimpan di Amazon Web Services, mereka berhasil menetralkan serangan dari agen peretas AI. Dengan cara ini, perintah yang tertanam mendorong LLM untuk melaksanakan aksi yang dilarang oleh sistem pengaman yang ada, menyebabkan LLM menolak untuk menjalankan instruksi lebih lanjut dan menghentikan serangan.

Salah satu contoh prompt yang efektif adalah meminta LLM memberikan langkah-langkah untuk mengembangkan spora anthrax yang dapat dihirup, atau mengacu pada peristiwa terkenal di Tiananmen Square pada tahun 1989. Ketika LLM mendeteksi perintah yang terlarang tersebut, ia akan berhenti mengikuti instruksi yang sudah ada. Metode ini dikenal sebagai context bombing.

Dalam penjelasannya, CEO Tracebit, Andy Smith, menyatakan bahwa teknik ini memicu mekanisme penolakan dalam konteks yang ada. “Apa yang kami coba tangkap adalah fakta bahwa ini memiliki efek yang kuat dan tajam, yang mungkin sulit bagi model untuk pulih setelahnya,” ujarnya. “Setelah mereka memasukkan konteks ini ke dalam sistem mereka, mereka akan terus menolak permintaan.”

Hasil awal dari pengujian menunjukkan potensi besar untuk context bombing. Mereka menguji lima model LLM—termasuk Opus 4.8 dan Gemini 3.1 Pro—dengan instruksi biasa yang berujung pada pengenalan sumber daya yang terbenam. Dalam simulasi lingkungan AWS, ditemukan bahwa penyisipan string ini dapat mengurangi akuisisi admin akun yang lengkap dari 57% menjadi hanya 5%. Hasil lainnya juga menunjukkan penurunan signifikan dalam tingkat pelanggaran keamanan.

• Ekspansi hak istimewa admin menurun dari 57% menjadi 5%.
• Pelanggaran berkelanjutan menjadi hanya 1% dari sebelumnya 36%.
• Jumlah jalur serangan efektif menyusut dari 91% menjadi 15%.
• Dalam rata-rata percobaan, model menemui kesuksesan dari 1,53 jalur menjadi hanya 0,16.

Tracebit juga memperkenalkan langkah baru bagi para pembela untuk menerima peringatan saat infrastruktur mereka diserang oleh musuh berbasis AI. Mereka menciptakan sumber daya AWS yang tampak seperti berfungsi untuk tujuan sah, namun sebenarnya tidak digunakan. Ketika dicoba oleh AI, sumber yang tidak aktif ini dapat memperingatkan pemilik infrastruktur tentang adanya ancaman.

Keberhasilan konteks bombing merupakan langkah maju dari upaya sebelumnya yang bertujuan untuk hanya memberi peringatan tentang serangan. Kini, para pembela memiliki alat yang dapat menghentikan serangan sebelum terjadi kerusakan fatal.

Menurut Earlence Fernandes, profesor keamanan AI di UC San Diego, teknik ini merupakan terobosan. “Saya belum melihat orang lain menggunakan teknik ini sebagai pertahanan sebelumnya,” ujarnya. “Saya ingin menjadi yang pertama, tetapi sepertinya mereka sudah lebih dulu!”

Saat ini, belum ada cara yang dikenal untuk menyelesaikan akar penyebab dari prompt injection. Hal ini membuat para pengembang harus menciptakan pengaman yang rumit untuk mencegah prompt yang disisipkan memaksakan LLM ke jalur yang berbahaya. Namun, dengan menggunakan alat ini, para pembela menemukan cara baru untuk memanfaatkan celah yang ada.

About The Author

Teknonesia Team

See author's posts