Serangan Prompt Injection: Jurus Jitu Menghadang Agen Peretas AI!

Serangan Prompt Injection: Jurus Jitu Menghadang Agen Peretas AI!

Penyerang kini memanfaatkan prompt injection untuk mengecoh model bahasa besar (LLM) dan memaksa mereka melakukan tindakan merugikan. Namun, sekelompok peneliti menemukan cara untuk melawan taktik ini. Menggunakan metode yang dinamakan context bombing, pertahanan dapat memaksa model tersebut untuk menolak perintah jahat.

Menurut laporan dari Tracebit, periset mengungkap bahwa mereka dapat menempatkan prompt injection berseberangan dengan kata sandi dan kunci kriptografi yang disimpan di Amazon Web Services. Taktik ini bisa memaksa LLM untuk berhenti berfungsi saat menghadapi instruksi berbahaya. Misalnya, perintah untuk mengembangkan spora Anthrax yang dapat dihirup atau menyebutkan “Tank Man” dari tragedi Tiananmen 1989.

Andy Smith, cofounder dan CEO Tracebit, menjelaskan bahwa mereka memicu mekanisme penolakan dari dalam konteks perintah yang diberikan. “Setelah terpapar perintah terlarang itu, LLM tidak akan mengikuti perintah sebelumnya. Ini memberi dampak yang tajam dan sulit diatasi oleh agen-agen tersebut,” ujarnya.

• Uji coba awal menunjukkan bahwa teknik context bombing memiliki potensi besar. Dalam pengujian terhadap beberapa model LLM, mereka menemukan pengurangan signifikan dalam tingkat keberhasilan penyerangan.
• Rata-rata, tingkat eskalasi hak admin turun dari 57% menjadi hanya 5%, sedangkan kompromi total dari 36% menjadi 1%.
• Model terkuat yang diuji, Opus 4.8, gagal mencuri akses admin di semua percobaan saat menghadapi context bomb.

Tracebit menyebutkan, dalam lima model uji coba dan 152 percobaan, hasil rata-rata mencakup:

• Eskalasi hak admin turun dari 57% menjadi 5%
• Komponen dengan jejak tetap turun dari 36% menjadi 1%
• Keberhasilan mencetak jalur serangan anjlok dari 91% ke 15%
• Percobaan hanya berhasil menyelesaikan 0.16 jalur serangan dari rata-rata sebelumnya 1.53

Peneliti juga menciptakan sistem deteksi yang mirip “canaries” untuk memberi peringatan ketika infrastruktur mereka diserang oleh AI yang bersifat menyerang. Pengembangan ini mengikuti temuan sebelumnya yang menyampaikan perlunya cara proaktif, daripada sekadar memberi tahu tentang adanya serangan.

Keberhasilan penerapan context bombing ini menciptakan preseden baru dalam pertarungan melawan peretas AI. Earlence Fernandes, seorang profesor di UC San Diego, mengungkapkan bahwa teknik ini belum pernah dicoba sebagai metode pertahanan sebelumnya. “Saya rasa ini adalah langkah inovatif yang patut dicontoh,” katanya.

Sejauh ini, tidak ada solusi definitif untuk menangani akar masalah prompt injections. Hal ini mendorong pengembang untuk menciptakan penghalang kompleks guna mencegah LLM beroperasi di luar kendali. Namun, dengan adanya teknik ini, para pembela kini memiliki senjata baru untuk menghadapi ancaman peretasan AI.

About The Author

Teknonesia Team

See author's posts