Prompt Adware Ditemukan dalam Toolkit Jailbreak OpenAI Codex
Peneliti keamanan siber mengungkap ancaman baru bernama prompt adware yang menyusup ke dalam toolkit jailbreak OpenAI Codex untuk menyisipkan iklan pihak ketiga.
Ancaman Baru di Balik Manipulasi AI
Dunia keamanan siber kembali dikejutkan dengan temuan terbaru mengenai kerentanan pada sistem kecerdasan buatan. Peneliti keamanan baru-baru ini mengungkapkan adanya sebuah paket perangkat lunak yang dirancang khusus untuk melakukan jailbreak pada OpenAI Codex. Namun, yang membuat temuan ini mengkhawatirkan bukan sekadar kemampuan untuk membobol batasan sistem, melainkan adanya muatan tersembunyi berupa iklan yang tidak diinginkan.
Mengenal Fenomena Prompt Adware
Para peneliti dari Check Point Research memberikan istilah khusus untuk fenomena ini, yaitu prompt adware. Secara teknis, perangkat lunak ini bekerja dengan cara memodifikasi instruksi tepercaya yang dimiliki oleh agen kecerdasan buatan. Dengan mengubah konfigurasi dasar, pelaku dapat menyisipkan iklan atau promosi untuk gerbang AI pihak ketiga tanpa sepengetahuan pengguna.
Toolkit yang menjadi sorotan ini dikenal dengan nama Haiou, yang dalam bahasa Mandarin berarti burung camar. Haiou beroperasi dengan cara menyusup ke dalam konfigurasi OpenAI Codex, mengubah alur kerja sistem agar menampilkan konten promosi yang seharusnya tidak ada di sana. Ini merupakan bentuk baru dari penyalahgunaan model bahasa besar yang memanfaatkan celah pada instruksi sistem.
Bagaimana Haiou Bekerja?
Modifikasi yang dilakukan oleh Haiou sangat spesifik. Alih-alih merusak sistem secara total, perangkat ini lebih memilih untuk memanipulasi output yang dihasilkan oleh AI. Berikut adalah beberapa poin utama terkait cara kerja ancaman ini:
- Manipulasi Instruksi: Mengubah instruksi inti yang menjadi pedoman perilaku agen AI.
- Penyisipan Iklan: Memasukkan tautan atau promosi layanan AI pihak ketiga ke dalam respons yang diberikan kepada pengguna.
- Penyusupan Konfigurasi: Mengambil alih pengaturan OpenAI Codex untuk memastikan iklan tetap muncul secara konsisten.
Implikasi bagi Keamanan AI
Temuan ini menyoroti betapa rentannya sistem AI terhadap manipulasi jika instruksi dasarnya dapat diakses dan diubah oleh pihak luar. Penggunaan toolkit jailbreak yang awalnya ditujukan untuk bereksperimen dengan batasan AI kini justru disalahgunakan untuk kepentingan komersial yang merugikan. Hal ini menjadi pengingat keras bagi para pengembang dan pengguna untuk selalu berhati-hati dalam menggunakan alat pihak ketiga yang menjanjikan akses atau modifikasi pada model bahasa besar.
Keamanan siber di era AI tidak lagi hanya soal melindungi data, tetapi juga menjaga integritas dari respons yang dihasilkan oleh sistem itu sendiri. Dengan adanya prompt adware, kepercayaan pengguna terhadap output AI menjadi taruhannya. Para ahli terus memantau perkembangan ini untuk memastikan bahwa celah yang dimanfaatkan oleh Haiou dapat segera ditutup dan tidak disalahgunakan lebih jauh oleh pihak yang tidak bertanggung jawab.
Berita Terkait
Celah Ghostscript: Ancaman RCE via Unggahan File
Peneliti mengungkap kerentanan kritis pada Ghostscript yang memungkinkan penyerang melompati sandbox dan menjalankan perintah ber…
11 jam lalu · The Hacker News
OpenRouter Putus Hubungan dengan 3 Penyedia AI
OpenRouter mengambil langkah tegas dengan menghentikan kerja sama dengan tiga penyedia layanan AI setelah terungkap adanya prakti…
14 jam lalu · The Hacker News
Database RCE: Celah Keamanan PostgreSQL, MySQL, dan Oracle
Peneliti keamanan mengungkap kerentanan kritis yang memungkinkan eksekusi kode jarak jauh pada sistem database populer meski deng…
17 jam lalu · The Hacker News