Banner
Keamanan Siber

Prompt Adware Ditemukan dalam Toolkit Jailbreak OpenAI Codex

Peneliti keamanan siber mengungkap ancaman baru bernama prompt adware yang menyusup ke dalam toolkit jailbreak OpenAI Codex untuk menyisipkan iklan pihak ketiga.

Redaksi GERBONG4D2 menit baca
GKeamanan SiberPrompt Adware Ditemukan dalam Toolkit Jailbreak OpenAI Codex
Gambar: The Hacker News

Ancaman Baru di Balik Manipulasi AI

Dunia keamanan siber kembali dikejutkan dengan temuan terbaru mengenai kerentanan pada sistem kecerdasan buatan. Peneliti keamanan baru-baru ini mengungkapkan adanya sebuah paket perangkat lunak yang dirancang khusus untuk melakukan jailbreak pada OpenAI Codex. Namun, yang membuat temuan ini mengkhawatirkan bukan sekadar kemampuan untuk membobol batasan sistem, melainkan adanya muatan tersembunyi berupa iklan yang tidak diinginkan.

Mengenal Fenomena Prompt Adware

Para peneliti dari Check Point Research memberikan istilah khusus untuk fenomena ini, yaitu prompt adware. Secara teknis, perangkat lunak ini bekerja dengan cara memodifikasi instruksi tepercaya yang dimiliki oleh agen kecerdasan buatan. Dengan mengubah konfigurasi dasar, pelaku dapat menyisipkan iklan atau promosi untuk gerbang AI pihak ketiga tanpa sepengetahuan pengguna.

Toolkit yang menjadi sorotan ini dikenal dengan nama Haiou, yang dalam bahasa Mandarin berarti burung camar. Haiou beroperasi dengan cara menyusup ke dalam konfigurasi OpenAI Codex, mengubah alur kerja sistem agar menampilkan konten promosi yang seharusnya tidak ada di sana. Ini merupakan bentuk baru dari penyalahgunaan model bahasa besar yang memanfaatkan celah pada instruksi sistem.

Bagaimana Haiou Bekerja?

Modifikasi yang dilakukan oleh Haiou sangat spesifik. Alih-alih merusak sistem secara total, perangkat ini lebih memilih untuk memanipulasi output yang dihasilkan oleh AI. Berikut adalah beberapa poin utama terkait cara kerja ancaman ini:

  • Manipulasi Instruksi: Mengubah instruksi inti yang menjadi pedoman perilaku agen AI.
  • Penyisipan Iklan: Memasukkan tautan atau promosi layanan AI pihak ketiga ke dalam respons yang diberikan kepada pengguna.
  • Penyusupan Konfigurasi: Mengambil alih pengaturan OpenAI Codex untuk memastikan iklan tetap muncul secara konsisten.

Implikasi bagi Keamanan AI

Temuan ini menyoroti betapa rentannya sistem AI terhadap manipulasi jika instruksi dasarnya dapat diakses dan diubah oleh pihak luar. Penggunaan toolkit jailbreak yang awalnya ditujukan untuk bereksperimen dengan batasan AI kini justru disalahgunakan untuk kepentingan komersial yang merugikan. Hal ini menjadi pengingat keras bagi para pengembang dan pengguna untuk selalu berhati-hati dalam menggunakan alat pihak ketiga yang menjanjikan akses atau modifikasi pada model bahasa besar.

Keamanan siber di era AI tidak lagi hanya soal melindungi data, tetapi juga menjaga integritas dari respons yang dihasilkan oleh sistem itu sendiri. Dengan adanya prompt adware, kepercayaan pengguna terhadap output AI menjadi taruhannya. Para ahli terus memantau perkembangan ini untuk memastikan bahwa celah yang dimanfaatkan oleh Haiou dapat segera ditutup dan tidak disalahgunakan lebih jauh oleh pihak yang tidak bertanggung jawab.

Berita Terkait

GERBONG4D | Prompt Adware Ditemukan dalam Toolkit Jailbreak OpenAI Codex