Jika model tidak mampu membedakan instruksi yang dapat dipercaya, penyerang berpotensi memengaruhi tindakan AI.
BACA JUGA:Pakar Beberkan: AI Resmi Masuk Fase Physical AI, Level Tertinggi Kecerdasan Buatan?
Menggunakan AI untuk Menguji AI
Keunggulan utama GPT-Red terletak pada kemampuan melakukan pengujian dalam skala besar.
Pengujian manual oleh manusia tetap penting, tetapi membutuhkan waktu dan sumber daya yang terbatas.
Menurut OpenAI, GPT-Red dikembangkan untuk memperluas kemampuan red teaming dengan menghasilkan serangan dalam jumlah besar dan beragam.
Hasilnya kemudian dapat digunakan untuk melatih model pertahanan agar lebih tangguh menghadapi pola serangan yang ditemukan.
Pendekatan ini memungkinkan pengujian dilakukan secara lebih berkelanjutan seiring meningkatnya kemampuan model AI.
GPT-Red Mengungguli Penguji Manusia dalam Salah Satu Uji
Dalam pengujian terhadap skenario baru yang berkaitan dengan indirect prompt injection, OpenAI melaporkan GPT-Red berhasil menemukan serangan pada 84 persen skenario, dibandingkan 13 persen yang dicapai penguji manusia dalam eksperimen tersebut.
Angka ini tidak berarti AI selalu lebih unggul dalam seluruh bentuk pengujian keamanan.
Namun, hasil tersebut menunjukkan potensi sistem otomatis untuk mengeksplorasi banyak kemungkinan serangan secara cepat dan berulang.
Diuji pada Sistem AI yang Berinteraksi dengan Dunia Nyata
OpenAI juga menguji GPT-Red pada sistem agen AI yang mengendalikan simulasi mesin penjual otomatis.
