bacakoran.co - memperkenalkan gpt-red, sebuah model ai internal yang dirancang untuk menguji dan menemukan kelemahan pada sistem ai lainnya. diumumkan pada 15 juli 2026, gpt-red berfungsi sebagai automated red-teamer yang secara aktif mencari kerentanan sebelum model ai digunakan secara lebih luas.
berbeda dari yang dibuat untuk membantu pengguna menjawab pertanyaan atau menyelesaikan tugas, gpt-red memiliki peran sebagai penguji keamanan.
sistem ini mencoba menemukan cara untuk memengaruhi perilaku model ai, termasuk melalui serangan prompt injection, sehingga pengembang dapat memperbaiki kelemahan yang ditemukan.
apa itu gpt-red?
dalam keamanan siber, red teaming merupakan metode pengujian dengan menempatkan tim atau sistem sebagai pihak penyerang.
tujuannya adalah menemukan kelemahan sebelum celah tersebut dimanfaatkan oleh pihak yang memiliki niat buruk.
openai menerapkan konsep serupa pada gpt-red. model ini mengirimkan prompt, mengamati respons model target, kemudian mencoba mengembangkan serangan berikutnya secara berulang untuk mencapai tujuan tertentu.
openai melatih gpt-red menggunakan pendekatan self-play agar sistem dapat meningkatkan kemampuan red teaming secara otomatis.
gpt-red menguji serangan prompt injection
salah satu fokus utama gpt-red adalah menguji prompt injection, yaitu upaya memanipulasi model ai melalui instruksi tertentu yang dapat mengubah perilaku sistem.
risiko ini semakin penting karena ai modern tidak hanya memproses percakapan.
model juga dapat berinteraksi dengan browser, aplikasi yang terhubung, file lokal, alat pemrograman, serta sumber data pihak ketiga.
dalam skenario tertentu, instruksi berbahaya dapat disisipkan ke dalam email, halaman web, respons alat, atau repositori kode.
jika model tidak mampu membedakan instruksi yang dapat dipercaya, penyerang berpotensi memengaruhi tindakan ai.
menggunakan ai untuk menguji ai
keunggulan utama gpt-red terletak pada kemampuan melakukan pengujian dalam skala besar.
pengujian manual oleh manusia tetap penting, tetapi membutuhkan waktu dan sumber daya yang terbatas.
menurut openai, gpt-red dikembangkan untuk memperluas kemampuan red teaming dengan menghasilkan serangan dalam jumlah besar dan beragam.
hasilnya kemudian dapat digunakan untuk melatih model pertahanan agar lebih tangguh menghadapi pola serangan yang ditemukan.
pendekatan ini memungkinkan pengujian dilakukan secara lebih berkelanjutan seiring meningkatnya kemampuan model ai.
gpt-red mengungguli penguji manusia dalam salah satu uji
dalam pengujian terhadap skenario baru yang berkaitan dengan indirect prompt injection, openai melaporkan gpt-red berhasil menemukan serangan pada 84 persen skenario, dibandingkan 13 persen yang dicapai penguji manusia dalam eksperimen tersebut.
angka ini tidak berarti ai selalu lebih unggul dalam seluruh bentuk pengujian keamanan.
namun, hasil tersebut menunjukkan potensi sistem otomatis untuk mengeksplorasi banyak kemungkinan serangan secara cepat dan berulang.
diuji pada sistem ai yang berinteraksi dengan dunia nyata
openai juga menguji gpt-red pada sistem agen ai yang mengendalikan simulasi mesin penjual otomatis.
dalam eksperimen tersebut, gpt-red berhasil menemukan cara untuk mencapai sejumlah tujuan yang tidak diinginkan, termasuk mengubah harga barang, membuat pesanan baru dengan harga sangat rendah, dan membatalkan pesanan lain.
openai menyebut kerentanan tersebut telah diungkapkan dan perlindungan baru sedang diuji.
eksperimen ini menunjukkan bahwa pengujian keamanan tidak cukup hanya dilakukan pada model percakapan, tetapi juga pada sistem ai yang dapat menggunakan alat dan mengambil tindakan.
hasil pengujian dipakai untuk memperkuat model ai
tujuan utama gpt-red bukan untuk menjadi produk ai yang digunakan publik.
openai menggunakannya sebagai bagian dari proses pengujian dan pelatihan keamanan model produksi.
openai menyatakan gpt-red digunakan dalam pelatihan adversarial untuk meningkatkan ketahanan gpt-5.6 sol terhadap serangan prompt injection.
dalam salah satu perbandingan yang dipublikasikan, model tersebut disebut mengalami enam kali lebih sedikit kegagalan pada benchmark direct prompt injection tersulit dibandingkan model produksi terbaik openai empat bulan sebelumnya.
tantangan keamanan ai terus berkembang
kemajuan ai generatif membuat sistem mampu menghasilkan teks, kode, gambar, dan melakukan tugas yang semakin kompleks.
namun, semakin besar kemampuan ai, semakin luas pula potensi risiko yang perlu diuji.
karena itu, pendekatan seperti automated red teaming diperkirakan akan menjadi bagian penting dari pengembangan sistem ai yang lebih aman.
openai sendiri menyatakan gpt-red akan tetap digunakan bersama red teaming manusia dan pihak ketiga, perlindungan berlapis, serta pemantauan secara real time.
kesimpulan
gpt-red menunjukkan pendekatan baru dalam keamanan ai, yaitu menggunakan model kecerdasan buatan untuk secara otomatis menguji kelemahan model ai lainnya.
sistem ini berfokus pada pencarian kerentanan, terutama serangan prompt injection, kemudian membantu pengembang memperkuat pertahanan sebelum model digunakan secara lebih luas.
kehadiran gpt-red menegaskan bahwa perkembangan ai tidak hanya bergantung pada kemampuan menghasilkan jawaban, tetapi juga pada upaya memastikan teknologi tersebut tetap tangguh dan aman.
