BACAKORAN.CO - OpenAI memperkenalkan GPT-Red, sebuah model AI internal yang dirancang untuk menguji dan menemukan kelemahan pada sistem AI lainnya. Diumumkan pada 15 Juli 2026, GPT-Red berfungsi sebagai automated red-teamer yang secara aktif mencari kerentanan sebelum model AI digunakan secara lebih luas.
Berbeda dari chatbot yang dibuat untuk membantu pengguna menjawab pertanyaan atau menyelesaikan tugas, GPT-Red memiliki peran sebagai penguji keamanan.
Sistem ini mencoba menemukan cara untuk memengaruhi perilaku model AI, termasuk melalui serangan prompt injection, sehingga pengembang dapat memperbaiki kelemahan yang ditemukan.
BACA JUGA:Wow Keren bin Canggih, Bola Pildun 2026 Didukung Kecerdasan Buatan
Apa Itu GPT-Red?
Dalam keamanan siber, red teaming merupakan metode pengujian dengan menempatkan tim atau sistem sebagai pihak penyerang.
Tujuannya adalah menemukan kelemahan sebelum celah tersebut dimanfaatkan oleh pihak yang memiliki niat buruk.
OpenAI menerapkan konsep serupa pada GPT-Red. Model ini mengirimkan prompt, mengamati respons model target, kemudian mencoba mengembangkan serangan berikutnya secara berulang untuk mencapai tujuan tertentu.
OpenAI melatih GPT-Red menggunakan pendekatan self-play agar sistem dapat meningkatkan kemampuan red teaming secara otomatis.
BACA JUGA:10 Pekerjaan yang Tidak Akan Tergantikan AI, Aman untuk Masa Depan dari Kecerdasan Buatan
GPT-Red Menguji Serangan Prompt Injection
Salah satu fokus utama GPT-Red adalah menguji prompt injection, yaitu upaya memanipulasi model AI melalui instruksi tertentu yang dapat mengubah perilaku sistem.
Risiko ini semakin penting karena AI modern tidak hanya memproses percakapan.
Model juga dapat berinteraksi dengan browser, aplikasi yang terhubung, file lokal, alat pemrograman, serta sumber data pihak ketiga.
Dalam skenario tertentu, instruksi berbahaya dapat disisipkan ke dalam email, halaman web, respons alat, atau repositori kode.
