OpenAI Perkenalkan GPT-Red, AI yang Menguji Keamanan Model AI Buatannya Sendiri

Sistem ini berfokus pada pencarian kerentanan, terutama serangan prompt injection, kemudian membantu pengembang memperkuat pertahanan sebelum model digunakan secara lebih luas.

Kehadiran GPT-Red menegaskan bahwa perkembangan AI tidak hanya bergantung pada kemampuan menghasilkan jawaban, tetapi juga pada upaya memastikan teknologi tersebut tetap tangguh dan aman.