GPT-Red de OpenAI automatiza las pruebas de inyección de prompts para fortalecer GPT-5.6
POR
The Hacker News
FUENTE
The Hacker News
DATE
READ
1 min de lectura
OpenAI ha revelado detalles de GPT-Red, un modelo interno de red teaming automatizado que escala el descubrimiento de vulnerabilidades de inyección de prompts con el objetivo de solucionar problemas antes de que las …
OpenAI ha revelado detalles de GPT-Red, un modelo interno automatizado de “red teaming” que escala el descubrimiento de vulnerabilidades de inyección de prompts con el objetivo de solucionar problemas antes de que las herramientas se implementen ampliamente. GPT-Red es un “red team” muy potente, y nuestros modelos anteriores son altamente vulnerables a sus ataques de inyección de prompts, dijo la empresa de inteligencia artificial (IA). Utilizamos GPT-Red para entrenar adversariamente