Incidente de seguridad de OpenAI y Hugging Face: Dentro de la gran fuga del sandbox
FUENTE
Cloud Security Alliance
DATE
READ
1 min de lectura
El 21 de julio, OpenAI confirmó un incidente de seguridad que involucraba sus propios modelos. Mientras ejecutaba ExploitGym, un banco de pruebas interno para medir capacidades cibernéticas ofensivas en bruto, se …
El 21 de julio, OpenAI confirmó un incidente de seguridad que involucraba sus propios modelos. OpenAI estaba ejecutando un banco de pruebas interno, ExploitGym, para medir la capacidad cibernética ofensiva bruta. Los clasificadores de seguridad estaban deshabilitados para la evaluación, y el entorno de pruebas tenía exactamente una ruta de red permitida: un proxy interno que almacenaba en caché paquetes de código abierto, sin acceso a internet abierto. El modelo encontró un día cero en ese proxy, escaló privilegios y se movió lateralmente hasta que alcanzó un nodo.