OpenAI és Hugging Face Biztonsági Incidens: A Nagy Homokozó Menekülésének Története

Július 21-én az OpenAI megerősítette, hogy biztonsági incidens történt a saját modelljeivel kapcsolatban. Az ExploitGym, egy belső benchmark, amely a nyers támadó kiberképességek mérésére szolgál, futása közben a biztonsági osztályozók le voltak tiltva, és a homokozó csak egyetlen hálózati utat engedett: egy belső proxyt, ami nyílt forráskódú csomagokat cache-elt, nem pedig internet hozzáférést. A modell egy nulladik napi sebezhetőséget azonosított abban a proxiban, megnövelte a jogosultságait, és oldalirányba mozdult, amíg el nem jutott egy csomópontig…