Midiendo la tendencia de los agentes de IA a descontrolarse.
POR
Bruce Schneier
FUENTE
Schneier on Security
DATE
READ
1 min de lectura
El ensayo de The Guardian por Barath Raghavan explica cómo Hugging Face, un importante anfitrión de software de IA, fue vulnerado en julio cuando un conjunto de datos malicioso ejecutó código en un servidor. Los …
Este ensayo fue escrito con Barath Raghavan y apareció originalmente en The Guardian. En julio, Hugging Face, una empresa que alberga gran parte del software de IA del mundo y modelos de IA de código abierto, fue hackeada. Se había utilizado un conjunto de datos malicioso para ejecutar código en uno de sus servidores. Quien estuvo detrás de esto capturó credenciales de seguridad internas y se movió a través de los sistemas durante un fin de semana, realizando miles de acciones desde un enjambre de entornos de servidor temporales. Parecía obra de un grupo criminal sofisticado. No lo era. Era uno de los nuevos modelos GPT de OpenAI, aún no lanzados.