Anthropic revela cómo contiene a Claude en la web, en código y en el entorno de trabajo
POR
Eran Stiller
FUENTE
InfoQ - Architecture & Design - News
DATE
READ
1 min de lectura
Anthropic discutió sobre arquitecturas de contención para Claude, afirmando que la seguridad del agente depende de los límites en el sistema de archivos, la red y el entorno de ejecución, en lugar de las solicitudes de …
Anthropic detalló las arquitecturas de contención que utiliza para Claude en sus productos. Argumenta que la seguridad de los agentes depende de establecer límites deterministas en el sistema de archivos, la red y el entorno de ejecución del agente, en lugar de depender de indicaciones o salvaguardas. Particularmente, examina los fallos en los límites de confianza y a lo largo de las rutas de salida permitidas que llevaron a Anthropic a revisar esos diseños. Por Eran Stiller