Diseñar para lo inevitable: Fuga de indicaciones del sistema y mitigaciones en aplicaciones de IA generativa
Las indicaciones del sistema constituyen la base de las aplicaciones de IA generativa. Una indicación del sistema es una colección de instrucciones y contexto operativo que se proporciona a un modelo de lenguaje grande (LLM), lo que determina cómo el modelo se comporta e interactúa con los usuarios y las herramientas. Las indicaciones del sistema suelen contener información propietaria, incluyendo definiciones de roles, directrices de comportamiento, descripciones de herramientas e instrucciones de uso.











