Diseñar para lo inevitable: Fuga de indicaciones del sistema y mitigaciones en aplicaciones de IA generativa
POR
Manideep Konakandla
FUENTE
AWS Security Blog
DATE
READ
1 min de lectura
Las indicaciones del sistema constituyen la base de las aplicaciones de IA generativa. Una indicación del sistema es una colección de instrucciones y contexto operativo que se proporciona a un modelo de lenguaje grande …
Los prompts del sistema forman la base de las aplicaciones de IA generativa. Un prompt del sistema es una colección de instrucciones y contexto operativo proporcionada a un modelo de lenguaje grande (LLM) que da forma al comportamiento y a la interacción del modelo con los usuarios y las herramientas. Los prompts del sistema a menudo contienen información propietaria, incluyendo definiciones de roles, directrices de comportamiento, descripciones de herramientas e instrucciones de uso.