Con el auge de la IA generativa, están surgiendo nuevas amenazas, como las inyecciones de indicaciones indirectas. Estos ataques utilizan fuentes de datos externas para manipular de forma encubierta los sistemas de IA. El equipo de seguridad de GenAI de Google está abordando este riesgo con una estrategia de seguridad integral para su herramienta Gemini, que incluye técnicas como clasificadores de contenido, refuerzo de la seguridad y un marco de confirmación del usuario. Estas medidas mejoran la defensa contra las inyecciones de indicaciones y ofrecen una protección robusta al requerir la interacción del usuario para ciertas acciones, notificándole al mismo tiempo de posibles amenazas. La colaboración continua con investigadores de seguridad y las pruebas rigurosas fortalecen aún más las defensas de Gemini contra estas amenazas en evolución.
8 MIN DE LECTURA
arrow_forward