Garantizar la cadena de suministro de IA en GKE: Presentación de k8s-aibom para listas de materiales de IA automatizadas

Cómo debe gestionar su equipo de seguridad la IA en las sombras. Las cargas de trabajo implementadas por los desarrolladores sin registro formal pueden evadir a menudo los escáneres de seguridad tradicionales, ya que las organizaciones son reacias a ralentizar el desarrollo y comprometer la estabilidad al exigir Daemonsets con privilegios, acceso de nivel de kernel y modificaciones manuales de las especificaciones de los pods. Para romper este estancamiento, hoy estamos publicando el código fuente de k8s-aibom. Este controlador ligero y sin privilegios de Kubernetes supervisa continuamente la API del clúster y los entornos de los contenedores para detectar automáticamente los tiempos de ejecución de IA en curso (como vLLM y Triton) y generar documentos de materiales de IA estándar de CycloneDX (ML-BOM). Al proporcionar una visibilidad automatizada y auditada directamente de la ejecución del tiempo de ejecución, independientemente de si la carga de trabajo se había registrado o no, k8s-aibom puede ayudar a los equipos a mover los proyectos de IA de la fase de prueba a la producción sin fricciones de integración con los desarrolladores. La arquitectura de k8s-aibom sin fricciones está diseñada desde cero para respetar tanto la directiva del CISO para la visibilidad total como la directiva del SRE para la estabilidad del clúster. Implementa como un único Deployment sin privilegios en el espacio de nombres k8s-aibom-system. Implica cero fricciones para los desarrolladores: sin contenedores auxiliares, sin módulos del kernel eBPF, sin DaemonSets con privilegios ni modificaciones a las especificaciones existentes de los pods de los desarrolladores. k8s-aibom supervisa las cargas de trabajo de IA y genera BOM. El flujo de descubrimiento se ejecuta en cuatro etapas claras: Recolectar las cargas de trabajo del clúster: El controlador supervisa continuamente los recursos de KServe, los Deployments, los StatefulSets, los DaemonSets y los Jobs en todo el clúster. Identificar las pilas de IA: Los patrones de coincidencia avanzada inspeccionan imágenes de contenedores, variables de entorno y argumentos de línea de comandos para detectar tiempos de ejecución de servicio (vLLM, Triton Inference Server, TGI, Ollama), marcos de agentes autónomos (LangChain, AutoGen, CrewAI), bases de datos vectoriales y almacenes RAG (Milvus, Qdrant, pgvector) así como trabajos de entrenamiento distribuidos y marcos de evaluación. Generar manifiestos estándar: El controlador compila los artefactos descubiertos en documentos estándar de OWASP CycloneDX 1.6 de Materiales de IA (ML-BOM). Exportar a los sumideros: El controlador adjunta el ML-BOM resultante directamente al estado de los recursos personalizados (status.bomDocument) de un recurso personalizado de AIBOM (CR) en el clúster y lo envía a sumideros externos opcionales, incluidos los volúmenes de Google Cloud Storage y los extremos webhook externos. Los equipos de aplicaciones no necesitan modificar las especificaciones de los pods, insertar contenedores auxiliares ni alterar sus pipelines de integración y entrega continuas (CI/CD). Además, k8s-aibom trata el estado del clúster de Kubernetes como una entrada funcional pura: entradas de clústeres idénticas producen documentos ML-BOM byte-identicos. Esta propiedad determinista hace que k8s-aibom sea ideal para los flujos de trabajo GitOps, lo que permite a los ingenieros de fiabilidad del sitio (SRE) realizar diferencias exactas y activar alertas precisas de detección de cambios cuando las dependencias de la IA se desvían. Donde las herramientas existentes de AIBOM fallan Muchas soluciones de BOM de IA ofrecen escáneres de tiempo de construcción que generan BOM a partir de artefactos en reposo. Estas herramientas le ayudan a realizar un seguimiento del código previsto para su despliegue. Las plataformas de seguridad de IA comerciales amplían la imagen con la gestión de posture nativa en la nube, pero normalmente a través de escaneos externos basados en modelos de datos específicos del proveedor. Pocas, si es que hay, estas herramientas ayudan a los revisores de cumplimiento, a los equipos de operaciones (SecOps) y a los ingenieros de la plataforma a comprender qué se está ejecutando actualmente, a qué está conectado y cómo se pueden verificar estas afirmaciones. Hemos construido k8s-aibom para llenar esa brecha. Produce BOM a partir de la observación del clúster en vivo, genera documentos de ML-BOM estándar de CycloneDX 1.6 que se integran con el ecosistema de cadena de suministro más amplio de OWASP y Open Source Security Foundation (OpenSSF) en lugar de formatos propietarios, y funciona como un controlador sin privilegios en cualquier clúster de Kubernetes compatible, en lugar de ser un reemplazo para las herramientas de tiempo de construcción o gestión de posture existentes. El modelo de Confianza: Separar la intención de la inferencia Para los auditores de cumplimiento y los ingenieros de SecOps, la telemetría bruta a menudo es ruido. Las herramientas de supervisión estándar indican que un contenedor se está ejecutando, pero no pueden demostrar si un modelo de IA se había configurado explícitamente por un ingeniero de la plataforma o se había extraído dinámicamente en tiempo de ejecución. k8s-aibom resuelve esta ambigüedad a través de su modelo de confianza determinista, que clasifica los activos descubiertos en diferentes niveles: Declarado: Definido explícitamente por el cliente o el desarrollador en la configuración de la carga de trabajo (por ejemplo, argumentos de contenedor pasados explícitamente como –model meta-llama/Llama-2-7b). La detección de confianza “declarada” representa una intención humana clara. Inferencia: Derivada de forma autónoma por el motor de coincidencia de patrones del controlador a través de una inspección profunda de imágenes de contenedores, variables de entorno y perfiles de ejecución (por ejemplo, identificando firmas ^vllm/.*). Un nivel de “no resuelto” se aplica a las cargas de trabajo donde se detecta una presencia de IA activa, pero no se pueden establecer de forma determinista los parámetros del modelo, los pesos y las versiones. La detección de confianza “no resuelta” marca inmediatamente la carga de trabajo para una revisión de seguridad dirigida. Esta taxonomía estructurada permite a los revisores de cumplimiento separar instantáneamente la intención de ingeniería explícita de la inferencia de la máquina, estableciendo una cadena de confianza inquebrantable durante los auditorías. Inmutabilidad y privilegio mínimo: Construir un modelo de seguridad auditable Los auditores siguen siendo muy escépticos de la telemetría de observabilidad estándar porque los registros y las métricas pueden modificarse, eliminarse y manipularse por nodos comprometidos o administradores con privilegios. k8s-aibom establece una pista de evidencia de auditoría construida sobre estrictos privilegios mínimos y datos inmutables. El controlador opera bajo una instancia de servicio de Kubernetes vinculada a una identidad y gestión de acceso mínimo (IAM). Actúa como la única identidad autorizada para escribir los registros de BOM en los sumideros de almacenamiento externos, requiriendo solo los permisos de creador de objetos/almacenamiento. Para satisfacer los estándares de auditoría y evidencia más estrictos, la implementación del sumidero externo de Google Cloud Storage hace cumplir las condiciones “NoExiste” en la creación de objetos. Una vez que se escribe un ML-BOM en el volumen de Google Cloud Storage, el objeto se convierte en criptográficamente inmutable. No puede ser borrado, modificado o manipulado retroactivamente por actores comprometidos del clúster o cargas de trabajo maliciosas. Los equipos de SecOps obtienen la absoluta garantía de que el registro de auditoría histórico presentado a los reguladores representa un registro inalterable de la ejecución del clúster. Acelerar la preparación para el gobierno: Mapear a los marcos regulatorios globales Al automatizar la generación de documentos estándar de CycloneDX 1.6 de Materiales de IA, k8s-aibom rellena directamente la brecha entre el estado de tiempo de ejecución de Kubernetes de bajo nivel y los marcos de gobierno de nivel superior. Elimina los retrasos en los despliegues de GKE de IA al proporcionar los datos empíricos esenciales para los principales marcos globales: EU AI Act: Diseñado para ayudar a las organizaciones a cumplir con el Artículo 12 (seguimiento y registro continuo para la trazabilidad) y el Artículo 50 (obligaciones de transparencia para los sistemas de IA). Al catalogar automáticamente los tiempos de ejecución y las pilas de agentes, la herramienta ayuda a simplificar la recopilación de la evidencia técnica que puede ser necesaria durante las auditorías de cumplimiento. NIST AI Risk Management Framework (AI RMF): Proporciona visibilidad empírica continua de los activos que puede ayudar a apoyar las funciones de Gobernanza, Mapeo, Medición y Gestión, ayudando a cambiar los flujos de trabajo de cumplimiento de las comprobaciones manuales a un seguimiento más automatizado de la inventario de activos. ISO/IEC 42001: Soporta esfuerzos de cumplimiento para el descubrimiento y el seguimiento de activos del sistema de gestión de IA, reduciendo la dependencia de hojas de cálculo manuales o auditorías de inventario periódicas. Comenzar k8s-aibom puede ayudar a mitigar el problema multifacético de la IA en las sombras, que afecta a los equipos de CISOs, gobierno, riesgo y cumplimiento, a los equipos de SecOps, a los ingenieros de la plataforma y a los desarrolladores. Para obtener más información, consulte el repositorio de GitHub de k8s-aibom para revisar el controlador, ver las definiciones de CRD y contribuir al proyecto de código abierto.