ARCHITECT
ANÁLISIS DESTACADO
Ejecución de inferencia por lotes en GPU en instancias administradas de Amazon ECS con escalado a cero.
POR
Henrique Santana
FUENTE
Containers
DATE
READ
1 min de lectura
Implemente un único stack de CloudFormation que construya una tubería de inferencia por lotes con GPU en instancias administradas de Amazon ECS. Utiliza Amazon SQS para el almacenamiento en búfer de tareas y Application …
Implemente un único stack de CloudFormation que construya una línea de procesamiento por lotes de inferencia con GPU en instancias gestionadas de Amazon ECS. Utiliza Amazon SQS para el almacenamiento en búfer de trabajos y Application Auto Scaling para escalar a cero cuando está inactivo, de modo que solo pague por el tiempo de inferencia activo.