Decisión de arquitectura
Comenzar con un piloto medible. Promover un modelo solo después de pruebas de calidad y carga, manteniendo los artefactos de reversión disponibles.
GLOBALATLAS AI · Startups de IA
Startups de IA
Separar experimentos de la inferencia orientada al cliente para que los cambios en el modelo no interrumpan la aplicación.
Separar experimentos del tráfico de clientes
- 01
Proyecto de experimentos: conjuntos de datos y ejecuciones de entrenamiento
- 02
Proyecto de la aplicación: API y inferencia
- 03
Artefactos versionados compartidos y límites de gasto
Requisitos de configuración
GPU para el modelo, CPU para la API, almacenamiento de objetos para conjuntos de datos y copias de seguridad para el estado. Comience con una carga de trabajo pequeña y medida.