Decisión de arquitectura
Comenzar con un piloto medible. Promover un modelo solo después de pruebas de calidad y carga, manteniendo los artefactos de reversión disponibles.
GLOBALATLAS AI · Startups de IA
Startups de IA
Separar experimentos de inferencias orientadas al cliente para que los cambios en el modelo no interrumpan la aplicación.
Separar experimentos del tráfico de clientes
- 01
Proyecto de experimentos: conjuntos de datos y ejecuciones de entrenamiento
- 02
Proyecto de la aplicación: API y inferencia
- 03
Artefactos versionados compartidos y límites de gasto
Requisitos de configuración
GPU para el modelo, CPU para la API, almacenamiento de objetos para conjuntos de datos y copias de seguridad para el estado. Comience con una carga de trabajo pequeña y medida.