Arquitectura de clasificación de complejidad de turnos y escalado
Weave Router 2.0 evalúa las solicitudes de los agentes mediante un pipeline de clasificación que opera en milisegundos. El clasificador de complejidad determina la dificultad del turno antes de despachar las solicitudes, considerando el estado y el costo de reconstruir las cachés de prompts antes de derivarlas a modelos secundarios.
Durante la ejecución de las tareas, un clasificador de escalado integrado supervisa continuamente la salida del modelo. Si un modelo delegado entra en un bucle de ejecución, se bloquea o no completa los pasos necesarios, el enrutador interviene y escala el turno de vuelta a un modelo de frontera.
- La puntuación de complejidad opera en milisegundos de un solo dígito para evitar introducir latencia conversacional.
- Los umbrales conscientes de la caché evitan cambiar de modelo cuando la regeneración del caché contrarresta las ganancias de eficiencia.
- La detección de escalado vigila bucles, bloqueos y acciones omitidas para activar el retorno a modelos de frontera.