过去一年,客户在 xUSE 上搭建的智能体流程普遍面临两个问题:模型价格与能力变动频繁,硬编码的供应商选择在三个月内就会失效;以及单一供应商故障会直接中断整条业务流。
本次发布在工作流引擎中引入模型路由层。流程图中的 AI 节点只声明意图——分类、抽取、生成、校验——以及约束条件,例如最大延迟、单次成本上限、是否需要结构化输出。路由层依据这些约束与实时健康度选择具体模型。
节点级降级
每个 AI 节点可以配置一条降级链。主模型超时或返回不符合结构约束时,节点自动重试至下一个候选,并在流程日志中标记降级路径。降级不改变流程语义,也不会污染下游节点的输入结构。
成本可观测
路由层统一记录每个节点的 token 消耗、延迟与成本,按流程、租户、时间窗口聚合。租户可以设置月度配额,超限时按策略降级到更小的模型或暂停非关键流程,而不是直接拒绝请求。
需要说明的是,路由层不承诺能力等价。不同模型在长文本抽取上的表现差异仍然显著,降级链的顺序应当由业务方基于自己的评估集确定,平台只提供观测数据与执行机制。