M

模型路由

Model Routing

根据任务类型、质量要求、延迟、成本、数据敏感度和可用性,将请求动态分配给不同模型的机制。

也称:大模型路由、LLM Router

模型路由帮助企业避免把所有任务固定交给单一供应商。常见策略包括按任务分类、按复杂度升级、按数据地域选择和故障自动切换。路由效果必须通过统一评测集验证。