创建智能路由
智能路由是模型调用的统一入口,按策略引擎智能路由请求
创建智能路由
Section titled “创建智能路由”租户管理员管理智能路由,租户管理员登录,选择【智能路由】,可以查看所有智能路由
1.进入【智能路由】页,点击右上角【创建接入点】按钮

2.进入弹窗
说明:弹窗内容分四个步骤

第一步:基本信息
Section titled “第一步:基本信息”填写下方的基本信息,点击【下一步】按钮,,进入第二步

参数说明
| 参数名 | 描述 |
|---|---|
| 接入点名称 | 可修改当前接入点的名称,建议使用易于识别的命名规则 |
| 接入点描述 | 可补充或更新接入点的用途说明,便于团队协作管理 |
| 基线模型 | 当没有策略命中或所有策略过滤后无可用模型时,请求将默认路由至基线模型 |
第二步:安全策略
Section titled “第二步:安全策略”根据需求,添加相关的敏感词信息,点击【下一步】按钮,进入第三步

说明:
启用开关:控制是否开启敏感数据检测功能。开启后,所有请求将先经过敏感词检测。
执行优先级:该安全策略独立于路由策略,始终优先执行。一旦命中,直接强制路由至本地模型,不再经过后续的“任务类型路由”和“业务偏好”判断。
第三步:任务类型路由
Section titled “第三步:任务类型路由”根据需要调用的路由类型,选择任务类型和目标模型,点击【下一步】按钮,进入第四步

说明:路由规则支持灵活配置,您可以为同一任务类型添加多组目标模型,按列表顺序依次匹配。实际调用时,调用方需在请求 Header 中携带 task_type 参数,网关根据该参数值匹配对应的目标模型。若 Header 中未包含 task_type,或传入的值与任何规则均不匹配,请求将自动降级至基线模型处理。
第四步:业务偏好
Section titled “第四步:业务偏好”业务偏好可切换选择,确认选择后,点击【保存接入点】按钮,即可创建新的智能

3.创建成功之后,即可在智能路由页面查看
