Skip to content

创建智能路由

智能路由是模型调用的统一入口,按策略引擎智能路由请求

租户管理员管理智能路由,租户管理员登录,选择【智能路由】,可以查看所有智能路由

1.进入【智能路由】页,点击右上角【创建接入点】按钮

1784786456795

2.进入弹窗

说明:弹窗内容分四个步骤

1784786617989

填写下方的基本信息,点击【下一步】按钮,,进入第二步

1784786813494

参数说明

参数名描述
接入点名称可修改当前接入点的名称,建议使用易于识别的命名规则
接入点描述可补充或更新接入点的用途说明,便于团队协作管理
基线模型当没有策略命中或所有策略过滤后无可用模型时,请求将默认路由至基线模型

根据需求,添加相关的敏感词信息,点击【下一步】按钮,进入第三步

1784786892235

说明:

启用开关:控制是否开启敏感数据检测功能。开启后,所有请求将先经过敏感词检测。

执行优先级:该安全策略独立于路由策略,始终优先执行。一旦命中,直接强制路由至本地模型,不再经过后续的“任务类型路由”和“业务偏好”判断。

根据需要调用的路由类型,选择任务类型和目标模型,点击【下一步】按钮,进入第四步

1784786931980

说明:路由规则支持灵活配置,您可以为同一任务类型添加多组目标模型,按列表顺序依次匹配。实际调用时,调用方需在请求 Header 中携带 task_type 参数,网关根据该参数值匹配对应的目标模型。若 Header 中未包含 task_type,或传入的值与任何规则均不匹配,请求将自动降级至基线模型处理。

业务偏好可切换选择,确认选择后,点击【保存接入点】按钮,即可创建新的智能

1784786971840

3.创建成功之后,即可在智能路由页面查看

1784787078350