决策模型与路由机制

English · 自定义扩展 API · 官方 Jev 扩展

决策模型回答“当前任务属于哪一类、需要多强的处理能力”,执行模型负责真正完成任务。你在路由计划中配置判断条件和模型组,HiRoute 根据决策结果选择模型,并在之后的决策中评价上一阶段的执行表现。

接入决策模型

  1. 打开模型 → 决策模型,添加连接。内置接入支持百炼、OpenAI、OpenRouter Jev、TypeSafe,以及使用 System One 或 OpenAI 决策接口协议的兼容端点。
  2. 选择凭据来源:复用已有 API 接入中的 Key,或为决策模型独立填写 Key。确认模型、完整接入点和协议后,保存并测试连接。
  3. 在路由计划中选择已保存的连接,配置按难度分流或自定义任务分支及其执行模型。
  4. 发布计划使配置生效。编辑连接或草稿后,需要在计划中选择对应版本并重新发布。

使用内置决策模型无需自行部署服务。连接测试使用合成输入检查已保存版本的传输和必要响应字段,不代表它对实际任务的判断准确率。上下文窗口默认按模型元信息自动确定:当前输入和决策问题优先保留,剩余空间用于历史。

自定义扩展是可选的 HTTP 服务,自己对接供应商,按 HiRoute 传入的类别、条件和可用模型组,直接返回类别与常规/主力组选择;可选阶段评分只用于观察。在同一页面配置它的完整接入点即可;表单提供可复制请求和 OpenAPI 下载。官方 Jev 扩展是可部署的参考实现。

选择路由模式

模式 决策模型判断什么 执行模型
按难度分流 当前任务符合简单或复杂条件的概率 常规组、主力组
自定义分支 当前任务属于哪类;有两组模型时再判断该类别内的复杂度 每类常规模型,可选主力模型

使用内置决策模型时,每条新消息到来,决策模型沿任务时间线独立回答三个问题:

问题 例子 作用
上一步做得怎么样? 稿件结构可用,但有未经证实的论断 给出胜任分,同时计入模型表现和信任度建议
这一步有多难? 局部措辞修改,还是全篇论证核查 给出简单概率,够简单的工作才可能交给常规组
上一步的问题会带进下一步吗? 上一步漏掉的论据,这一步还要用到 会:低分保护,由主力接手;不会:解除保护,重新按难度选择

阈值、选组和执行由 HiRoute 按已发布的计划负责,调整分流不必改写提示词。自定义分支还会先判断当前任务属于哪个类别(例如写稿或审稿),再在该类别内选择模型组。

自定义条件重叠时按当前请求的主要意图选择;没有匹配时使用配置的默认分支。只有常规模型的类别不判断复杂度,但仍可记录胜任度。按难度分流只有一个任务范围,不把简单和复杂建成两个任务分支。

HiRoute 如何选择和执行模型

使用内置决策模型且有两组模型时,本次简单概率达到阈值(由信任度设定,新计划默认 0.8),且没有本次适用的完整低分,才选择常规组;否则选择主力组。胜任度下限默认 0.5。低分保护只接受上一实际阶段的本次新评分,且要求类别、已发布计划版本和评分标准一致。没有评分时保持未评分;只有部分证据的评分会保留相应标记。两者都不能当成零分或触发低分保护,部分评分也不计入平均分。已保存的旧评分不会在后续轮次反复作为新低分。写稿评分不能使审稿任务升级。

难度判断有效时,无论任务简单还是复杂,都独立评估符合条件的低分。之前的问题相关概率低于 0.5,表示上一步的问题不会带进这一步:此时解除历史约束,仍按难度选择模型,因此复杂任务继续使用主力;相关概率不可用时保留保护。上一实际阶段也可能已经使用主力,此时不会出现第三组。

每条新用户消息都重新决策,可能选择常规,也可能选择主力。工具续接和同轮重放只有在 HiRoute 可识别为同轮且冻结决策可复用时,才继承该决策;历史重建不连续或决策无法继承时仍会重新判断。“优先保持当前模型”只在新选中的组内合格候选中生效。

HiRoute 按顺序尝试选中组的候选。常规组耗尽后,可以接力同类别的主力组;主力组耗尽即失败。直接选择主力时只在该组内接力;单组类别在本组耗尽后失败。候选不可用不会生成胜任度评分。

使用内置决策模型时,类别有效但复杂度结果不可用时,HiRoute 使用该类别的主力组。整体决策失败时,按难度分流使用启发式规则;自定义分支使用默认类别,有主力组则优先使用主力。

调整判断设置和查看结果

使用内置决策模型时,路由编辑器中的信任度决定交给常规组的程度:越往右,越多任务交给常规组。它实际保存为简单概率阈值,可选试用(0.9)、熟悉(0.8)、信任(0.65)、放手(0.5)和托付(0)五个档位,也可以填写精确值;适用的低分保护在任何档位都生效。判断设置默认收起,展开后可编辑简单/复杂条件、胜任下限(默认 0.5)、胜任评分要求,以及 0 / 0.5 / 1 三个评分锚点。类别条件描述任务意图,复杂度条件描述该类别内的工作要求,胜任标准评价已经发生的工作。

使用内置决策模型时,自定义类别默认跟随计划判断设置。“单独调整”会复制当前完整设置,此后修改计划默认设置不再影响该类别;“恢复计划默认”会移除这份独立设置,让类别重新跟随计划。按难度分流还可显式选择启发式规则,规则不会产生模型胜任评分。

发布后,HiRoute 保存本次生效的任务定义、连接版本和评分标准;修改草稿不会立即改变已发布配置。会话与计划视图展示本轮为什么选择这个组、实际由哪个组和模型执行,以及该阶段后来获得的评分。后续评分和草稿修改不能改写过去的选择原因。

内置接入与自定义扩展的职责

职责 负责方
内置任务判断、胜任标准与阈值 HiRoute,使用已发布计划
自定义扩展的类别与模型组选取策略 自定义扩展
模型选择、资格检查、故障接力与执行记录 HiRoute
内置连接的 System One 供应商调用和结果转换 HiRoute 的内置适配器
自定义连接的供应商调用、结果转换和必要历史裁剪 自定义扩展,在已发布类别与模型组内使用自己的策略

自定义扩展 API可在一次调用中返回当前决策和上一阶段评分。当前 v1 只有一种请求结构,规范示例和 OpenAPI描述这一边界。当前用户输入会完整传入;如果要评分的阶段缺少执行证据,评分必须带上部分证据标记。具体配置方式见路由指南。

当前扩展 API 返回 category、group、可选 reason 和可选 {score,partial} 阶段评分。扩展自行决定策略,HiRoute 不应用阈值或低分保护。扩展路由只显示类别、条件和候选模型;原判断设置保留在草稿中,切回内置连接时恢复。