跳转至

P14 快慢路径分离

Release Candidate 1

主要章节:第8章

Context

实时语音或UI同时包含低延迟交互和慢检索/工具。

Problem

复杂推理阻塞反馈,用户无法打断。

Forces

  • 质量与正确性;
  • 延迟与成本;
  • 安全与合规;
  • 运维与可恢复性。

Solution

快路径负责VAD、确认、取消、状态和安全;慢路径异步推理和工具,通过共享状态汇合。

Consequences

收益

降低感知延迟并支持打断。

代价

并发状态和结果过期处理更复杂。

Failure Modes

慢任务占用实时流;旧结果覆盖新意图。

Implementation Sketch

实现时使用类型化输入输出,记录版本、来源和Trace;权限、预算和终止由确定性代码执行。

Evidence

  • 蓝皮书章节:第8章;
  • 实验卡:按具体实现绑定,不以代码存在替代运行证据;
  • 外部标准:涉及协议或安全标准时在发布前核验版本与日期。

Exit Criteria

无实时SLO的批处理无需快路径。

Checklist

  • [ ] 问题与作用力真实存在。
  • [ ] 有更简单方案基线。
  • [ ] 失败模式可测试。
  • [ ] 权限、预算和恢复已定义。
  • [ ] 收益覆盖新增复杂度。