尧图网络科技YAOTU DIGITAL 获取报价
获取报价
首页 / 资讯中心 / 文章详情

Ragent流式输出:SSE分事件推送思考、正文与来源,以及跨节点流式取消

发布时间:2026/9/26 3:01:18

资讯中心
01
ARTICLE

Ragent流式输出:SSE分事件推送思考、正文与来源,以及跨节点流式取消

Ragent流式输出:SSE分事件推送思考、正文与来源,以及跨节点流式取消
Ragent流式输出SSE分事件推送思考、正文与来源以及跨节点流式取消【免费下载链接】ragent企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景从 0 到 1 完整工程实现。项目地址: https://gitcode.com/gh_mirrors/ragent1/ragentRagent 是一个企业级 Agentic RAG 智能体它的对话界面之所以能做到“边想边说、边查边流”核心是一套SSEServer-Sent Events流式输出协议思考、正文、检索来源、工具进度被拆成 8 种命名事件分帧推送配合 Redis 标记 广播主题跨节点流式取消让用户在任意一台服务节点上点“停止”都能可靠掐断正在运行的 Agent 流。这篇文章带你从协议到取消链路完整看懂这套机制。为什么选 SSE 而不是轮询或 WebSocket大模型回答动辄几十秒如果等整个回答生成完再返回用户只能干等。SSE 基于 HTTP 长连接、单向推送天然适合“服务端持续产出增量、客户端实时渲染”的场景且断线重连、事件命名等浏览器原生支持实现成本远低于 WebSocket。Ragent 的对话入口就返回一个 SSE 流超时时间可配提问入口AgentChatController.java 中GET /agent/v1/chat返回SseEmitter停止入口POST /agent/v1/stop?taskId...只需一个任务 ID上图右侧“SSE 流式通道”和底部“中断与取消、统一收尾”正是本文主角所有增量帧从 Agent 运行时一路推到接入层取消信号则从基础设施层反向打断整条链路。8 种 SSE 事件思考、正文、来源各走各的通道Agent 引擎的事件协议定义在 AgentSSEEventType.java一共产生 8 类事件事件作用典型内容meta开场元信息conversationId、taskId停止按钮就靠它message增量文本type区分think思考/response正文/error中断提示block文本块封口携带服务端起止时间用于计算“思考了多久”tool工具进度工具名、状态pending/running/end、结果摘要hint运行提示如“已达最大迭代次数正在生成总结”confirm写操作确认等待用户批准敏感工具调用finish本轮结束消息 ID、状态NORMAL / INTERRUPTED、总耗时done连接收尾固定[DONE]前端据此关流cancel用户取消与 finish 互斥同样携带落库后的消息状态关键设计是分事件推送而不是一锅烩思考与正文分离think和response都是message事件但type不同。前端据此把“深度思考”渲染成折叠区正文渲染成气泡互不污染。转换逻辑在 AgentStreamEventBridge.java 的onThinkingDelta/onResponseDelta。来源随 finish 交付RAG 模式下检索命中的文档级来源sources不是单独一帧而是随结束载荷一起下发见 CompletionPayload.java 中的ListSourceRef sources字段仅在命中知识库时携带。工具进度独立成帧tool事件携带状态机pending → running → end前端能画出“正在调用 search_knowledge…”的进度条。发送侧被封装成线程安全的 SseEmitterSender.java连接关闭状态用AtomicBoolean守卫complete()用 CAS 保证只关闭一次——这在“正常完成”“用户取消”“异常失败”三条收尾路径并发竞争时至关重要。前端解析器 useAgentStream.ts 逐行读取event:/data:行按事件名分发到各自 handlerthink增量实时进入思考面板finish到达后流式输出正式收尾。跨节点流式取消标记、广播、复核三步走单体应用里“点停止”很简单同进程内存里打个标记即可。但 Ragent 是多节点部署用户发请求的节点和实际跑流的节点往往不是同一台——停止请求落在 A 节点流却在 B 节点上跑。这就是 StreamTaskManager.java 要解决的问题它由三件东西组成本地任务注册表Guava CacheTTL 30 分钟记录每个 taskId 的收尾回调与上游中断动作Redis 取消标记ragent:stream:cancel:{taskId}属主标记ragent:stream:owner:{taskId}让任何节点都能查到“这条流该不该停、谁有权停”Redis 广播主题ragent:stream:cancel停止请求先写标记再向所有节点发布taskId|发起方消息持有该流的那台机器收到后执行本地取消。完整流程如下流启动时register(taskId, userId, 收尾回调)把属主写入 Redis——注意注释里明确说“停止请求可能落在没跑这条流的节点上”所以属主必须进 Redis 而不是只留本地用户点停止任意节点收到/agent/v1/stop执行 cancelByUser先比对属主不匹配就报“任务不存在或已结束”不区分不存在与非属主防止停止接口变成他人任务的探测器校验通过后publishCancel先落 Redis 标记再广播所有节点含本地统一走监听器处理避免重复调用执行端cancelLocal再次复核发起方执行端复核兜住“属主还没落地”的抢跑窗口CAS 保证取消动作只执行一次。这里的细节很有工程味道taskId 是雪花 ID时间有序、可预测所以“拿到 taskId 就能停别人的流”不是理论风险必须靠属主比对挡住。优雅打断先中断框架超时才断流取消信号到达执行节点后并不是粗暴地掐掉 HTTP 连接。AgentRunHandle.interruptUpstream 的策略是两级先礼貌中断调用agent.interrupt()通知框架走中断分支等它把本轮 Agent 状态存盘最多等 2 秒超时再强制断流礼貌中断失败或超时直接dispose()掐断 Reactor 链并补一次状态存盘保证工具执行结果不丢。收尾统一走 finishCancelledStream把已生成的内容以INTERRUPTED状态落库补发canceldone事件——已流出的内容不会丢刷新页面后看到的和当场看到的一致。另外还有一个容易被忽略的取消源用户关页面、断网导致 SSE 断开。bindEmitterLifecycle 在onTimeout/onError/onCompletion三个钩子上都挂了回收动作以系统身份发布取消——否则 ReAct 循环会空跑到迭代上限白白烧 token。小结这套流式输出协议好在哪分事件推送思考、正文、工具、来源各走各的通道前端渲染清晰协议易于演进三出口 CAS 互斥complete/cancel/fail三条收尾路径只有一个能胜出杜绝重复发帧跨节点可靠取消Redis 标记 广播 执行端复核任何节点都能停任何节点的流且属主校验防越权优雅降级先等框架存盘再断流中断的内容照样落库刷新不丢历史。想深入阅读可以从这几个文件入手事件协议AgentSSEEventType.java事件桥接与收尾AgentStreamEventBridge.java取消管理器StreamTaskManager.java运行句柄与优雅打断AgentRunHandle.java前端 SSE 解析useAgentStream.ts【免费下载链接】ragent企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景从 0 到 1 完整工程实现。项目地址: https://gitcode.com/gh_mirrors/ragent1/ragent创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
02
RELATED NEWS

相关资讯

更多网站建设与数字化升级内容

03
WHY YAOTU

想打造同款高转化官网?

懂行业、懂生意,从建站到增长一站式陪跑

◈

场景化定制

不做模板站,围绕你的业务场景量身设计,小众不撞款。

◐

营销型架构

以转化目标组织内容与路径,让官网真正带来询盘。

▲

全周期服务

设计、开发、运营、运维一体,上线只是开始。

免费获取你的建站方案

留下需求,专属顾问 24 小时内为你输出方案建议。