CnOps 智能运维与可观测社区
首页开源项目实践文章视频课程常见问答开发者工具STAROps 专题
导航菜单
首页开源项目实践文章视频课程常见问答开发者工具STAROps 专题

CnOps 智能运维与可观测社区

愿景

CnOps 智能运维与可观测社区是一个以"智能运维与可观测"为核心的开放、包容、分享的技术社区,旨在聚集运维专家、开发者和爱好者,共同探讨、学习和分享可观测最佳实践与最新技术,与众多技术社区合作互动,共同探讨交叉领域的技术挑战,推动可观测领域的创新与进步。

内容社区

  • 实践文章
  • 视频课程
  • 开源项目
  • 常见问答
  • 开发者工具

友情链接

  • Prometheus
  • Grafana Lab
  • OpenTelemetry
  • LoongCollector

关注我们

阿里云云原生公众号阿里云云原生
阿里云可观测公众号阿里云可观测

Copyright © 2026 CnOps 社区. All rights reserved.

首页实践文章智能聚类:从海量 Trace 中理解 Agent 的行为和表现

智能聚类:从海量 Trace 中理解 Agent 的行为和表现

#云监控#风险审计#AI Agent#Dify

CNOps | 2026-09-19

有了指标和 Trace,Agent 的问题为什么仍难看清问题?

一个 Agent 上线后,调用量、耗时、错误率和 Token 消耗等监控指标,可以帮助研发和运维团队发现运行变化。但发现波动只是排查的起点:单凭汇总指标,往往难以判断变化集中在哪类用户任务,也难以解释背后的原因。

例如,总 Token 消耗上涨,可能是请求量增加,也可能是代码分析等复杂任务变多,还可能来自重复调用或上下文冗余。不同任务对资源和时延的要求并不相同,把它们混在一起统计,很难区分业务需求变化与执行效率问题。即使整体指标保持稳定,某一类任务的耗时增加或体验变差,也可能被平均值掩盖。

要进一步解释这些变化,团队通常需要逐条打开 Trace,查看输入输出、模型和工具调用;遇到多轮任务,还要沿着 Session 串联上下文,理解用户原本要完成什么、在哪一步反复纠正或要求重做。这种方式能够核对个别问题,但随着交互规模增长,人工翻查和对比的成本也随之增加,更难判断同类问题出现得有多普遍、应该优先优化哪一类场景。

因此,需要把运行指标与用户实际执行的任务联系起来。先将相近请求和任务归纳为主题,再按主题观察规模、资源消耗和交互表现,团队就能从整体波动收敛到具体场景,再下钻相关 Trace 和 Session 核对问题,减少在大量交互记录中逐条查找的负担。

围绕这一需求,云监控 2.0 的 AI Agent 可观测新增智能聚类能力,帮助研发、运维团队从具体使用场景理解 Agent 的运行表现:

  • Trace 执行意图聚类:识别单次请求的执行意图,将相近请求归纳为主题,帮助团队按场景分析耗时、Token 与模型和工具调用。
  • Session 用户任务拆分与聚类:结合多轮对话,从语义上识别和拆分用户任务,再按共同目标聚类,观察任务推进情况与交互中的问题。
  • 主题维度的综合分析:汇总请求或任务规模、用户覆盖与资源消耗,并支持下钻原始 Trace 和会话,筛选值得优化的场景、核对具体问题。

结合预定义主题、定时分析与归因分析,团队可以持续观察同类需求的变化,比较异常请求的执行特征,为性能优化、体验改善和版本验证提供依据。

从交互到主题,智能聚类如何实现

要看清这些需求,首先需要从交互中提炼出用户的目标。一次 Agent 执行可能包含历史消息、工具调用和大量中间结果,直接按原始文本分组,容易让执行细节掩盖真正的需求。分析与聚类因此分为几个相互衔接的环节。

组装分析数据。 系统先从采集到的交互记录中整理请求、响应与相关上下文:按 Trace 关联本次请求,按 Session 串联多轮对话,为理解用户目标准备输入,并保留关联执行数据的标识。

提取意图与任务。 模型基于组装后的数据理解交互:Trace 分析概括本次请求要完成什么;Session 分析结合多轮对话,识别和拆分围绕不同目标展开的用户任务。两者都将用户目标整理为简洁的描述,作为后续聚类的输入。

转换为语义向量。 Embedding 模型将这些描述转换为向量,使目标相近、措辞不同的请求能够被比较。例如,“把这段介绍写得更简洁”和“帮我精简这段产品文案”,都可能指向文案润色的需求。

发现相近任务的分组。 系统通过 PCA、UMAP 降维,再用 HDBSCAN 根据向量的聚集情况形成任务簇。聚类不需要预先指定簇的数量;未满足归类条件的零散样本会保留为未归类,供后续分析。

归纳主题并合并重叠。 每个簇中选取代表性任务,由模型提炼共同目标,生成主题名称与说明,例如“文案润色优化”。随后再对各簇的主题进行整体比较,减少主题重叠,使分类粒度更一致。

5eecdaf48460cde51e5d5373ba048f1abf73882e18b6a3d675b8339e1c4c24831b75b38faadcd24bec177c308ebd5304e79983b67d387c20ff1cef093d7790b9569644d73bfdc353a1c18f74f4f4e3d2c69f2b58d0389e014fb4c8ed7016461c.png

图 1:Trace 与 Session 分别提取请求意图和用户任务,各自复用语义聚类与主题归纳流程,形成独立的分析结果。

Trace 与 Session 分别形成各自的主题结果,复用相同的语义聚类方法。聚类依据是提取后的意图或任务目标;耗时、Token 和工具调用等执行指标用于主题形成后的分析。系统保留主题与原始 Trace、任务的关联,支持从分布概览继续下钻到具体执行过程。

Trace 聚类:理解单次请求的执行意图

产品设计时设想的用途,往往只是实际用法的一部分。上线后,有人用 Agent 润色文案,有人请它提炼文档,还有人开始追问代码和架构。即使使用相同的模型与工具,这些请求也代表着不同的需求。

Trace 聚类从一条 Trace 所承载的本次请求中识别执行意图,将相近请求归纳为主题。一条 Trace 可以包含多次模型或工具调用,这里的分析对象是本次请求的目标。

下面的聚类结果中,系统自动归纳出行情查询、网页信息总结、技术文案改写,以及 Agent 机制分析等不同主题。结合请求规模与用户覆盖,团队可以了解哪些需求较为常见、哪些用法集中在特定用户群体,并据此选择值得进一步分析的场景。

5eecdaf48460cde51e5d5373ba048f1abf73882e18b6a3d675b8339e1c4c24831b75b38faadcd24bec177c308ebd5304caeb875e750542f68d6fa8ecdc44e724e0048da9d1fdd3e88af0fb78117ba2911ef0399a29fe8ab04fb4c8ed7016461c.png

图 2:算法自动生成请求主题,结合 Trace 数、Token 消耗与用户覆盖,呈现不同使用场景的分布。

这张分布图也展示了请求规模与资源消耗之间的差异。“Agent系统底层机制与代码审计”的请求量并非最多,总 Token 消耗却较为突出;文案改写和网页信息总结的请求较多,消耗相对较低。代码与机制分析可能需要更长的上下文和更多执行步骤。团队可以先关注这些高消耗场景,再结合具体 Trace 判断消耗来自任务本身的复杂度,还是存在重复调用、上下文冗余等优化空间。

主题还把业务需求与执行过程联系起来。团队可以进一步了解某类请求依赖哪些模型和工具、消耗集中在哪里、出现了哪些错误,并回到具体 Trace 核对。下图以另一批分析结果中的“系统架构审计”主题为例,展示主题详情如何提供这些排查线索。

5eecdaf48460cde51e5d5373ba048f1abf73882e18b6a3d675b8339e1c4c24831b75b38faadcd24bec177c308ebd5304d223090c1f6a0cd73a6e7962931f0a3640ace5c0ebe5688534ece9d51da1480757eb335002654f554fb4c8ed7016461c.png

图 3:“系统架构审计”主题详情示例

按主题组织 Trace 后,研发和运维团队可以先找到高耗时、高 Token 消耗或错误较集中的场景,再检查相关调用链。用户意图为执行指标补充了业务上下文,有助于缩小排查范围,也为判断优化优先级提供依据。

Session 聚类:理解用户实际要完成的任务

用户通常带着一个完整目标而来,例如整理一份年报摘要、分析一次渠道销售下滑,或搭建一个网站。这样一项具有明确目标的工作,就是一个用户任务。为了完成它,用户可能连续补充要求、核对结果和调整表达,也可能在同一段会话中提出另一个独立目标。

Session 聚类能够结合多轮对话的上下文,从语义上识别并拆分用户任务。 系统分析每轮交互要推进的目标,将服务于同一目标的查询、补充、确认和修正归入同一任务,并识别会话中出现的独立新任务,为每项任务提炼目标、关联相应轮次与 Trace。由此,一个 Session 可以拆分出多个任务,一项任务也可以覆盖多条 Trace。

下面用一个简化示意说明任务拆分:围绕年报摘要的内容补充、数字核对和表达调整,归入“整理年报摘要”任务;随后提出的渠道销售分析及其补充要求,则属于另一项任务。多轮交互因此可以按共同目标组织,让需求统计更贴近用户实际要完成的工作。

5eecdaf48460cde51e5d5373ba048f1abf73882e18b6a3d675b8339e1c4c24831b75b38faadcd24bec177c308ebd53049dc0736060fdca0e1258c6da4950f3299efd3f30723f4e2f9d1e65aa068a1aacbfbbf039c1da81ff4fb4c8ed7016461c.png

图 4:用户任务拆分示意。同一会话中的多轮交互,可以围绕不同的独立目标归为不同任务。

完成任务识别后,系统再将不同会话中目标相近的任务聚合为主题,并按主题汇总任务规模、用户覆盖、交互轮次与 Token 等指标。任务对应具体会话中要完成的工作,主题则归纳一类相近任务,帮助团队避免把围绕同一目标的反复追问当成多份独立需求。

团队由此可以了解用户主要把哪些工作交给 Agent,并按任务观察用户覆盖、交互轮次、累计执行耗时与 Token 消耗。任务耗时汇总关联 Trace 的执行时间,不包含用户两次交互之间的等待或思考时间。下面的结果展示了系统从会话中自动归纳出的任务主题。

5eecdaf48460cde51e5d5373ba048f1abf73882e18b6a3d675b8339e1c4c24831b75b38faadcd24bec177c308ebd5304eec2646dfb58276ef0db8e257a354a03658fb4361a096cc571da12f840cdae2a6f5696fbf602b8c84fb4c8ed7016461c.png

图 5:自动归纳出的文本优化、网页信息处理、代码项目分析等任务主题,帮助团队同时观察任务规模与 Token 消耗。

在这批结果中,文本风格优化和网页信息处理较为常见;代码项目分析与开发指南生成的任务相对较少,Token 消耗却较为突出。按用户任务观察这些差异,有助于团队确定重点分析范围,再结合任务目标与执行过程评估优化空间。

任务粒度也让体验中的问题更容易被看见。模型和工具调用没有报错,用户任务仍可能推进不顺。 用户可能反复纠正同一个理解偏差,或要求 Agent 重做已有结果。这些交互为发现体验问题提供了线索。

系统将用户纠正、要求重做,以及 Agent 明确表示无法继续等信号标记为“交互摩擦”;普通需求补充和必要澄清不自动计入。摩擦反映交互过程中的阻碍,不等同于任务失败。下图以另一批会话分析结果中的“文档与数据处理”主题为例,团队可以从被标记的任务入手,检查需求理解、执行过程或交付方式中的问题。

image (5).png

图 6:“文档与数据处理”主题详情示例,展示交互摩擦与任务推进情况,帮助团队筛选需要进一步检查的会话。

该主题下的一条年报摘要会话提供了更具体的例子,与前面的任务拆分示意属于不同案例。用户希望得到管理层会议材料,却在过程中与 Agent 反复确认年报文件是否已提供、是否为正确文件。分析结果标记了发生用户纠正的轮次,以及对话中出现的困惑、受挫信号,帮助团队定位需要核对的交互。

5eecdaf48460cde51e5d5373ba048f1abf73882e18b6a3d675b8339e1c4c24831b75b38faadcd24bec177c308ebd53042577db34ae9453d1678ab8c42b4b951292cbf40d2d27efd5a90c54109c7def1fa5f9a08632eefd574fb4c8ed7016461c.png

图 7:从完整任务回到发生摩擦的具体轮次,结合原始对话核对原因。

这个例子提示团队检查文件识别、上下文理解,以及 Agent 如何向用户解释自己的判断。结合发生纠正的轮次与原始 Trace,研发可以进一步核对输入、上下文和执行记录,确认问题原因。

Session 分析能够从分析范围内的会话中识别值得关注的交互,让人工检查集中在更有代表性的任务上。模型识别出的任务状态和摩擦信号可用于筛选样本,具体结论仍需结合原始对话与执行记录核对。

用同一套主题,持续观察需求变化

知道用户今天在做什么,只是开始。团队还需要了解:哪些需求正在扩大?新增能力有没有被使用?同一类任务的资源投入是否发生变化?

这些问题需要稳定的分类口径。探索阶段可以通过自动聚类认识真实用法;当某类需求的边界逐渐清晰后,再将它沉淀为预定义主题,持续归集相近请求。暂时无法归入已有主题的样本,则为发现新需求保留了空间。

定时分析将这套分类口径应用到持续产生的数据上,帮助研发和运维团队按同一类场景观察请求量、执行耗时、错误和 Token 的变化。用户覆盖统计依赖采集到的用户标识,比较时也需要保持数据范围和覆盖口径一致。

image (6).png

图 8:“Agent 开发指南”主题的会话、用户、调用与 Token 趋势,将同一类需求放在时间维度上观察。

以“Agent 开发指南”为例,团队可以同时关注有多少用户在使用这项能力、产生了多少交互,以及模型调用和 Token 如何变化。如果资源消耗上升,就可以结合需求规模与具体任务进一步判断,是更多用户开始使用,还是同类请求需要更多执行步骤。

在调整提示词、模型或工具后,团队可以在相同主题下对比改动前后的执行表现,检查消耗和时延是否变化、错误是否减少。比较时应保持主题定义和分析范围一致,并结合样本中的任务复杂度判断变化,避免把工作负载差异当作优化效果。

从需求洞察到 Agent 的持续改进

看清需求分布和变化之后,团队可以进一步确定改进优先级:哪些任务值得加强,哪些执行环节需要排查,改动上线后又该如何验证。下面用一个具体场景串联这些分析。

以电商经营分析助手为例,它的服务范围已经明确,但范围内仍有不同的具体需求:查看商品表现、分析渠道差异,或解释某个商品的转化率为什么下降。围绕“商品转化率下降分析”这项任务,可以把需求发现、问题定位、能力改进与上线后的验证联系起来。

5eecdaf48460cde51e5d5373ba048f1abf73882e18b6a3d675b8339e1c4c24831b75b38faadcd24bec177c308ebd53041a0d4c549daec3df68642926012784ce6833ebb1611e4ef5ead6e720eba54d5d51811ef7a97270304fb4c8ed7016461c.png

图 9:围绕商品转化率下降分析持续改进,按稳定主题观察线上指标,并结合会话抽查与回归评测验证交付质量。

发现需求,确定值得投入的具体任务。 如果线上交互中反复出现“某商品转化率为什么下降”“这款商品的访问用户中,下单比例为什么降低了”等请求,聚类分析可以帮助团队识别目标相近的任务。结合用户覆盖、需求规模和变化趋势,判断是否需要加强这类分析能力。只有原有主题尚未覆盖、且边界逐渐清晰的需求,才需要考虑新增分类。

定位问题,核对分析与执行中的缺口。 假设用户希望解释转化率下降,Agent 却只返回整体指标,用户随后追问“具体是哪个渠道下降?”。团队需要结合原始目标,检查这属于正常补充要求,还是遗漏了必要分析,并核对 Agent 是否进行了渠道拆解、工具是否返回了所需数据、指标口径是否一致。对于高耗时或高 Token 消耗的请求,还可以在同一主题内框选异常 Trace,与当前范围内的其他 Trace 比较,检查模型、工具、调用次数、错误和上下文规模等差异。归因结果提供排查线索,具体原因仍需回到调用链验证。

改进能力,将发现转化为具体改动和评测。 确认原因后,团队可以在提示词或分析流程中补充渠道拆解方法,在知识库或指标定义中明确转化率的计算口径,并为工具接入所需的分渠道数据。将典型会话整理为回归评测案例,检查 Agent 能否定位下降的渠道、提供相应数据依据,同时保留原有任务样本,验证改动是否影响已有能力。

持续验证,结合线上观测与质量评测。 改动上线后,沿着“商品转化率下降分析”这一主题持续归集任务:已有主题沿用原分类,新发现且确认的需求纳入预定义主题。在任务范围和数据覆盖口径一致的前提下,观察交互摩擦、累计执行耗时与 Token 消耗的变化;再结合典型会话抽查和回归评测,检查渠道分析是否完整、数据依据是否充分。交互减少或消耗下降,也需要结合任务结果核对,避免把用户提前放弃误认为效率改善。

智能聚类将分散的 Trace 和会话组织为可分析的使用场景,帮助研发、运维团队找到值得关注的请求,沿调用链核对问题,并持续观察改动后的表现。线上交互也由此成为发现需求、优化执行和积累评测样本的依据。

文章大纲

推荐文章

超过 2000+ 位开发者正在阅读

给 OpenClaw 加上企业级 Memory

给 OpenClaw 加上企业级 Memory

4646 阅读

阿里云 STAROps 全域智能运维平台发布!

阿里云 STAROps 全域智能运维平台发布!

3453 阅读

阿里云正式发布 RCA Benchmark

阿里云正式发布 RCA Benchmark

2716 阅读

推荐视频

UModel 最佳实践 Vol.1 UModel 数据建模全景解读

UModel 最佳实践 Vol.1 UModel 数据建模全景解读

3854 观看50:35
云监控2.0全景:可观测范式升级与智能运维蓝图

云监控2.0全景:可观测范式升级与智能运维蓝图

2532 观看41:06

推荐工具

精选可观测领域开发者工具

云监

云监控 2.0 沙箱体验

7483 使用

免费

免费网络拨测工具

2746 使用