CnOps 智能运维与可观测社区
首页开源项目实践文章视频课程常见问答开发者工具STAROps 专题
导航菜单
首页开源项目实践文章视频课程常见问答开发者工具STAROps 专题

CnOps 智能运维与可观测社区

愿景

CnOps 智能运维与可观测社区是一个以"智能运维与可观测"为核心的开放、包容、分享的技术社区,旨在聚集运维专家、开发者和爱好者,共同探讨、学习和分享可观测最佳实践与最新技术,与众多技术社区合作互动,共同探讨交叉领域的技术挑战,推动可观测领域的创新与进步。

内容社区

  • 实践文章
  • 视频课程
  • 开源项目
  • 常见问答
  • 开发者工具

友情链接

  • Prometheus
  • Grafana Lab
  • OpenTelemetry
  • LoongCollector

关注我们

阿里云云原生公众号阿里云云原生
阿里云可观测公众号阿里云可观测

Copyright © 2026 CnOps 社区. All rights reserved.

首页问答Agent 评测中如何判断任务真正完成?产业界和学术界有哪些实践?

Agent 评测中如何判断任务真正完成?产业界和学术界有哪些实践?

#能力评测#Agent评测#SWE-bench#版本回归

CNOps | 2026-10-13

核心原则是判断任务是否完成要独立于 Agent 自己的说法,看它背后的执行轨迹是否合理。产业界把评测接入研发流程:Datadog 的 Bits AI Eval 持续评测本平台的告警、拓扑、日志和调查能力,失败样本交给产品团队复测修复;ServiceNow、Elastic、Dynatrace 连接离线题集、线上回放、人工复核和版本门禁,典型链路是数据集到评分器再到版本回归。学术界从静态数据走向 Agent 过程:RCAEval、OpenRCA 关注根因与证据,AIOpsLab、ITBench 提供可执行环境,SREGym、OpsEval 3.0 强调实时与分层。跨领域 Agent 的启发来自 SWE-bench(看测试是否通过)、AgentBench(多环境任务完成度)、BFCL(工具选择与调用结果)、τ-bench(状态变化和规则约束)。在 BRiSE 的流水线中,三个角色分工明确:Benchmark 应用复现真实对象与故障数据,OpsAgent 作为被测对象执行证据查询与根因推理,BRiSE 固定环境、数据和评分口径统一评分,从而分别检查题目有效性、Agent 行为和结果判定。

推荐文章

超过 2000+ 位开发者正在阅读

给 OpenClaw 加上企业级 Memory

给 OpenClaw 加上企业级 Memory

4646 阅读

阿里云 STAROps 全域智能运维平台发布!

阿里云 STAROps 全域智能运维平台发布!

3453 阅读

阿里云正式发布 RCA Benchmark

阿里云正式发布 RCA Benchmark

2716 阅读

推荐视频

UModel 最佳实践 Vol.1 UModel 数据建模全景解读

UModel 最佳实践 Vol.1 UModel 数据建模全景解读

3854 观看50:35
云监控2.0全景:可观测范式升级与智能运维蓝图

云监控2.0全景:可观测范式升级与智能运维蓝图

2532 观看41:06

推荐工具

精选可观测领域开发者工具

云监

云监控 2.0 沙箱体验

7483 使用

免费

免费网络拨测工具

2746 使用