阿里云为 Hermes 构建的是一套基于 OpenTelemetry(开放遥测框架)的链路追踪能力。它的核心做法并不复杂:在 Hermes 所在的 Python 环境中安装 runtime instrumentation,围绕 Hermes 的关键执行边界建立 span,再通过 OTLP(OpenTelemetry Protocol)标准协议把 Trace 和指标上报到观测后端。关注的不是最后一行回复长什么样,而是 Hermes 的运行过程本身。这套方案有五个值得强调的优势:
- 遵循 GenAI 标准规范:上报的 Trace 数据优先对齐 OpenTelemetry GenAI 语义约定,对 Agent runtime 中更贴近执行过程的结构,结合 LoongSuite Semantic Conventions 做扩展,使用标准、可复用、可迁移的语义表达方式,而非内部才懂的字段名。
- 同时提供 Trace 与基础 Metrics:除单次请求调用链外,还能从趋势上看调用次数、错误次数、调用耗时、Token 使用量等指标,兼顾单次复盘与全局观察。
- 对 streaming 场景单独记录 TTFT:帮助区分是首字慢还是整体生成慢。
- 后端不绑定单一云服务:当前可直接接入阿里云 ARMS,但底层走 OTLP 标准协议,保留迁移到其他兼容 OTLP 后端的空间。
- 支持高危行为安全审计:通过采集全量操作日志、访问记录及用户行为数据,结合异常检测算法建立动态审计模型,精准识别越权访问、异常数据导出、恶意提示词注入等可疑行为。




