OpenTelemetry gen_ai 语义规范是 OpenTelemetry 社区于 2024 至 2025 年间推出的面向生成式 AI 的标准化方案,它解决了 Agent 可观测领域最突出的数据孤岛和跨框架互操作难题。
在标准化之前,不同 Agent 开发框架(如 LangChain、LlamaIndex 等)输出的可观测数据格式各异,导致企业难以构建统一的可观测平台。gen_ai 语义规范为 LLM 调用、Agent 执行、工具调用和向量数据库操作定义了统一的属性命名和链路结构,使得不同框架开发的 Agent 应用能够以一致的方式输出可观测数据。
其核心 Span 结构包括四类关键跨度:LLM Span 记录模型名称、Token 数、结束原因等;Agent Span 代表 Agent 的完整执行周期,内部可嵌套多个子 Span;Tool Span 记录工具名称、参数、返回结果和执行耗时,兼容 MCP 等协议;VectorDB Span 记录向量检索的查询参数、返回数和相关性评分。
此外,规范通过 gen_ai.conversation.id 支持会话级别的追踪,将同一用户会话中的多次请求关联起来,包括 Agent 内部的多轮"自我对话",从而呈现完整的认知过程。