Python 探针针对 LLM 应用场景提供了专门的可观测能力,可在 ARMS 控制台的应用监控视图中查看。调用链分析(大模型视图):除了传统的微服务调用链外,可以切换为"大模型视图",针对 LLM 场景提供更直观的 TraceView,分析不同操作类型(Chain、LLM、Tool、Retriever、Embedding 等)的输入输出内容、Token 消耗(input_tokens、output_tokens、total_tokens)、模型调用耗时等信息。应用概览:展示应用的请求量、响应时间、错误率、JVM 指标(虽然是 Python 但类比展示运行时状态)等核心黄金指标。应用拓扑:自动绘制 Python 服务之间的调用关系拓扑图,包括服务与 LLM 模型、向量数据库(RAG 场景)、外部依赖等的调用关系。配置告警:可以针对 Token 消耗异常、LLM 响应超时、特定 prompt 错误率等指标制定告警规则,触发时通过钉钉群或邮件通知。错/慢 Trace 分析:自动识别问题调用链,帮助定位 LLM 应用中的性能瓶颈和异常。




