LLM 应用开发过程中,团队往往专注于模型调优和功能实现,却忽略了一个关键问题:如何有效监控、诊断和优化线上运行的 LLM 应用。
以 Dify 平台为例,作为受欢迎的 LLM 应用开发平台,其可视化工作流和丰富组件降低了开发门槛,但在可观测性上存在三大短板:
- 查询能力严重不足:仅提供基础的账号查询,无法按关键词、时间、错误类型等多维度组合查询,问题定位往往需要数分钟。
- 链路追踪能力缺失:执行日志平铺展示,缺乏层次化链路追踪,嵌套子工作流难以下探,上下游数据追溯繁琐,排查复杂问题常需 30 分钟以上。
- 内容展示能力不足:长文本提示词、动态嵌入的 RAG 内容在界面中显示为一大段无格式文本,难以快速阅读和定位关键章节。
这种「自己的狗粮都吃不香」的尴尬促使 SLS 团队开始构建专属的 LLM 应用数据基础设施。




