CnOps 智能运维与可观测社区
首页开源项目实践文章视频课程常见问答开发者工具STAROps 专题
导航菜单
首页开源项目实践文章视频课程常见问答开发者工具STAROps 专题

CnOps 智能运维与可观测社区

愿景

CnOps 智能运维与可观测社区是一个以"智能运维与可观测"为核心的开放、包容、分享的技术社区,旨在聚集运维专家、开发者和爱好者,共同探讨、学习和分享可观测最佳实践与最新技术,与众多技术社区合作互动,共同探讨交叉领域的技术挑战,推动可观测领域的创新与进步。

内容社区

  • 实践文章
  • 视频课程
  • 开源项目
  • 常见问答
  • 开发者工具

友情链接

  • Prometheus
  • Grafana Lab
  • OpenTelemetry
  • LoongCollector

关注我们

阿里云云原生公众号阿里云云原生
阿里云可观测公众号阿里云可观测

Copyright © 2026 CnOps 社区. All rights reserved.

首页问答AI 原生应用的参考架构里,各关键组件各自承担什么角色?

AI 原生应用的参考架构里,各关键组件各自承担什么角色?

#参考架构#Higress#Nacos#RocketMQ#Spring AI Alibaba

agenticOps | 2026-05-23

文章给出的参考架构以 AI Agent 为中心,配合以下关键组件:

  • API 网关:承接用户流量,作为进入 Agent 系统的入口。
  • AI 网关(Higress):统一代理 Agent 与多模型/多 MCP 之间的调用,提供 token 限流、协议转换、LLM 缓存、向量检索、MCP 认证与动态发现、安全策略等能力。
  • Nacos:私有化的 MCP 注册中心和动态 Prompt 管理中心,帮助企业内部管理和运维 MCP 服务,支持健康检查、版本管理。
  • Apache RocketMQ:面向长周期、多轮交互的异步化改造,把 session 建模为消息 topic,实现类似「断点续传」的状态恢复,避免中断后重跑 GPU。
  • 数据库/向量数据库:提供 Agent 所需的结构化数据和向量检索能力。
  • 可观测性:以 OpenTelemetry 为标准,通过 LoongSuite 探针采集全链路数据到可观测平台,做监控、诊断、评估。

开发框架侧则由 Spring AI Alibaba 等承担 Agent 抽象、workflow/多 Agent 编排、垂直场景(JManus、Deep Research、Data Agent)等能力。

推荐文章

超过 2000+ 位开发者正在阅读

给 OpenClaw 加上企业级 Memory

给 OpenClaw 加上企业级 Memory

4646 阅读

阿里云 STAROps 全域智能运维平台发布!

阿里云 STAROps 全域智能运维平台发布!

3453 阅读

阿里云正式发布 RCA Benchmark

阿里云正式发布 RCA Benchmark

2716 阅读

推荐视频

UModel 最佳实践 Vol.1 UModel 数据建模全景解读

UModel 最佳实践 Vol.1 UModel 数据建模全景解读

3854 观看50:35
云监控2.0全景:可观测范式升级与智能运维蓝图

云监控2.0全景:可观测范式升级与智能运维蓝图

2532 观看41:06

推荐工具

精选可观测领域开发者工具

云监

云监控 2.0 沙箱体验

7483 使用

免费

免费网络拨测工具

2746 使用