在典型的 AI 应用架构中(用户请求经 API 网关进入 AI 服务层,经身份鉴权和意图识别后返回结果),主要存在以下三类数据安全风险:
1. 访问控制风险:
- 如果用户访问身份权限管理不够严格,会导致数据查询权限滥用。
- 个人数据的访问可能超出必要范围,违反最小权限原则。
- AK(AccessKey)管理不当可能产生「万能钥匙」,任何获得该 AK 的人都能访问所有数据。
2. 数据存储风险:
- 访问日志中可能包含用户查询内容、令牌和用户身份信息等敏感数据,未脱敏直接存储面临泄露风险。
- 不同类别的业务日志和用户数据缺乏隔离,发生泄露时将导致全量数据暴露。
3. 可观测平台风险:
- 如果可观测平台无法识别异常访问行为(如攻击者利用泄露的 AK 大量拖取数据),企业将无法及时发现安全事件。
- 缺乏对外部查询请求激增等异常模式的监控和告警能力。
应对这些风险需要在数据采集层做脱敏、在查询层做权限管控、在监控层做异常检测。