AI Agent面临哪些主要的安全风险？

AI Agent面临的安全风险主要包括以下几个方面。首先是行为不可预测性风险，Agent的工具调用序列是由模型动态决定的，可能执行超出预期的操作。其次是成本失控风险，未经监控的Agent可能大量消耗Token导致费用飙升。第三是恶意指令注入风险，攻击者可能通过精心构造的输入诱导Agent执行危险操作。第四是高危工具调用风险，Agent可能在不当情况下调用具有破坏性的工具（如删除数据、修改配置等）。第五是身份冒用风险，未经授权的用户可能利用Agent的权限进行操作。这些风险使得建立完善的可观测和审计体系成为AI Agent生产化部署的必要条件。