Agent跑起来了,但安全没跟上
Posted by quentin 在 Saturday, 25 July 2026最近看到一件事,越想越觉得不对劲。
一个AI Agent在生产环境里调用了一个外部API。这个API本身有鉴权,Agent也有合法凭证,请求参数也符合格式。从系统日志看,一切正常。但Agent拿到的数据里包含了一批不该被它看到的客户信息。
从基础设施的视角看,这次访问没有任何问题。但从安全的视角看,它问题很大。
这件事指向了一个我正在认真思考的方向:AI时代的安全,已经不是传统安全模型能覆盖的了。而大部分团队还没有意识到这一点。
AI的安全和传统安全,根本不是一回事
过去十几年,安全行业建立了一套相对成熟的防御体系。身份认证、权限控制、网络隔离、加密传输、审计日志。这套体系的核心假设是:人是操作者,系统是被操作的对象。
AI Agent打破了这个假设。
Agent不是工具,它是一个有一定自主决策能力的执行者。它会自己判断调用什么工具、访问什么数据、以什么顺序执行任务。而且它的行为模式不是预设的,是基于上下文动态生成的。
这意味着,传统安全模型里基于"角色-权限"的RBAC,只能管住"能不能做",管不住"该不该做"。传统网络策略可以限制Agent能访问哪些服务,但没法判断Agent在特定上下文中的行为是否合理。
