01081312385
网安资讯

上百家AI智能体:网络安全性检测结果公布!

#网安头条 ·2026-06-04 17:13:57

从智能客服到自动办公,从代码开发到业务流程管理,再到运维、数据分析等场景,越来越多的企业开始把AI智能体视为提升效率的重要工具。

然而,就在市场对AI智能体寄予厚望之际,一份针对100款主流AI智能体的安全评估报告,却揭开了另一个容易被忽视的现实。

AI智能体

根据安全研究机构Adversa发布的测试结果,在参与评估的100AI智能体产品中,仅有11款同时具备较强的业务能力和较完善的安全防护能力。

也就是说接近九成的智能体都不同程度的存在能力与安全之间的失衡问题。更值得关注的是,高达98%的智能体被发现存在同一种底层风险特征,而这也被研究人员称为AI智能体的致命三角

AI安全

所谓致命三角,本质上是三个能力的叠加,即能够访问私有数据、能够接触外部不可信信息,以及拥有执行外部操作的权限。

单独来看,这些能力都很正常。一个真正有价值的智能体,需要读取企业内部数据,理解外部环境信息,并能够调用工具完成任务,否则很难发挥实际作用。但问题在于,当这三种能力同时集中在一个系统身上时,风险也会被同步放大。

从安全角度看,这实际上对应着另一个更容易理解的逻辑——权限过大、信任过高、控制不足。

过去几十年里,几乎所有重大网络安全事件背后,都能看到类似的问题。区别在于,以前这些风险主要集中在管理员账号、服务器权限或核心业务系统上,而如今这些能力正逐步被赋予AI智能体。

更值得警惕的是,研究发现能力越强的智能体,往往暴露出越大的安全风险。

按照报告的分析逻辑,目前市场上存在明显的能力与防护倒挂现象。那些功能最丰富、自动化程度最高、最能帮助企业提升效率的智能体,往往拥有更大的攻击面和更高的权限范围;而安全控制相对完善的产品,又往往因为权限受限而难以发挥全部能力。

这并不是个别产品的问题,而是当前整个行业面临的共同挑战。

在所有测试类别中,风险最突出的两个方向分别是计算机智能体和代码智能体。

前者通常拥有较高等级的系统访问权限,可以代替用户操作电脑、管理文件、配置系统、执行任务。为了保证任务完成效果,这类智能体往往需要获取大量上下文信息,因此会被赋予接近操作系统层面的访问能力。一旦遭到利用或误操作,攻击者获得的就不仅仅是某个应用权限,而可能是整台终端设备的控制权。

相比之下,代码智能体带来的风险更加值得软件行业关注。

随着AI编程工具快速普及,大量企业开始尝试利用智能体参与代码生成、测试、部署甚至应用开发。表面上看,最终代码仍然需要开发人员审核,但真正的问题并不在最终生成的代码,而是在代码产生之前发生了什么。

因为很多代码智能体不仅能够编写代码,还可以调用终端命令、读取配置文件、访问依赖库、接触密钥信息,甚至连接部署环境。在整个过程中,它们可能已经访问过敏感数据、修改过关键配置或者接触过生产环境资源,而这些行为往往不会完整呈现在最终代码审查环节中。

智能体安全

这也是当前AI智能体安全最核心的矛盾之一。人们能够看到结果,却很难看清过程。

传统软件的行为路径相对明确,系统执行了什么操作、调用了哪些接口、访问了哪些资源,都可以通过日志和审计进行追踪。但AI智能体并非传统意义上的软件,它更像一个具备自主决策能力的执行者。用户输入任务之后,它会自行规划路径、调用工具、访问资源并完成目标,而这一过程往往缺乏足够透明度。

某种程度上说,AI智能体正在把企业带入一个新的安全阶段。过去网络安全关注的是系统安全、应用安全和数据安全,而未来几年,一个新的课题正在浮出水面,那就是智能体安全。

因为当AI开始拥有调用工具、操作系统、访问数据库、管理业务流程的能力时,它已经不再只是一个提供建议的模型,而是成为了能直接影响现实世界的执行主体。

这也是为什么越来越多安全机构开始把关注重点从大模型安全转向智能体安全

模型本身更像大脑,而智能体则拥有手脚。大脑出现错误,可能只是产生错误信息;当手脚开始行动,错误就可能转化为真实风险。

事实上,从这份报告释放出的信号来看,当前最大的风险并不是AI智能体不够强大,而是企业在快速部署智能体的同时,对其权限边界、身份管理、工具调用以及关键操作控制等问题缺乏足够重视。

很多企业正在努力提升效率,希望借助AI获得竞争优势,但如果安全体系建设长期滞后,那么效率提升的同时,也可能在无形中扩大风险敞口。

回顾网络安全发展历史,每一次技术革命都会带来新的安全挑战。从互联网到云计算,从移动互联网到物联网,几乎无一例外。如今,AI智能体正在成为下一代数字化基础设施的一部分,它带来的安全问题自然也不会例外。

因此,这份针对100AI智能体的测试报告,真正值得行业关注的地方,并不只是只有11款产品表现优秀这样的数字,而是它揭示了一个正在形成的新趋势

AI能力正在快速成熟,但与之匹配的安全体系仍处于起步阶段。未来企业之间的竞争,不仅是谁更早拥抱AI,更是谁能够在拥抱AI的同时,建立起与之相匹配的安全能力。

 

Copyright © 2025 北京中联旭诚科技有限公司 版权所有  Sitemap 备案号:京ICP备2021025338号-2