2026年AI威胁态势报告：AI智能体的崛起（64页，2026年）

分类：人工智能

标签：AI安全、智能体安全、网络威胁、生成式AI、模型防护、英文报告

摘要：《2026年AI威胁态势报告：AI智能体的崛起》由HiddenLayer发布，系统考察了智能体人工智能的兴起如何重塑整体安全环境。作者指出，我们已进入人工智能演进的新阶段，自主系统能够代表用户进行规划、推理与行动——设定目标、调用工具、与其他系统交互、生成代码并发起交易。这种自主性极大地扩展了攻击面，也改变了风险等式：那些用于自动化业务流程的能力，同样可以被操纵以自动化攻击与利用。 报告的分析围绕若干维度展开。第一部分梳理人工智能给社会带来的风险，包括人工智能赋能的网络犯罪与虚假信息活动；第二部分审视人工智能系统自身面临的风险，涵盖投毒攻击、推理阶段的模型规避与窃取、人工智能供应链攻击、针对生成式人工智能的提示注入，以及针对智能体系统的攻击；第三部分回顾人工智能安全领域的进展，从防御框架、红队演练到新的指引与立法；第四部分给出趋势预判与防御指引。 一项针对安全与人工智能负责人的核心调研揭示了人工智能部署与防护之间日益扩大的鸿沟。多数机构如今将内部运营与第三方人工智能系统视为营收、客户体验与运营的关键支撑，但运行时可见性、对抗性测试与人工智能专属的事件响应等基础防护仍落实不均。近三分

来源：zuudee | 日期：2026-09-24 | 格式：PDF | 页数：64