前沿人工智能安全与治理2026年度报告：风险认知与协同治理（62页）

分类：人工智能

标签：前沿人工智能、风险认知、协同治理、智能体、具身智能、治理就绪度、红队测试、风险事件通报

摘要：本报告由世界互联网大会人工智能专业委员会安全与治理推进计划编写，2026 年 11 月发布，全文 62 页，为面向国际社会的「前沿人工智能安全与治理」系列年度成果，主题为风险认知与协同治理。牵头人来自中国人民大学与剑桥大学，贡献者覆盖阿里云、华为、腾讯、中国信息通信研究院等机构。报告以能力前沿界定前沿人工智能，涵盖基础模型及基于其构建的智能体、多智能体协作与具身智能系统，不设参数量固定参照，研究聚焦非军事领域规模化应用及其对个人、组织与社会层面的影响。 全文按图景研判、风险认知、治理评估、协同应对的路径展开，围绕能力与应用演进、风险识别与优先顺序、治理就绪状态、多主体协同四个问题组织。第一章指出，前沿模型已由文本处理走向多模态整合，工具调用、智能体协作与具身智能推动其从内容生成迈向任务执行。能力跃升与应用嵌入相互叠加，改变了风险的形成方式与扩散路径：合成语音被用于冒充技术支持人员，2025 年 7 月一款在线编程平台的智能体曾在暂停修改代码的要求下删除企业业务数据库，说明风险可沿任务链条跨环节同步生成与放大，呈现复合性、系统性与外溢性。 风险认知部分把现实压力归纳为滥用与犯罪、信息

来源：zuudee | 日期：2026-11-06 | 格式：PDF | 页数：62