TüV南德人工智能行业:2026AI赋能系统的风险管理白皮书(15页,2026年)
分类:人工智能
标签:AI风险管理、置信水平、系统工程、可信AI、涌现行为、功能安全
摘要:这份由TüV南德发布的白皮书聚焦AI赋能系统的风险管理。开篇指出,人工智能的广泛采用正把传统物理产品转变为互联、智能且高度复杂的系统,新挑战源于系统复杂性、涌现行为、动态运行条件以及与AI技术相关的未知因素。白皮书提出基于系统工程方法的实用风险管理框架,支持在系统层级结构中开展风险识别、评估与缓解,并引入置信水平(Level of Confidence,LoC)这一面向生命周期的度量,表征系统需求得到满足的程度,为管理AI风险、支撑可信、安全、合规的AI赋能系统提供实践基础。 在风险概念上,白皮书沿用ISO 31000的界定,把关注点放在未知因素对预期结果的影响上,强调弥合认知缺口,而非像传统功能安全标准那样仅以可能性与严重性的乘积刻画风险;结合AI赋能系统语境,进一步参照IEC 63187,把风险表述为未知因素对利益相关方期望的影响。报告说明风险概念本身是中性的,后果既可能正面也可能负面,本文仅关注负面影响并在缓解阶段处理。多数AI赋能系统属于数字化、互联化、智能化的复杂系统,元素交互可能产生无法归因于单一组件的非预期涌现行为。 白皮书讨论风险管理不能止步于传统安全,还需覆盖可解释性
来源:zuudee | 日期:2026-11-15 | 格式:PDF | 页数:15
加载中...