人工智能安全治理框架3.0原文：PDF文件下载！

#政策法规 ·2026-09-21 15:10:47

仅展示部分内容，原文可下载后观看完整版内容：

全球人工智能技术创新进入前所未有的活跃期，万物智联、人机协同、跨界融合、共创分享的智能技术，叠加释放巨大能量，既蕴含巨大机遇，也面临治理挑战。

一年来，人工智能技术和应用持续快速发展。基础大模型在长程任务规划、长上下文记忆、复杂任务推理等方面的技术突破使其能力边界持续拓展，智能体任务规划、工具调用和跨应用协作等能力不断增强。人工智能应用形态日趋多元，工作助手、个人助理、智能体手机等产品矩阵持续丰富，使用门槛不断降低，从少数专业场景快速迈向大众化应用。随着人工智能从“回答问题”向“执行任务”迭代演进，在推动生产力发展变革的同时，也带来新的颠覆性、跨域性、全球性安全风险：人工智能加持下的网络攻击自动化、规模化、智能化能力跃升，导致传统网络安全攻防格局面临重塑；与现实世界的连接日益紧密，网络空间的安全风险向物理世界传导扩散。更深远地看，人工智能已显现出模型算法自主学习优化、自我递归提升的自加速态势，技术演进的速度与方向会否超出人类的预判和掌控，需要予以关注和警惕。

为应对人工智能发展新趋势、回应安全治理新挑战，探求人工智能四个“时代之问”的正确答案，在国家互联网信息办公室的指导下，全国网络安全标准化技术委员会组织有关专业机构、科研院所、行业企业，在《人工智能安全治理框架1.0》（2024年）、《人工智能安全治理框架2.0》（2025年）基础上，研究编制《人工智能安全治理框架3.0》。框架秉持以人为本、向上向善理念，坚持和践行强化风险意识、确保安全可控的指导原则，延续“风险分类、技术应对、综合治理”的核心逻辑，与时俱进梳理更新风险分类，优化调整技术应对和综合治理措施，以期进一步凝聚防范治理人工智能安全风险的实践共识。

1.人工智能安全治理原则

秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促进人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，推动构建技术与管理相结合、监管与治理相衔接、国内与国际相协同、社会各方积极参与且有效互动的治理机制，压实相关主体安全责任，打造全过程全要素治理链条，培育安全、可靠、公平、透明的人工智能技术研发和应用生态，积极研究应对人工智能灾难性风险的共识性准则，推动人工智能健康发展和规范应用，确保人工智能技术造福于人类。

1.1包容审慎、确保安全

鼓励发展创新，对人工智能研发及应用采取包容态度，积极运用“沙箱”监管等风险可控的制度机制，为新技术新应用发展提供容错纠错空间。严守安全底线，对危害公众合法权益、社会公共利益、国家安全、人类生存发展的风险及时采取措施。

1.2风险导向、敏捷治理

密切跟踪人工智能发展趋势，系统分析梳理技术内生、应用赋能、衍生扩散风险；从应用场景、智能化水平、应用规模等维度进行风险分级，进而匹配应对措施；坚持主动引导、动态感知、快速响应、精准施策，建立“随行伴跑”、持续优化的治理机制，通过及时有效防治风险，更好保障支持创新发展。

1.3技管结合、协同应对

面向人工智能研发应用全过程，坚持技术应对和综合治理相结合，体系化防治安全风险。围绕人工智能研发应用生态链，明确模型算法研发者、服务提供者、系统使用者等不同主体的安全责任，有机发挥政府监管、行业自律、社会监督等治理机制作用

1.4开放合作、共治共享。推动人工智能安全治理国际合作，充分发辉人工智能安全治理框架3.0挥世界人工智能合作组织等权威、开放性平台作用，更加深入地开展跨学科、跨领域、跨国界交流合作，加强人工智能发展战略、治理规则、技术标准的对接协调，早日形成具有广泛共识的全球治理框架。

1.5可信应用、防范失控

加强智能体行为失控等突出风险的防范治理，凝聚国际治理共识，促进人工智能全球可信应用。推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。2.人工智能安全风险分类

作为信息技术的最新发展成果，人工智能所涉及的模型、算法、数据、算力设施与运行环境，不可避免存在技术缺陷或弱点等内生安全风险；作为促进生产力发展的技术工具，人工智能在应用过程中同样面临被误用、滥用、恶用风险；作为模拟、延伸、扩展人类智能的技术科学，人工智能对人类社会结构、生态环境、文化范式和伦理规范带来影响和冲击，甚至可能出现脱离人类控制等衍生安全风险。

2.1人工智能内生安全风险