为应对新机遇新挑战，在国家网信办指导下，由国家互联网应急中心牵头组织人工智能专业机构、科研院所、行业企业联合制定了《人工智能安全治理框架》2.0版（以下简称《框架》2.0版）。这是2024年发布的《人工智能安全治理框架》1.0版的升级版本。针对人工智能迅猛发展带来的治理难点，《框架》2.0版秉持我国一贯倡导的“以人为本、智能向善”的基本理念，强化风险识别精细化，增强框架动态适应能力并提升与国际规则衔接水平。这一新版本为我国人工智能安全治理提供更稳固的治理框架支撑，为产业发展提供明确方向，也为全球治理贡献系统化的中国方案，展现出重要的战略价值。
相较于2024年9月发布的《框架》，此次出台的《框架》2.0版在形式上延续既有总体架构和逻辑体系，也在理念与措施方面作出实质性拓展。《框架》2.0版继续保持风险识别、技术应对、综合治理和安全指引的框架结构，沿用风险分类、可追溯管理等治理工具确保制度一致性和可操作性。在此基础上《框架》2.0版进一步提出“可信应用、防范失控”新原则并构建人工智能科技伦理准则，新增应用衍生风险治理维度且强化开源与供应链安全机制，这些新增内容既回应技术演进带来的新挑战，也让治理目标从“能否实现”转变为“如何负责任地实现”。围绕可信原则，《框架》2.0版将价值约束融入技术流程以确保技术发展可控可信，同时《框架》2.0版强调开源生态、供应链管理和国际接轨推动构建开放协同治理格局，这一转变使“可信”从抽象原则转化为制度化可执行要求，既回应公众对人工智能长期可靠和可控的期待，也为全球治理提供系统化的中国方案。
《框架》2.0版的发布，顺应全球人工智能发展潮流，统筹技术创新与治理实践，在人工智能安全、伦理、治理等方面不断深化共识，促进形成安全、可信、可控的人工智能发展生态，构建跨国界、跨领域、跨行业的协同治理格局。同时，有助于推进多边机制下人工智能安全治理合作，推动世界范围内技术成果的普惠共享，确保人类社会共享人工智能发展的红利。
