《人工智能安全治理框架》1.0版日前发布。《框架》以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享的人工智能安全治理原则。

  “人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应。”作为眼下互联网领域最为炙手可热的概念，人工智能的新场景、新应用、新市场层出不穷。从人机对话的逐步应用，到自动驾驶的方兴未艾，再到文生视频的高效便捷，都为相关产业发展带来了无限想象空间。与此同时，新风险、新挑战也与日俱增。机器对话深陷“幻觉”“虚构”泥潭，动不动“已读乱回”；人脸滥用问题突出，信息被窃且真假难辨；智能客服拉低服务“下限”，绕来绕去让人着急上火……这些现实，都说明人工智能已经走到了发展和治理的“十字路口”，平衡AI的“智”与“治”成为当务之急。

  近些年，创新周期不断缩短，新生事物如雨后春笋。诸多案例已经证明，尽管初生时期可能出现这样那样的乱象，但只要治理及时发力、划定明晰边界，完全可以最大限度发挥技术优越性。AI同样如此。此番发布的《人工智能安全治理框架》1.0版明确，人工智能创新发展为第一要务，强调包容审慎、确保安全等原则，并从网络、现实、认知、伦理等不同的角度，提出相应技术应对和综合治理措施，有力回应了现实关切，有助于推动各方形成治理共识。

  “人工智能的机遇、风险和挑战本质上是全球性的”。《全球数字经济白皮书（2024）》披露的数据显示，全球目前有3万家人工智能核心企业以及超过1300个人工智能基础大模型，它们以令人难以想象的速度重塑人类生活的整个世界。眼下，主要经济体正在探索人工智能治理的模式，用治理的主动权谋求发展的主导权。特别是作为互联网大国的中国，去年提出了《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理的中国方案，同时开展了政府间对话、高级别论坛等一系列积极行动。这些都是“构建人类命运共同体理念”的具体体现，也是中国就AI治理议题向世界贡献的“中国方案”。

  “当一个科学技术能够改变人类命运的时候，我们就必须要有忧患意识”。面对人工智能浪潮带来的无法预测的种种，世界各国坚持真正的多边主义，共同构建开放、公正、有效的治理机制，才能确保人工智能更负责任、更安全可靠地造福人类社会。（杜梨）