站在十字路口的AI应何去何从

《人工智能安全治理框架》1.0版日前发布。《框架》以鼓励人工智能创新发展为第一要务,以有效防范化解人工智能安全风险为出发点和落脚点,提出了包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享的人工智能安全治理原则。

“人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的‘头雁’效应。”作为眼下互联网领域最为炙手可热的概念,人工智能的新场景、新应用、新市场层出不穷。从人机对话的逐步应用,到自动驾驶的方兴未艾,再到文生视频的高效便捷,都为相关产业发展带来了无限想象空间。与此同时,新风险、新挑战也与日俱增。机器对话深陷“幻觉”“虚构”泥潭,动不动“已读乱回”;人脸滥用问题突出,信息被窃且真假难辨;智能客服拉低服务“下限”,绕来绕去让人着急上火……这些现实,都说明人工智能已经走到了发展和治理的“十字路口”,平衡AI的“智”与“治”成为当务之急。

近些年,创新周期不断缩短,新生事物如雨后春笋。诸多案例已经证明,尽管初生时期可能出现这样那样的乱象,但只要治理及时发力、划定明晰边界,完全可以最大限度发挥技术优越性。AI同样如此。此番发布的《人工智能安全治理框架》1.0版明确,人工智能创新发展为第一要务,强调包容审慎、确保安全等原则,并从网络、现实、认知、伦理等不同的角度,提出相应技术应对和综合治理措施,有力回应了现实关切,有助于推动各方形成治理共识。

“人工智能的机遇、风险和挑战本质上是全球性的”。《全球数字经济白皮书(2024)》披露的数据显示,全球目前有3万家人工智能核心企业以及超过1300个人工智能基础大模型,它们以令人难以想象的速度重塑人类生活的整个世界。眼下,主要经济体正在探索人工智能治理的模式,用治理的主动权谋求发展的主导权。特别是作为互联网大国的中国,去年提出了《全球人工智能治理倡议》,围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理的中国方案,同时开展了政府间对话、高级别论坛等一系列积极行动。这些都是“构建人类命运共同体理念”的具体体现,也是中国就AI治理议题向世界贡献的“中国方案”。

“当一个科学技术能够改变人类命运的时候,我们就必须要有忧患意识”。面对人工智能浪潮带来的无法预测的种种,世界各国坚持真正的多边主义,共同构建开放、公正、有效的治理机制,才能确保人工智能更负责任、更安全可靠地造福人类社会。(杜梨)