国际电信联盟发布报告显示——人工智能治理面临挑战

7月4日,在2024世界人工智能大会上,工作人员在展示手势控制机器人操作流程。新华社记者 黄晓勇摄

日前,国际电信联盟发布《人工智能治理日——从原则到落实》专题报告指出,在人工智能治理问题上,由原则向落实的转变十分具有挑战性,主要原因是,有关原则过于抽象,难以直接转化成为现实的治理方案,也无法追赶人工智能技术的飞速发展。

近年来在人工智能领域出现了一个重大变化趋势,就是各个治理主体开始尝试将有关治理原则落地为具体治理方案,为人工智能技术发展带来了更大的规则压力。其中,美国2023年颁布的《关于安全、可靠、值得信赖地开发和使用人工智能的行政命令》,以及欧盟2024年通过的《人工智能法案》被认为是最具有代表性的先行案例。

报告称,人工智能技术的迅速发展导致了“治理悖论”的出现。一方面,管理规则往往落后于技术发展,技术的突破总能让“落后”的规则无所适从;另一方面,人工智能技术和工具并不具备对自身进行监控、检查、控制的功能,即不论依靠制度还是技术本身,都存在明显的治理真空,为填补这一真空,需要设计开发能够有效开展治理的工具,从而在对人工智能的驾驭和使用上将收益最大化,并将风险最小化。

报告指出,人工智能治理日的讨论主要聚焦三大议题,即人工智能治理现状、如何贯彻人工智能治理框架以及如何确保包容性和维护信任。在治理现状方面,世界多个国家和地区正在进行关于人工智能的规则制定,既包括本国也包括多边的政策规范,其中区域组织和联合国机构在多边政策规范的制定中发挥重要作用。当前,围绕人工智能应采取国别治理还是国际治理仍存在争议,但主流意见认为人权、数据隐私等全球性问题应属国际治理范畴,行业应用等问题则应交给各国自行治理;在框架贯彻方面,当前技术手段往往不足以追踪并评估人工智能治理框架的落实情况。因此,报告建议选取人工智能技术发展中最直观量化的算力作为治理对象,通过算力治理间接实现人工智能治理;在包容信任方面,报告指出,当今世界上仍有三分之一的人口未接入互联网,还有诸多国家虽已受到人工智能技术发展应用的冲击,但自身尚未参与有关规则制定的政策讨论,在处理与人工智能技术关系上完全处于被动,因此要首先解决联网率低的问题。

国际电信联盟秘书长博格丹·马丁表示,国际电信联盟围绕人工智能治理问题向其193个成员国调研得知,85%的国家尚未采取治理和规范措施,但所有国家均表示对该问题感兴趣。为了确保所有声音都能被倾听,尤其是发展中国家的声音不被忽视,国际电信联盟高度重视涉人工智能的标准化建设,目前超过200项与人工智能相关的标准已经完成并发布或在制定过程中,但为了应对挑战,这一标准制定工作还远远不够,需要进一步加速并且突出协调性。马丁还表示,世界经济论坛每年会发布全球风险感知调查,梳理全球未来面临的十大风险,今年人工智能技术应用的潜在负面效应首次跻身其中,显示出人们对于人工智能技术的风险有突出顾虑。

推动人工智能全球治理面临的另一个现实问题是,世界各国对于人工智能的认识不尽相同。近期有调查显示,中低收入国家消费者群体对于人工智能的热情比成熟市场的消费者更高,尤其是寄希望于通过该技术在教育、卫生等关键领域跨越科技鸿沟,实现创新发展。针对各国立场的差异性,联合国坚持多边主义原则。马丁表示,重要的是要采取多方共同管理的方式推进人工智能治理,确保治理机制能够有迭代性和包容性,从而与各方的视角和需求相适应。国际电信联盟将人权保障、包容发展、能力建设作为人工智能治理的核心原则,并且通过与联合国开发计划署等机构合作,致力于帮助各国强化能力,更好应对人工智能发展带来的机遇和挑战。(记者 梁 桐)