当地时间11月1日，人工智能安全峰会在英国布莱切利园召开，全球科技公司的高管和政府官员等近百名代表出席。就在这场峰会开幕前不久，居于全球人工智能领域领先地位的多个国家，纷纷发布了有关推动及监管人工智能的相关声明或法律法规。有评论认为，随着近年来人工智能技术及其应用的快速发展，对该领域的全球监管努力也开启了“加速度”。

一

据英国政府表示，此次由该国牵头的首届人工智能安全峰会，主要将讨论人工智能可能带来的风险，以及如何通过国际协调行动降低风险，同时讨论该技术带来的变革性机遇。

从具体议题来看，此次峰会将聚焦“人工智能前沿”。讨论议题将包括人工智能发展的未来方向、如何加剧全球不平等、对选举和教育的影响等。有分析称，英国政府关注的首要议题将是人工智能对国家安全的潜在威胁。

在此次峰会开幕前，已有多个国家或国际组织，就人工智能发展与监管问题密集发声。

当地时间10月30日，七国集团（G7）发布《开发先进人工智能系统组织的国际行为准则》。文件显示，这套行为准则共包含11项内容，旨在推广全球范围内的安全、可靠和值得信赖的人工智能，并将为开发最先进的人工智能系统的组织提供自愿行动指南。

同一天，美国总统拜登发布一项关于“安全、可靠和值得信赖的人工智能”的行政命令，这是白宫有关生成式人工智能的首套监管规定。根据该行政命令，美国多个政府机构需制定标准，对人工智能产品进行测试，寻求“水印”等内容验证的方法，拟定网络安全计划，吸引技术人才。

10月18日，中国发布了《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案，并强调愿同各国加强交流和对话，共同促进全球人工智能健康有序安全发展。

此外，今年5月，欧盟议会批准了首个全面的人工智能法案。外界普遍预计，欧洲议会将在年底前就《欧盟人工智能法案》达成协议，该法案旨在保护消费者免受人工智能潜在危险应用的影响。

二

就在全球多国政府共同发力监管的同时，呼吁警惕人工智能风险的声音，也在研究界乃至人工智能领域业界多次响起。

当地时间10月24日，包括图灵奖获得者杰弗里·辛顿和约书亚·本吉奥在内的24名人工智能专家，联合发表文章《在快速进步的时代管理人工智能风险》，呼吁各国政府采取行动管理人工智能带来的风险。该文章特别关注最先进系统带来的极端风险，例如助长大规模犯罪或恐怖活动。

文章提出了一些具体的政策建议，例如确保主要科技公司和公共资助者将至少三分之一的人工智能研发预算，用于确保安全和合乎道德的使用。文章呼吁制定人工智能国家和国际标准。

这是人工智能专家今年签署的关于该领域风险的第三份重要声明。3月，包括特斯拉创始人埃隆·马斯克、本吉奥和罗素在内的数万人签署了一封公开信，呼吁人工智能实验室“立即暂停训练比GPT-4更强大的人工智能系统至少6个月”。

5月，人工智能安全中心组织的一份声明称，“与流行病和核战争等其他社会规模风险一样，减轻人工智能带来的灭绝风险应该成为全球优先事项。”该声明由500多名著名学者和行业领袖签署，其中同样包括辛顿、本吉奥和罗素，也包括3家全球主要人工智能公司的首席执行官：OpenAI的山姆·奥特曼、DeepMind的德米斯·哈萨比斯和Anthropic的达里奥·阿莫代。

三

事实上，人工智能领域监管动作的加速，正是该技术及其运用近年来迅猛发展的自然结果。

据媒体报道，2023上半年，全球人工智能领域共计发生融资1387件，筹集融资金额255亿美元，平均融资金额达2605万美元。

从全球范围来看，对人工智能基础设施市场的投资也在增加。有数据显示，到2029年，全球这一市场的支出预计将达到4225.5亿美元，未来六年的复合年增长率将高达44%。

据业界统计，全球人工智能产业规模预计2030年将达到1500亿美元，未来几年复合增速约40%。目前全球人工智能企业的数量迅速增长，2022年，全球人工智能市场规模估计为197.8亿美元，预计到2030年将达到1591.03亿美元，从2022年到2030年，复合年增长率为38.1%。

同时，人工智能产业发展对GDP的拉动作用也有望逐渐显现。全球知名投资银行高盛集团近期发布报告认为，对人工智能领域的投资效应最终可能更大程度地反映到GDP上。报告称，在美国等主要发达市场经济体，生成式人工智能可以让约25%的工作任务实现自动化，在新兴市场则可以让高达20%的工作任务实现自动化。

在今年7月召开的首届联合国安理会人工智能与安全问题高级别公开会上，联合国秘书长古特雷斯说，人工智能同时具有行善与作恶的巨大潜能，如不采取措施防范风险，将是对当代和后代的失职。