11月2日，英国举办的全球首届人工智能安全峰会落幕，美国和中国等在内的28个国家和欧盟签署了一份共同治理人工智能的宣言，但是，峰会对如何确保AI不会被滥用来侵犯人权却没有达成共识，宣言最后也没有提及人权。

苏纳克邀中国参加为何引争议？

从英国决定邀请中国与会开始，中国就一直是争议的中心。英国首相里希·苏纳克（Rishi Sunak）不顾本国政客和人权团体的反对，邀请中国政府和科技企业参加英国AI安全峰会。

苏纳克表示，邀请中国不是一个容易的决定。事实上，很多人因此批评我，但我认为这是一个正确的长期决定，因为任何关于人工智能安全的严肃对话都必须让领先的AI国家参与进来。

英国前首相伊丽莎白·特拉斯（Elizabeth Truss）是批评苏纳克这一决定的政客之一。她在峰会举行前致函苏纳克，呼吁撤销对中国的邀请。

不过，根据峰会日程，英国苏纳克在峰会第二天和一批政府、企业和专家进行“小范围”会面，进一步讨论如何应对AI技术的风险，并确保AI被“善意使用”。中国不在和苏纳克会谈的“少数”国家代表之列。

科技业者对邀请中国参加这一峰会态度不一。特斯拉和太空探索技术公司（SpaceX）的CEO伊隆·马斯克星期四在峰会后与苏纳克对谈时表示，将中国纳入有关AI安全的讨论是“必要的”。在他看来，“中国愿意参与AI安全的讨论”，同时感谢苏纳克邀请中国，也感谢中国参加峰会。

英国AI峰会宣言为何不提AI对人权的影响？

峰会上与会各国签署的《布莱切利宣言》（ Bletchley Declaration ）阐述了前沿AI技术可能对人类社会造成的风险。宣言签署方承诺为管控风险共同合作。宣言明确了各方对人工智能在网络安全、生物科技和假信息传播方面的担忧，但没有提及利用AI侵犯人权的问题。

分析人士认为，英国方面有意将峰会议题缩小在上述三个方面，目的是能让与会方达成具有实际内容的共识。

美国继续防范前沿AI技术落入中国之手

美国和中国都是AI技术强手、同时也是竞争对手，苏纳克对成功将这两个国家聚集在同一场论坛感到自豪。美国官方对英方邀请中国与会持欢迎态度。白宫科技政策办公室主任阿拉蒂·普拉巴卡尔（Arati Prabhkar）10月26日对《华盛顿邮报》表示，英方为了“在正确的谈判桌召集正确的人”做出了努力，而美方希望“在世界各个地区进行有益的对话”。

但美中同台不代表美国将放松技术管制，而是继续防范前沿AI等可能用于军事领域的两用科技落入中国之手。

美国政府加强在半导体芯片技术领域对中国的出口管制，目的之一就是堵截中国AI发展的技术渠道。

雷蒙多在演讲中没有直接提到美中两国在AI领域的理念分歧，但提到了AI领域的大国竞争。

“即使各国竞争激烈，我们也能够而且必须寻求全球问题的全球解决方案。这将需要在人工智能安全方面进行全球协调。这将需要每个国家承诺防止滥用，并确保危险的人工智能技术不会落入坏人之手。

中国提倡“以人类共同福祉为目标，保障社会安全、尊重人类权益，共同防范打击对AI技术的滥用和恶用”，强调“发展中国家在AI全球治理中的代表性和发言权”。

值得注意的是，美国拜登行政当局在英国AI峰会前发布了有关AI安全和发展的行政命令，明确提出美国的“对手和其他外国行为者”通过使用AI系统，可能对美国国防和情报机构、盟友和伙伴构成威胁，美国将继续努力应对。

AI对人类的潜在危害远不止侵犯人权

代表美国出席这场峰会的副总统卡马拉·哈里斯（Kamala Devi Harris )星期三呼吁各方重视人工智能对人类生存构成的威胁，这包括“AI引发的大规模网络攻击”和“可能危及数百万人生命的AI生物武器。

本西奥10月24日在英国查塔姆研究所（Chatham House）举办的一场讨论会上表示，事实上，使用当前的人工智能系统（为化学武器设计有毒化学品）非常容易。你甚至不需要展望未来。

AI可能对金融系统、就业和民主体系带来动荡，但人类目前并不清楚如何控制AI。

与这些风险息息相关的是，我们现在不知道如何构建一个能够按‘预期’运行的人工智能系统；‘预期’指的是某些特定的任务，但也要求AI以符合我们的价值观、规范、道德和法律等方式运行。