马斯克等科技大佬联名承诺：不发展致命性人工智能武器系统

特斯拉创始人埃隆·马斯克。视觉中国 资料图

特斯拉创始人埃隆·马斯克领衔的美国科技圈大佬们签署了一份协议，承诺不会发展致命的人工智能武器系统。

7月18日，科技网站The Verge报道称，这是全球研究者和企业家非官方联盟的最新举措，反对人工智能技术的不当扩张。

协议警告，使用人工智能的武器系统“无需人工干预就能选定目标”，这造成了道德上和实操上的威胁。协议的签署方认为，从道德上来说，取走一条人命的决定，“绝不应该委托给机器”，从实操方面来看，这种武器的扩散将“危害每个国家和个体的稳定”。

该协议于当天在瑞典斯德哥尔摩举行的2018国际人工智能联合会议（International Joint Conference on Artificial Intelligence）上发布，由生命未来研究所（Future of Life Institute，FLI）起草。

生命未来研究所是一个研究与推广机构，致力于降低人类面临的风险，尤其是人工智能技术开发过程中的可能出现的风险。该研究所此前已经发布了一些文件，号召联合国对致命自主武器（lethal autonomous weapons，LAWS）设立新规。此次协议的签署，也是相关人员首次承诺不会参与开发此类技术。

除了SpaceX和特斯拉CEO埃隆·马斯克，签署协议的知名科技界人士还包括，创造了阿尔法狗的谷歌系人工智能公司Deepmind的三位联合创始人Shane Legg，Mustafa Suleyman和Demis Hassabis；通讯软件Skype创始人Jaan Tallinn，以及其他世界最权威和前沿的人工智能研究者。

据科技网站Engadget报道，少数公司的技术，以及如何向政府机构和执法团体提供这些技术，面临强烈争议，于是这项协议应运而生。谷歌就曾向美国军方提供人工智能科技，帮助他们在无人机影像中标记需要额外人工检查的内容。类似地，亚马逊由于向执法机关分享其面部识别技术而招致批评，微软也因向美国移民和海关执法局（Immigration and Customs Enforcement，ICE）提供相关服务而遭到抗议。

在遭受猛烈抨击之后，谷歌推出了新准则，作为公司研发人工智能技术的道德指导。准则中称，不会将人工智能设计或应用于武器、监视或“其目的违反了广为接受的国际法和人权准则”的技术。微软也发布声明称，其与美国移民和海关执法局的合作仅限于电子邮件、日历、消息和文档管理，不包括任何面部识别技术。微软也在号召美国国会对面部识别技术进行监管。

2015年，马斯克为生命未来研究所的一个研究项目捐助了1000万美元，该项目专注于确保人工智能会有益于人类。2017年，马斯克，Deepmind的Hassabis和Suleyman也在生命未来研究所递交给联合国的信件上签名，寻求对自主武器系统的立法。