DeepMind、Elon Musk 等承诺不开发自动化 AI 武器

在今天的人工智慧 Joint Conference 大会上，Future of Life Institute 正式宣布超过 2,400 名个人及 160 家公司、组织已经签订公约，承诺自己「不会参与或支持致命自动化武器的开发、制造、交易及使用」。这次的签字方来自总共 90 个国家，其中包括有 Google DeepMind、Xprize 基金会等知名机构以及 Elon Musk 这样耳熟能详的名字。他们在自己许下诺言的同时，也希望各国政府能够尽快对该类技术立法加以限制。

这次多方承诺的一个大背景，是许多公司向政府、执法机构提供该类技术的行为激起了剧烈反应。之前 Google 因为跟美国军方合作的 Project Maven 计划受到了颇多指责，亚马逊将面部辨识技术分享给执法部门的做法也备受批评，同时微软为移民和海关执法局提供的服务也遭到了口诛笔伐。

「数以千计的 AI 研究者们都认为，致命的自动化武器在被去除夺人生命的风险性、归因性和困难性以后，有可能会成为被用于暴力、镇压的强大工具，尤其是在连接监控及数据系统的情况之下。」公约中这么写道。同时其还强调，结束某人生命的决定「永远都不该交给机器来做」。

「我很兴奋地看到 AI 领先者们能由说到做，将政客长久以来都没有真正执行的政策落实到行动中去。」Future of Life Institute 主席 Max Tegmark 在声明中如此说道，「AI 在帮助世界这件事上有巨大的潜力，前提是我们不对其施以滥用。会自动取人性命的 AI 武器跟生化武器一样难以控制、令人作呕，我们对待两者的态度应该是一样的。」