马斯克等人签署致命性自主武器宣言：AI武器系统到底有多可怕

2018-07-19 15:30

来源： OFweek电子工程网

就在今天，传奇“钢铁侠”马斯克携手2000多名AI专家签署了一份名为：“lethal autonomous weapons pledge”的协议，中文翻译为致命性自主武器宣言，主旨是承诺永不发展致命的AI武器系统。

这是目前为止，全球首个AI武器系统遭到所有组织反对和影响力最大的一个开发系统，AI武器系统到底有多可怕，使得全球顶尖AI学者都0反对的签署了不开发的承诺。

宣言中说到：

人工智能的发展在军事上将会发挥越来越大的作用，每一个公民，政策者以及领导者都会很急切的通过这个机会来选择人工智能所带来的可用处和不可用处。

宣言中指出，人类的生死决定权，不能交给机器，这包含了道德理论，不能由没有感情的机器来决定，致命的AI武器，它不受人工干涉，会自主的选择攻击目标，不能让其成为参与世界上暴力活动的必要武器，特别是在现在监控和数据系统都完善的背景下。

AI致命的话题，早已不新鲜。

致命武器并不由人工操控，在无人控制情况下，自主完成寻找目标、定位、击杀敌人这一整套工作。之前有关AI武器就有被披露过，例如人工智能无人战斗机为例，网上一则8分多钟的视频被疯传。

AI武器的CPU反应速度是人类的100倍甚至更多，它可以随机移动可以躲避狙击手，和现代设备一样，它有摄像头有传感器，还具备你的手机和APP的面部识别功能，能自主辨别敌人并给出致命一击，内置3克聚能炸药，它可以穿破头骨，破坏内部结构，它们没有情感，无法做出情感判断，你的生死权，在机器眼里就是敌人和死亡两个概念。

致命武器做出的都是外科手术级别的精准打击，它可以躲避人和子弹，可以躲避所有的反制措施，是无法被阻止的，换句话说，在恐怖主义手里，AI致命武器被指定任一领导人为攻击目标，那么后果不堪设想。在AI致命武器面前，核弹就已经落时了，因为AI能够没有风险的杀死所有的敌人，只需要识别数据，释放就能做到。

早前就有新闻报道一个主动伤害人的机器人－亚历山大·瑞斌（Alexander Reben），你把手放在它面前，那么它就有可能会扎你一下，虽然你不会严重受伤，但是会有像验血一样的刺痛感，且会出血。

有人做了一个行为实验，实验中，仅靠语音：“OK Google，开枪”，还不到一秒钟的时间，Google Assistant人工智能助手，主动的去扣动手枪的扳机，准确无误的射中一颗红苹果，随之而来的是刺耳的蜂鸣器发出的嗡的噪声。

随着AI技术的不断发展，它将给人们带来的除了喜悦还有恐惧和灾难，如果AI发展成为颠覆地球，杀死人类的武器，那将是世界性的灾难。