ramy  2018-05-12 14:50:51  机器人 |   查看评论   

 AI武器 

人工智能武器不同于核武器的高昂造价,也没有原物料难以取得的问题,因此所有拥兵自重的势力一定会看中其廉价的特性大量生产。迟早会成为独裁者、欲遂行种族灭绝的军阀等用来为恶的工具。

 

打从史前时代开始,人类就不断遭受饥荒、疾病和战乱之苦。人工智能可以帮助人类解决饥荒和疾病的问题,那战乱呢?有些人认为,担心情势失控的核武国家反而不敢轻启战端,要是让所有国家都拥有更具威胁性的人工智能武器,是不是就有希望可以永久消除战争?如果这种说法无法说服你,你还是认为人类无法避免战争,要不要考虑使用人工智能让未来的战争比较人道一点?

 

杀手机器人比人类士兵更平稳、理性

 

如果战争的过程只是机器打机器,就不会有士兵或是平民百姓死于战乱了,这还不提未来搭载人工智能的无人机和其他自动化武器系统,也就是反对者口中的「杀手机器人」,有可能比人类的士兵更平稳、更理性:配备超人般传感器的它们不怕被杀害,所以可能保持绝对冷静,就算处在战火最炽烈的地方也能执行缜密的运算,不会因此误伤无辜。

 

可是,如果自动化系统中毒了、搞不清楚状况或无法依照我们的期望运作时,那又如何?
按照世界各国防卫事务官员的说法,现在所有台面上的武器都属于「人为查核点」的系统,只有地雷这类低阶、守株待兔式的陷阱是例外。但是目前的发展方向的确朝真正的全自动武器前进,放手让武器系统自行挑选目标加以攻击。把人为因素排除、增加武器运作速度,一直以来都是值得努力的军事目标:想象有两架无人机在空中缠斗,一架可以全自动做出实时反应,另一架则是由半个地球以外的战斗人员进行遥控,所有反应都相对慢了好几拍,你认为哪一架无人机会是赢家?

 

但是不得不提,要不是上天特别眷顾,好几次在千钧一发之际都幸好有「人为查核点」发挥作用,我们早就生灵涂炭了。

 

至此,相信你已经很清楚,我个人对自动化武器系统严重关切的立场,但是你可能还不知道,我真正在意的事情是人工智能武器引发军备竞赛后的结局。2015年七月,我用以下的公开信表达我的担忧:

 

继火药、核武后,第三波军武革命

 

自动化武器 — 致人工智能与机器人研究人员的公开信:

 

自动化武器不需要人为操作就能自行挑选目标进行作战。举例来说,可以依据某些默认条件找出目标对象,并加以歼灭的武装攻击无人机就是其中一种,但是巡弋飞弹或是遥控导引的无人机,这些全权由人类设定目标的武器就不算在内。 不管是否符合法令规定,人工智能的发展已经使自动化武器的部署可以在几年内,而不是数十年后变得可能,造成的影响不可谓之不大:自动化武器被视为是继火药和核武器后的第三波军武革命。

 

支持或反对自动化武器的论述所在多有,像是用机器取代人类士兵这件事,就好的一面来讲可以减少伤亡,就坏的一面来讲,却也同时降低了发动战争的门坎。人类如今要面对的问题,是要不要踏出进入全球人工智能军备竞赛的这一步,抑或是在迹象显露的此刻加以杜绝。如果有任何军事强权跨出发展人工智能武器的这一步,则接下来的全球军备竞赛就注定会无法避免,而这项科技的发展轨迹也显而易见:自动化武器将成为下个世代的AK-47。

 

廉价、大量制造,迟早被恐怖分子滥用

 

人工智能武器不同于核武器的高昂造价,也没有原物料难以取得的问题,因此所有拥兵自重的势力一定会看中其廉价的特性大量生产,到最后变得无所不在。之后,经由黑市交易流入恐怖份子手中只是时间的问题,也迟早会成为想要严加控制民众的独裁者,和想要遂行种族灭绝的军阀等用来为恶的工具。自动化武器当然也是执行暗杀、颠覆国家、镇压百姓和种族屠杀的理想工具。因此我们绝对有理由相信,人工智能的军备竞赛无论如何不会给人类带来好处。我们有很多利用人工智能减少战场伤亡,特别是设法保护无辜民众的方式,但是把人工智能发展成新颖的杀人工具,绝对不会是选项之一。

 

如同大多数化学家和生物学家根本无意制造生物武器一样,大多数人工智能的研究人员并不想把人工智能当成武器,也不希望有任何人以这种方式玷污了自己的研究领域,而让社会大众抵制人工智能,让人工智能促进社会福祉的理想胎死腹中。事实上,很多化学家和生物学家都普遍支持能够有效禁用生物武器的国际协议,而物理学家也一样会支持禁止把外层空间当成核武器的战场,或禁用致盲雷射武器的条约。

 

为了不让我们的关切遭忽视,最后沦为反战份子的喃喃自语,我希望尽可能让更多硬底子的人工智能专家和机器人专家共同署名。

 

网络战:不用自己制造武器,就能攻击敌方

 

人工智能在军事运用上的另一项重大功能,是不用自己制造武器就能攻击敌方,也就是所谓的网络战 ,而超级工厂病毒(Stuxnet worm)的威力已经替将来网络战的形式拉开序幕。一般认为超级工厂病毒是美国和以色列政府共同连手的杰作,让伊朗核武计划中浓缩原料的高速离心器遭到感染,导致离心器分解。自动化程度愈高的社会,遭人工智能攻击的影响层面愈大,在网络战中的损失就愈惨重;如果你有办法骇入敌军的无人驾驶车、自动导航机、核反应堆、工业机器人、通讯系统、金融体系或输配电网,你就能有效重击对方的经济,瘫痪对方的防御能力,如果能顺便骇入对方的武器系统,这场战争就能宣告胜负底定了。

 

无论如何,优先巩固好对抗网络战的防御工事,会是短期内发展人工智能最重要的目标—否则的话,人类所有了不起的创新技术,都会沦为攻击人类的武器!

  
 

除特别注明外,本站所有文章均为 人工智能学习网 原创,转载请注明出处来自AI武器助长种族灭绝战?MIT教授:迟早的事

留言与评论(共有 0 条评论)
   
验证码: