ramy  2019-03-30 08:50:34  机器人 |   查看评论   

杀人机器人

▲AI自主杀人机器人的形象,几乎被魔鬼终结者系列电影完美诠释。

 

联合国《特定常规武器公约》(Convention on Certain Conventional Weapons)政府与专家小组,近日针对「致命自动化武器系统」(Lethal autonomous weapon)召开会议。「致命自动化武器系统」也就是俗称的「杀手机器人」(killer robots),即具有武装的装置,够在「无人干预或操控」的情况下自主搜索、识别并使用致命武力攻击包括人类在内的目标。

 

在人工智能(Artificial Intelligence,AI)技术进步的现在,杀手机器人不但能自主攻击,更可根据自身所部署的环境中不断变化的情况,随时学习或调整运用的武器与战术。

 

电影「魔鬼终结者」(The Terminator)将这样的杀手机器人形象化,过去以为是科幻电影,现在逐渐可能成真,并成为人类的恶梦。而黑客任务(The Matrix)电影,则认为AI已经完全统治世界。

 

AI 自主杀人武器发展快 已成联合国《特定常规武器公约》会议重点

 

故《特定常规武器公约》原本旨在禁止或限制使用,某些被认为具有过分伤害力或不分目标滥杀、滥伤作用的常规武器,例如地雷、诡雷、烧夷弹药、雷射致盲武器等。但近年来,「致命自动化武器系统」都成为例行会议焦点,而且世界各国对于是否禁止发展AI杀手机器人,并非团结一心,常抱持不同观点。

 

不主张限制的一方,如美国、俄罗斯、中国大陆、甚至英国、以色列、韩国等在AI杀手机器人研究投入较深的国家,正在稳步开发,唯恐开发脚步慢了,会让其他国家取得军事优势!而且认为如果对AI杀手机器人的关键核心「AI系统」施以严格研究限制,会让可用于灾害救援的民生领域AI发展也减速,所以这些国家虽不至于在会议中投反对票,但对于以国际条约「加重限制」杀手AI,态度消极。

 

相对的,与会的其他国家或许多民间团体则认为,如果等到AI自主杀人武器「完成开发」,再去限制就来不及了,因此一定要将AI杀手武器列入条约,并且要设定有拘束性、强制力的条款,甚至对开发的国家或制造商,都要科以严格的法律责任,或乾脆限制不得开发。很明显两派意见差异很大,讨论常走入死回圈。

 

AI 杀人哪需要动枪炮 自主思考+强大控制权就是杀人利器!

杀人机器人

▲AI掌控的系统不只武器,随着AI控制的深化,只要产生自主意识,很容易伤害人类。

 

实际上,如同电影魔鬼终结者所预示的世界,有强大武装的AI杀手机器人打败人类,并不是AI带给人类安全的唯一隐患!

 

美军对于AI分为两种,一种是依托于实体装置(如机器人)的移动AI(AI in Motion),一种是存在于软件系统的静态AI(AI at Rest)。假设如同魔鬼终结者的剧情,AI在不断的学习中,产生了自我意识,以静态AI对人类发动攻击,不见得比移动AI杀伤力小。

 

例如让 AI 控制了全国的交通系统,目前许多专家都认为,让AI控制交通,能够有效抒解塞车与调度航班,比会疲劳与出错的人类,更为有效率!但假设AI产生了自主意识,以此权限,乱指挥交通号志,致使许多车辆发生车祸,甚至让航班发生坠机、起降意外,都是一种不用枪炮的「攻击行为」。

 

又例如AI控制了全国的供电系统,目前许多专家也认为,AI系统能让整个电网系统,以及个别的电厂发电更有效率,监控也更为安全。AI如在自主意识下,造成全国性范围的停电,甚至让核能发电厂冷却系统失控,炉心融毁致使辐射外泄,又或控制水坝无预警放水…等情况都可能造成比杀手机器人的枪炮,更可怕的损失。

 

对于这样的情况,微软前总裁比尔盖茨(Bill Gates)在接受访问时,说出他的研究心得:「AI掌控人类,并非人类「马上」就会遇到的问题,人们不用因此而感到惊慌,但是人们也不应该(将这种观点)斥为无稽之谈,因为如果不做任何防范,这种情况最终可能会成为事实」。

  
 

除特别注明外,本站所有文章均为 人工智能学习网 原创,转载请注明出处来自从联合国会议「限制 AI 自主杀人」,谈起:AI 要杀人不一定要动枪炮

留言与评论(共有 0 条评论)
   
验证码: