实际上,更多人所熟知的是机器人学三定律,即题中的一二三定律。
该定律首次提出于阿西莫夫的《我,机器人》中,在1950年末由格诺姆出版社出版。
后来,又加上了第零定律。
为什么后
实际上,更多人所熟知的是机器人学三定律,即题中的一二三定律。
该定律首次提出于阿西莫夫的《我,机器人》中,在1950年末由格诺姆出版社出版。
后来,又加上了第零定律。
为什么后来要定出这条“零定律”呢? “第零定律”的重要性在于地位凌驾其它三大定律,如若有个机器人为保护人类整体(第零定律),必须杀害一个人或一群人(违反第一定律),机器人的判断规则会为了人类整体着想就会同意谋杀罪行。
打个比方,要对杀人犯执行死刑,那么杀人犯的机器人该不该阻止死刑的执行呢?有了第零定律,就能人类的整体利益。
那么,上述四条定律是否靠谱呢?个人觉得还是不完全靠谱的,因为有很多漏洞。
1. 道德和价值观。这四大定律实际上是从利益出发,并没有涉及善与恶的问题。假如有两个组织相互对立,那么其手下的机器人的价值观就是相悖的,也没法理解人类的整体利益。(实际上,人类历史上很多重大决策在制定时也并不能很好的理解当时人类的整体利益,从而不符合人类整体利益,如二战等)
2. 机器人的人权。这四大定律并没有很好的定义人类和机器人的关系,如果按照上述定律,机器人可能是人类的朋友或是奴隶。这是两种完全不同的关系,尤其是后者,由于四大定律并没有很好的保护机器人的权利(第四条只是限定机器人保护自己)必将引起高智机器人的反弹。电影《机械公敌》就是这种情况的很好反映,《人工智能》中,人类对机器人的不待见也能看出端倪。
3. 机器人的身份。还有一个重要的问题是,假如未来机器人高度发达,掌握了人类的思维和情感,能否定义之为人?(材料之间的差异届时容易替换)是否有机器人以人类自居或者打算转化为人类? 电影《人工智能》小男孩跨越千年只为得到人类的认可,电影《机器管家》最后舍弃寿命终得承认人的身份,电影《机械姬》里最终机器人走出基地,混入人群无踪迹。。
综上,机器人四大定律是从人类利益出发,制定的机器人为人类服务的定律,有其内部的逻辑性,但靠这几条定律还是不够的。