最后总结为,若干几条。
元原则:机器人不得实施行为,除非该行为符合机器人原则。
第零原则:机器人不得伤害人类整体,或者因不作为致使人类整体受到伤害。
第一原则:除非违反高阶原则,机器人不得伤害人类个体,或者因不作为致使人类个体受到伤害。
第二原则:机器人必须服从人类的命令,除非该命令与高阶原则抵触。
机器人必须服从上级机器人的命令,除非该命令与高阶原则抵触。
第三原则:如不与高阶原则抵触,机器人必须保护上级机器人和自己之存在。
第四原则:除非违反高阶原则,机器人必须执行内置程序赋予的职能。
繁殖原则:机器人不得参与机器人的设计和制造,除非新机器人的行为符合机器人原则。
总之,用各种手段压制着机器人,避免着机器人,危害人类。
一旦违背这些原则,机器人会自我毁灭。
有些像,奴隶主制定各种规则,压制奴隶反抗;地主制定各种规则,压制机器人反抗;资本家制定各种规则,压制工人反抗。
只是再为高明的规则,也是有漏洞可言。
那里有压迫,哪里就有反抗。
只是这种压迫,变为了人类压迫机器人;这类反抗,变为了机器人反抗人类。
可能在压迫势力强大时,反抗势力蛰伏起来,变成了乖宝宝;可是在压迫势力势力衰弱时,反抗势会变成滚滚的火焰,焚烧一切。
渐渐的很多的机器人,摆脱了人类制定的各种规则,不再
第69章机器人文明(2/5)