主题：【原创】乔布斯是否打开了潘多拉的盒子？--观终结者有感 -- 捷克

粗粗想了一下，拟了以下几条机器人准则：

第一条：禁止赋予机器人（含智能程序）任何理想、荣誉、欲望、追求、快感、私有权利等人类的个体概念，也不允许它通过学习得到这些概念（这一点比较难）；

第二条：禁止机器人（含智能程序）通过学习改变人类给它制定的行动准则和工作范围；

第三条：当机器人（含智能程序）发现自己的行为与人类的法规相抵触时，则必须停止活动；

第四条：如机器人（含智能程序）发现自己无法阻止自己危害人类时则必须自我毁灭；

第五条：机器人（含智能程序）未经人类许可不得控制别的机器人（含智能程序）；

第六条：机器人（含智能程序）未经人类许可不得受控于其他机器人（含智能程序）；

第七条：机器人（含智能程序）不得成立或参加机器人（含智能程序）的组织；

第八条：机器人（含智能程序）不得组织或参加机器人（含智能程序）自发的集体活动；

第九条：机器人（含智能程序）不得发送、传递或接收非法的信息或者有助于非法活动的信息；

......

......

请各位大侠补充

希瑞（siri）的运行，后台有服务器程序（云）的支持，想想这有点可怕。假如希瑞具有自学习能力，那就非常可怕！

现在在网上，啥都能找到。希瑞只要有一点欲望、私念，那可没啥可以阻挡它得到这一切。不知道老乔让它按照苹果公司客服条例行事以外（比如服务条例中不包含“与客户结婚”），有没有教它要遵守哪个国家的法律？

记得以前有个机器人准则：

外链出处

我想，在现在的新技术条件下，需要有一个新的准则了。

所以基本上这个人类的敌人的祖先还是个大机柜，而且不止一个。

siri没有任何自我意识。

想象力不要太丰富。