主题：【原创】乔布斯是否打开了潘多拉的盒子？--观终结者有感 -- 捷克
家园 乔布斯是否打开了潘多拉的盒子--之三（机器人准则） 粗粗想了一下，拟了以下几条机器人准则：
第一条：禁止赋予机器人（含智能程序）任何理想、荣誉、欲望、追求、快感、私有权利等人类的个体概念，也不允许它通过学习得到这些概念（这一点比较难）；
第二条：禁止机器人（含智能程序）通过学习改变人类给它制定的行动准则和工作范围；
第三条：当机器人（含智能程序）发现自己的行为与人类的法规相抵触时，则必须停止活动；
第四条：如机器人（含智能程序）发现自己无法阻止自己危害人类时则必须自我毁灭；
第五条：机器人（含智能程序）未经人类许可不得控制别的机器人（含智能程序）；
第六条：机器人（含智能程序）未经人类许可不得受控于其他机器人（含智能程序）；
第七条：机器人（含智能程序）不得成立或参加机器人（含智能程序）的组织；
第八条：机器人（含智能程序）不得组织或参加机器人（含智能程序）自发的集体活动；
第九条：机器人（含智能程序）不得发送、传递或接收非法的信息或者有助于非法活动的信息；
......
......
请各位大侠补充
家园 乔布斯是否打开了潘多拉的盒子--之二 希瑞（siri）的运行，后台有服务器程序（云）的支持，想想这有点可怕。假如希瑞具有自学习能力，那就非常可怕！
现在在网上，啥都能找到。希瑞只要有一点欲望、私念，那可没啥可以阻挡它得到这一切。不知道老乔让它按照苹果公司客服条例行事以外（比如服务条例中不包含“与客户结婚
”），有没有教它要遵守哪个国家的法律？记得以前有个机器人准则：
机器人三定律（Three Laws of Robotics）是科幻小说家艾萨克·阿西莫夫在他的机器人相关作品和其他机器人相关小说中为机器人设定的行为准则，是阿西莫夫除“心理史学”外另一个著名的虚构学说：第一法则
机器人不得伤害人类，或袖手旁观坐视人类受到伤害；
第二法则
除非违背第一法则，机器人必须服从人类的命令；
第三法则
在不违背第一及第二法则下，机器人必须保护自己。
但在1985年，《机器人与帝国》这本书中，阿西莫夫将三大法则扩张为四大法则：
第零法则
机器人不得伤害人类整体，或袖手旁观坐视人类整体受到伤害；
第一法则
除非违背第零法则，机器人不得伤害人类，或袖手旁观坐视人类受到伤害；
第二法则
除非违背第零或第一法则，机器人必须服从人类的命令；
第三法则
在不违背第零至第二法则下，机器人必须保护自己。
我想，在现在的新技术条件下，需要有一个新的准则了。
家园 siri需要服务器端软件配合。 所以基本上这个人类的敌人的祖先还是个大机柜，而且不止一个。
家园 【原创】后台是云吧 想想这有点可怕，假如siri（暂且称它为“希瑞”吧）具有自学习能力，那就非常可怕！
家园 据我了解 siri没有任何自我意识。
想象力不要太丰富。