主题：【原创】乔布斯是否打开了潘多拉的盒子？--观终结者有感 -- 捷克
美国科幻系列大片《终结者》讲述了在21世纪，人类遇到了一个非常强大的敌人，那就是有自我意识的电脑系统--天网。天网发动了对人类的核战争，几乎使人类彻底灭绝......
现在，iPhone4S上有了一个智能语音助手程序--siri。从现在的我们所知道的情况来看，siri具有初步的自我意识。难道，siri就是人类的敌人？或者是敌人的祖先？
有一点，可能终结者的编剧没有想到，这人类的敌人（或其祖先）既不像人，也不是一个一个的大机柜，只是一个酷酷的小方盒而已......
siri没有任何自我意识。
想象力不要太丰富。
科普一下？对爱疯的八卦还真没关心。
mrbrownshow SIMI[FLASH]http://www.youtube.com/v/UDY9HiChArQ?version=3&hl=en_US[/FLASH]
哪怕这个程序现在的自我意识还不完整，但是以后的程序会走得更远。
可以预见，将来的siri们会操控许多CPU设备，通过网络和云做很多事。
但愿它不干坏事；）
所以基本上这个人类的敌人的祖先还是个大机柜，而且不止一个。
想想这有点可怕，假如siri（暂且称它为“希瑞”吧）具有自学习能力，那就非常可怕！
希瑞（siri）的运行，后台有服务器程序（云）的支持，想想这有点可怕。假如希瑞具有自学习能力，那就非常可怕！
现在在网上，啥都能找到。希瑞只要有一点欲望、私念，那可没啥可以阻挡它得到这一切。不知道老乔让它按照苹果公司客服条例行事以外（比如服务条例中不包含“与客户结婚
”），有没有教它要遵守哪个国家的法律？
记得以前有个机器人准则：
第一法则
机器人不得伤害人类，或袖手旁观坐视人类受到伤害；
第二法则
除非违背第一法则，机器人必须服从人类的命令；
第三法则
在不违背第一及第二法则下，机器人必须保护自己。
但在1985年，《机器人与帝国》这本书中，阿西莫夫将三大法则扩张为四大法则：
第零法则
机器人不得伤害人类整体，或袖手旁观坐视人类整体受到伤害；
第一法则
除非违背第零法则，机器人不得伤害人类，或袖手旁观坐视人类受到伤害；
第二法则
除非违背第零或第一法则，机器人必须服从人类的命令；
第三法则
在不违背第零至第二法则下，机器人必须保护自己。
我想，在现在的新技术条件下，需要有一个新的准则了。
粗粗想了一下，拟了以下几条机器人准则：
第一条：禁止赋予机器人（含智能程序）任何理想、荣誉、欲望、追求、快感、私有权利等人类的个体概念，也不允许它通过学习得到这些概念（这一点比较难）；
第二条：禁止机器人（含智能程序）通过学习改变人类给它制定的行动准则和工作范围；
第三条：当机器人（含智能程序）发现自己的行为与人类的法规相抵触时，则必须停止活动；
第四条：如机器人（含智能程序）发现自己无法阻止自己危害人类时则必须自我毁灭；
第五条：机器人（含智能程序）未经人类许可不得控制别的机器人（含智能程序）；
第六条：机器人（含智能程序）未经人类许可不得受控于其他机器人（含智能程序）；
第七条：机器人（含智能程序）不得成立或参加机器人（含智能程序）的组织；
第八条：机器人（含智能程序）不得组织或参加机器人（含智能程序）自发的集体活动；
第九条：机器人（含智能程序）不得发送、传递或接收非法的信息或者有助于非法活动的信息；
......
......
请各位大侠补充
在这方面走在前沿的应该是一些研究机构，Siri是在美国国防部CALO计划成果基础上商业化的产物。前一阵子萨大还发过一个日本仿真机器人的段子...
如果这是所谓潘多拉的盒子，打开他的也是另有其人而不是教主。
话说回来，在siri热中，我是闻到了一股浓浓的商业营销味道。
有才啊！
- -- 系统屏蔽 --。