西西河

主题:【原创】乔布斯是否打开了潘多拉的盒子?--观终结者有感 -- 捷克

共:💬33 🌺21
全看分页树展 · 主题 跟帖
家园 乔布斯是否打开了潘多拉的盒子--之二

希瑞(siri)的运行,后台有服务器程序(云)的支持,想想这有点可怕。假如希瑞具有自学习能力,那就非常可怕!

现在在网上,啥都能找到。希瑞只要有一点欲望、私念,那可没啥可以阻挡它得到这一切。不知道老乔让它按照苹果公司客服条例行事以外(比如服务条例中不包含“与客户结婚”),有没有教它要遵守哪个国家的法律?

记得以前有个机器人准则:

机器人三定律(Three Laws of Robotics)是科幻小说家艾萨克·阿西莫夫在他的机器人相关作品和其他机器人相关小说中为机器人设定的行为准则,是阿西莫夫除“心理史学”外另一个著名的虚构学说:

第一法则

机器人不得伤害人类,或袖手旁观坐视人类受到伤害;

第二法则

除非违背第一法则,机器人必须服从人类的命令;

第三法则

在不违背第一及第二法则下,机器人必须保护自己。

但在1985年,《机器人与帝国》这本书中,阿西莫夫将三大法则扩张为四大法则:

第零法则

机器人不得伤害人类整体,或袖手旁观坐视人类整体受到伤害;

第一法则

除非违背第零法则,机器人不得伤害人类,或袖手旁观坐视人类受到伤害;

第二法则

除非违背第零或第一法则,机器人必须服从人类的命令;

第三法则

在不违背第零至第二法则下,机器人必须保护自己。

外链出处

我想,在现在的新技术条件下,需要有一个新的准则了。

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河