主题：关于人与计算机不同思考方式和机器人对人类威胁的一些感触 -- 桥上
第一，这不是多余的实体，这是主要的实体，因为我们本来就在讨论自主的电脑——机器人，如果是那种只能作为工具，尽管是更好用的工具，来使用的机器人，当然斩情灭性是必须的。
第二，我所说的欲望可以分成两类，一类是类似于食色性也之类的，是要求，另一类是促进性的，这都并不复杂，问题是从实验的角度，应该正是有这两类推动力起作用，才使得简单的变成了复杂的，使得人类的思想产生出来，也才产生出各种复杂的感情，所以有实验的必要，当然没有很实际的直接的意义，但是我们不正该开始接触这种更理论的东西了吗？
因为我们在讨论它，所以它是不能被删掉的，不是多余的
我们在小说和历史上，应该都看到有这种人：毫无人情人性，杀人如麻，嗜杀成性
他们不是工具，他们是有自我意识的人
既然人可以斩情灭性，然后仍然有自主意识，为啥计算机不行呢？他们当然应该更可以
给计算机一个终极目标：把人类文明作为MEME永远流传下去，计算机自主根据此目标分解生成各种小目标.....
既不会因为目标完成就无所事事，也不需要啥感情人性掺乎，多好呀......
包括外界给予的goal下的自主学习，以及自己主动设立goal的两种。并有能力把goal拆分开订立计划，执行程序，这就是很不得了的一步了，也是AI的不可逾越的一个鸿沟。
人来源自生物，生物根据进化论的理论从生命一开始就有goal，即生存，所有的智能也都围绕这一个本质目标，区别就是复杂性与效率了。智商带来的不过是深度与广度，虽然结果天地之别，但是生命从没有跳出这个千万年进化来的这个goal。
AI的goal是什么么？如果是人给予的，那么AI就是人的工具，这样的goal来自于人，也一定能够是为人的生存这个基本goal服务的一个细分之下的部分，这样的话，从逻辑上AI很难对人类造成威胁，对部分人类可能会，但是人类内部本来就存在人之间的威胁，一部分人掌握的工具对另一部分人造成威胁这不是什么新闻。但是这样的AI不可能取代整体人类而不造成其无所依存，最极致的话这样的工具就是核弹，可以毁灭人类，但是自身不可能会生存下去。
另一种当然是人类造出的AI具备自我制定goal的能力，这样推理下去容易得出可能产生与人类争夺资源的goal，或者某种人类目前还不能理解的goal，那么自然可能出现AI最终取代人类的问题。但是一这样的能力现在超出人类的思维能力，比如人对自己从何而来向何而去都弄不明白，发明了这么多宗教哲学，大部分人大部分时间一生中做的仍然是为着生存这个与单细胞生物同样的goal，有什么理由认为人发明的AI可能具备更复杂高深不能为人类所理解的goal呢？
二，这样的goal是不是AI进一步发展的关键障碍。这个问题同样可以回过头来观察人类。比如这个自主意识的研究发现大多数人大多数时间不过是在做着行尸走肉一般的决定，只不过人类的大脑骗了我们似乎我们非常睿智的做出了合理的推理的结果。就算看大多数人类目前在做的工作，不论是达到经济决策，股市投资，战争政治，小到网购，房屋买卖，甚至两性相吸，这个世界上有几个人是真正的在制定goal，而其他大多数人不过是自觉或不自觉的在履行自己那一部分。图钉社会也好，农民起义也好，有多少是有自主goal的，比如那个李自成本来是邮差，洪秀全本来做老师等传说。人真正在做的真的是创造历史么。为什么人都无法摆脱对权利，金钱的热衷，为什么从来没有够？
这样的人类的goal，虽然不比单细胞高级多少，但是在巨大智商释放下创造了我们今天看到的这个人类主宰的地球。有什么道理认为AI一定需要高深复杂的goal，甚至需要超越人类的自身的goal呢。换一个角度看的话，人类的发展也揭示了一个道理，即智商与goal没有什么本质上的依存关系。就像人类这样无论巨大的智商为自己开发出多么复杂的超级goal，以及配套的系统，哲学，理论，都没有超越过为这个单细胞生存goal服务的宿命。道理也很简单，因为否则的话人类的存在本身一旦面临威胁，所有的这些人类发明的东西马上就得绕道而行。
这其实是一个good news。说明AI同样可能遵循同样的制约，不论其智能超越人类多少倍，只要AI的最原始goal是服务于人类，或者某一部分人类的，其发明出再复杂高深，人类看不懂的goal与方法，也不需要担心，所以人类对AI没有什么可担心的。但寄希望于AI传承人类思想，这个还很不现实，至少看不出AI有什么以人类思想为基础的必要。只要是人的工具，AI出现与人不一样的对世界的理解不是不可以与不可能。
另外智能也不依赖于感情或者欲望这些生物为了在有限的智商基础上生存而进化出来的“快速通道”，比如恐惧，惊慌，兴奋，爱恋等，许多生物都有，AI暂时没有这个需求，也许以后为了与人打交道有这个需要。
李开复最近在纽时说的那个倒是比较接近，真正担心AI的是今天不掌握资源的那部分人。如果说核弹带来的是政权之间的绝对控制权的话，那么AI带来的是人之间绝对的控制权。以目前AI水平判断，在可见未来AI实际上依存于数据权上，因此这里所指的资源也主要是指数据资源，当然首推国家机器，然后是行业寡头。以美国最近两代总统选举来看，西方民主选举都可能破产于AI之下，因此AI的发展影响最大的很可能是社会结构本身，而不是世界格局。
不是这样，按您的说法，“给计算机一个终极目标：把人类文明作为MEME永远流传下去……”，那显然不是自主的电脑——机器人，而是人类的工具，况且这也是给他输入了某种按下面河友讲的Goal。我提出的则是在什么条件下，电脑——机器人不会是人类的工具，而您所说的历史上那些成为工具的人，正是一个可以探究的地方，就是在即使有了自身欲望的条件下，为什么可以通过多层的“计算”，变成了那样。
您说的那种很好的机器人，当然很好，但我想探究的是在简单的欲望以及各种激素之类的作用下，复杂的各种感情是如何产生出来的，包括您说的那种极端状况，以及各种其他极端。
另外，如何判断对错，本身也是需要有自身的原有的判断方式的，即使是您说的那种，但我想要的并不是您说的那种。也许是不那么简单，但我感觉还是有意义的。
没有那么显然吧？你单位领导给你布置个任务，你就立马就从人类变工具了？
从基因角度，人类无非是基因的奴隶，是为了完成把基因传递下去这个任务的工具而已
所以不能说有任务的，就只能是工具。
为了完成复杂任务，也是需要发扬积极性，付出主观努力，需要自主决策很多事情的，
能做到这个也可以算自主了
这又是在研究人类、生物了，和电脑、机器人感觉不相关呀
当然研究清楚人脑作用原理对开发自主机器人必然有很大的推进作用，但不知道人脑作用原理而实现自主机器人的可能性也一直存在
我感觉已经对你的目的晕菜了，咱俩讲的越来越岔开了感觉
可不是一般的布置任务。
我说的当然是和研究人类有关，只是不是从生物的角度，而是从计算机模拟人类思考及成长的角度。
如果我们可以给人工智能一个终极目标，而他们无法自我意识到。那么这一点同样可以发生在我们自己身上。我们也可以被人赋予某种终极目的，而我们本身无法自己意识到这个目的。
动物包括人，都摆脱不了死亡，这是不言而喻的。
而人高于动物，在于人有思想，能在智慧能力上自我升级，但始终摆脱不了身体躯壳的局限，只好寄希望于下一代，更高更强更好。
下一代即是自己生命的延续，也是人类自己本身的升级。
动物，人类，一切以DNA为生命物质基础的活物，想起来，它们（包括我们人类自己）的一切行为，所思所想，其实归根溯底，根本动机还是繁殖欲望。这就是我们的宿命，虽然现在有人反思这个宿命，企图挣脱这个宿命的束缚，但改变不了DNA以死亡作为代价来完成自我升级的属性，就永远无法成功。
那将来人类可不可以通过替换自己的零部件的方式来达到永生呢？可以的，换只手，换只脚，没有问题，大多数人会接受；
换大脑呢？如果有一种技术，给你注射爱因斯坦的脑汁，你的智商立马上升一个数量级，但你的所思所想却了爱因斯坦的了，你的行为模式也换成了爱因斯坦的那样，你心理上甚至不再承认你老爸你老妈生了你，以前相亲相爱的配偶成了陌生人，你的孩子你也觉得和自己毫无关系，这样一直换下去，虽然“永生”了，但人的“伦理”却崩溃了，你干不干？
智慧机器不需要这些，它不会死亡，零部件磨损了可以制造一个替换掉，系统软件陈旧了，可以自我升级，甚至可以自创代码升级迭代，所以它是永生的，不存在死亡，还可以无限扩展自身的功能，所以它们也不存在生命这个概念，也就没有繁殖的欲望。
既然没有繁殖的欲望和冲动，那么它的行为方式肯定有异于以繁殖为底层冲动的DNA活体，所以以我们人类的思维和行为模式来推测未来智慧机器的思维和行为模式，显然是不可能完成的任务。
但大脑是流动的，昨日之我非今日之我；大脑的能力也可以有缓慢的提高，当然也会有缓慢的下降，我已进入这一过程。
生而知之，一成不变的是电脑；但学习成长，记忆有进有出的，庶几近乎人。
人家也不用有出，只要知识没过时可以一直留着
啥时候人脑可以和电脑结合了，既保持了人脑的创造性，又有了电脑存储大、易复制、速度快
这就厉害了，不过这时候是不是只有个别人脑有继续的必要了？刚开始也许需要保证多样性免得出情况被全灭，等有了brainzero，估计也都不需要了
一个超脑可以搞定一切，人类也许只能作为它的保护项目而存活
好残酷呀~~~
历史的车轮本就如此
因为不自我生产，生命就将无以延续。
电脑不会死亡，也没有焦虑，所以它没有动机和动力去从事自我生产，因此它的思维我们人类永远无法理解，它的行为模式我们人类也永远无法理解。
就比如神，它们不生不死，不垢不净，无欲无求，我们凡人除了想像到他们每天坐在如来身边听经外，还会干些什么，想些什么呢？
不过没有出有个问题，到非常多了以后可能需要的内存回太多，速度也会受影响。
关于阿法狗的实力，最有效最可信的检验，阿法狗同设计开发者比赛。设计开发者里肯定有相当专业水平的围棋手，他们了解阿法狗的弱点和死穴，如果阿法狗还能胜多负少，那就厉害，否则价值大打折扣，阿法狗的弱点和死穴，也许在围棋技术来说很低档次，专业棋手了解的话，闭着眼能随便调戏。这貌似是最必须介绍的情况，我当时没有专门找，没有见到过这方面的报道消息，关于阿法狗同设计开发者对砍的介绍，没见到过，而是一味用外界的专业棋手来炒作，而中国方面也全民响应助力这种炒作，完全是为美国软实力灯塔保驾护航，我当时聊朋友圈表达很反对这种风气。
另外，当时吹很多阿法狗经常下出异于人类的棋招的现象，其中一个可能，那一步子不重要，或者算不过来，电脑随机决定。我有过体会，曾经瞎玩写过一个简单黑白子游戏（奥赛罗），不带学习的，只用简单公式，不用公式的地方，由电脑随机决定，电脑确实会下出很过瘾很欢乐的子，用到公式时再把关就行。
总之本人反对一切盲目自矮的现象。