主题：【原创】从《I, Robot》的话题谈俺对机器生命的认识 -- 你克我服

当人戴上眼镜的时候，就已经难以区分人和机器了。

所以机器将来是否具备智能并不重要，人会向机器靠拢的。

2/3万亿代的细菌繁衍的产物只有细菌？

我看你所谓的“科学书籍”是白看了......嘿嘿

繁衍的代越多，产生变异的机会也就越多，才有可能进入自然选择的优胜劣汰。

计算机生命只要具有高速繁殖、以一定概率出现复制变异，就一样具备上述机会。

既然老贴又被翻出来，偶也来凑一把热闹。

<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<<

机器与生物一样都是通过进化从低级向高级发展。在发展的过程中大致有四个阶段。

第零阶段，无机物状态。在这个状态无论是生物或是机器都不存在，只存在无机物，无机物没有本能或者天赋，更不具有智能。它们只含有“性质”，性质能够描述他们的特征，比如导电，热状态，膨胀，液体等等，是对其自身信息的表述。

第一阶段，有机物状态。在这个状态他们开始拥有一种叫做本能或者是天赋的东西，本能可以对已知的外界刺激或者是已知信息作出反应，这种特征在他们出生或者信息代码被执行时就已存在，本能存在的理由就在于生物体的基因或者是程序的源码中就已经预定了哪些刺激或消息是可以被接受的。它们对大部分的未知信息无法作出适当的判断，或者说无法判断，因为某种消息或者外界刺激是否已知或者能够被推断无法判定，譬如生物在对陌生环境的适应程度，程序在被0除时无法判定。

第二阶段，智能有机物状态。在此状态机器或者是程序能和高等生物一样，开始能对未知信息进行分析判断。智能生物能够进行有限的预测，并且具有自我意识开始思维，思维的本质是判断加上预测。智能化机器能够依靠一定的外来信息作出判断，进而可能学会提升自己的判断能力。此时的机器或者程序进化已经严重依赖于外界的环境，外界环境能够使其自身的基因产生变异，当外界环境与自身的判断冲突时，他们可能学会修改自身的源代码来达到完善自身的目的，不够完善的将会不适应环境进而被淘汰，终止执行或者停止进化，一直保留在原状态，而这个过程本身也是进化得来的。要注意的是，此时的生物和机器已具有性质，本能和智能三种。在他们身上的本能应该残留有原先的祖先的痕迹。换句话说，本能无法完全被完善，总存在一些缺陷，或者是基因的缺陷或者是代码的错误，这符合系统理论中的不可完善性。进化的最终结果是不可预知的。

第三阶段，高智能有机物状态。此时的机器和生物的智能高度的发展，生物有能力对未来进行高度的预测和想象，并且使自身依照这个思路进行进化。高智能的机器“人”将出现，它们可能具有完全等同于人的智商和情感，创造属于自己的文化和群体。但是一个完全清楚自己代码的机器是什么样的呢？

生物有生来病死，机器或者程序同样可以，他们用自己的方式创造下一代，比如通过复制产生一段新的代码。当机器老化或程序执行完毕后，它们同样会消亡，这个过程目前未知。

而是适者生存。每秒钟几万次又如何，细菌一样永远是细菌。连个衡量智能的评估函数都定不出来，还进化。如果演化算法能解决一切问题，J.H.Holland早就拿图灵奖了。人工生命又岂是一个自然选择就能创造出来的？里面的问题多了去了。做认知的，做决策的，做学习的。成吨的论文堆在那里。都像你这样信口开河，自以为是。科学家干脆都去卖红薯的了。

看懂了我的首贴再来扯你的什么演化算法吧，我的思路里哪里需要评价函数了？跟Holland有啥关系阿？

就一个自我复制、可变异的东西，在有限资源下竞争繁衍，若干时间后衍生出什么东西，你自以为明白的话、倒是分析分析？

首先，你的问题空间是稀疏问题空间，也就是说，并不是所有的随机组合都能构成有意义的逻辑。换个通俗的说法，一个有意义的序列，在发生任意一个孤立的变异之后，将变得没有意义。也就是你通常遇到的文件损坏，无法运行。所以能够繁殖下去的变异必须是从一个有意义的序列跳跃到另一个有意义的序列。我们定义两个序列之间的差异为"距离"，并假设最近的两个有意义序列的距离为10。也就是说一段有意义的代码和另外一段有意义的代码有10个不同的字节。

其次，我们假设你的变异概率为千分之一。也就是平均每拷贝1000个字节，出错一个字节。（按这种变异几率，你根本没办法拷贝任何文件了）。

最后，我们假设从最初的序列代码到最终的超级智能代码之间间隔是100步。（也就是说你最初的序列代码和最终的序列代码的差距只是1000个字节，这根本是不可能的）

这样我们可以得知：

每次复制从一个代码变异到另一段代码的可能性小于1000^10分之一。

你能顺利走完这100个代码序列达到终点的可能性小于(1000^10)^100=10^3000分之一。

假设你的计算机每秒复制1万亿次，也就是10^12.

假设从宇宙大爆炸起就开始运算，到现在可以复制5×10^17×10^12<10^30次。

因此，通俗的说，你的这种担心，大概是发生10^2970次宇宙大爆炸之后才可能发生。

你会发现问题实际上出在编码上。单个编码信息量太低，需要提高单个编码的信息量。换句话说，让你的空间变得不是那么稀疏，才能大大提高变异遗传的效率。这句话，说出来容易，做起来难。针对通用智能的编码，现在也没有任何可以实质性入手的地方。这也是为什么，目前对人工智能的研究都是在功能性层面。

再次回到你的所谓有限资源竞争。演化的结果是适者生存，而不是优胜劣汰。也就是最合适环境的才有可能生存。地球如果发生巨变，最有可能生存下来的是那些低等生物。有限的资源并不能约束出优秀的结果，而是那种只需要很少资源就能完成基本繁殖和生存需要的结果。火星的资源够有限吧，可那个地方最多也就是可能有些细菌存在。因此，你必须以一个评估函数来评估变异，而不是仅仅依赖有限的资源。可是，就像我们说的，目前你根本定不出这个函数。

再次，郑重推荐How Brains Think：Evolving Intelligence一书。

你说

这也是胡扯，看看你自己在另一个帖子里给别人纠正的：

http://www.ccthere.com/alist/1031267

觉得你对什么都是似懂非懂，刚刚还知道中性突变不影响繁衍、存在不严重损害繁衍的哑基因，转头就改说变异必须是有意义到有意义之间的跳跃....你不觉得你这样自相矛盾的讨论方式很可笑么？

不知道你的这个距离为10是怎么定义出来的。

一个程序，改一个字节变为另一个有意义的程序对你来说遥不可及？

你没学过编程序吧？.......要连这个都做不到，劝你还是别奢谈什么程序了.

编译好的二进制代码里，改一个字节变成几百个不同的仍旧可正常执行的程序都是很普通的事儿，比如复制模块吧、原本复制一份的逻辑、由于“变异”、子代变成了复制五份、十份、一百份，是不是改一个字节仍旧可执行？子代是不是更有传播优势？

照你的想法，眼睛这种复杂的器官，在进化里面也就不可能产生了，对吧？

对我来说，自然选择的优胜劣汰就是适者生存，有什么区别么？你主张的区别，在我看来只是文字游戏——进化没有优劣之分，只有变异。但适者生存其实说的是同一码事儿——什么是适者？生存下来的才是适者，不适的，已经被淘汰掉了......所以适者生存实际上一样是个鸡生蛋蛋生鸡的逻辑，并非“适者”才能生存，而是生存下来的才是适者，这话又有什么意义？文字游戏就免了吧，你我都知道在这个系统里是自然选择在起作用就行了。

细菌的意义是你低估的另外一个问题所在，内共生理论就把细菌当作了进化出线粒体的形成关键。按这种思路，没有细菌，也就没有你了。现代学术界对细菌进化的复制，也证明了几万代进化、细菌就有可能表现出有趣的新特性；

你的评估函数思路的确行不通，你也知道；

我不用什么评估函数的原因也正在于此，让自然自己去“筛选”谁是适者，最省事；程序这种生命，自生自灭就行。

你的人工智能观，始终停留在符号AI的“受控”层面上，等你真正能摆脱了“有意义的进化”这种窠臼，才能明白我主张的不受控进化的意义。

你的文章说的是文件拷贝中的随机错误，和自然基因完全没有可比之处。二进制文件单个字节最多对应到基因中的某原子。那种变化不是突变，而是破坏。你这种丰富的想象力，除了用来聊天吹牛，没有任何价值。

适者生存和优胜劣汰是完全不同的东西。所谓的“优”和“劣”是人类主观认识，而“适”和“不适”则是客观检验，是会发生变化的。今天的环境，我们可以说人类是“适”的。但是，如果环境发生巨变，变得如同北极，或者火星一样的环境，那么人类就是“不适”的。而什么“优”，“劣”，抱歉，我无法断定人类和细菌哪个跟“优”，哪个更“劣”。但我确切地知道，用计算机生成一堆只知道复制自己的垃圾代码是“劣”的。低层次的竞争，过于简单的人工环境，根本无法和自然界相提并论。也就是制造出一堆无用的垃圾代码。这样的代码，既不可能“统治”世界，也不可能控制人类。

而你的所谓什么“不受控”的创造性的“非符号”的人工智能进化，如果你真的严肃地认为他的意义非凡，请给正规科学刊物投稿。只要你的文章条理清楚，论据确凿，数据合理，我相信同行一定会给你一个公正的评价。

不知煮酒是否知道信奉旧约的犹太人是如何理解以赛亚书里的预言的？

"现代圣经考古学（属于科学范畴，使用的也是科学手段）已经证明，旧约中的以赛亚书部份写成于元前2世纪之前。"

有没有证明"那些所谓的预言和细节描述" ?

大腦如何思考 / 卡爾文著 ; 黃敏偉, 陳雅茜譯.

台北市 : 天下文化出版股份有限公司, 1997.科學大師系列

ISBN:957621419X.

刚刚查到，上海科技出版社2007年有出版简体中文版，杨雄里和梁培基编译，名字是一样的。

我没看过中文版，不知道翻译的如何。不过以翻译者的实力来看，应该问题不大。杨雄里是神经科学方面的权威，也是中科院院士。

zhonghm 的"有意义的逻辑"与你的“有意义的进化”不是一回事. 就象“优胜劣汰”"适者生存"你们各有理解.

问一个问题， 如果一个生命体可以没有智能，那么一个智慧体必须具有生命吗？

老兄看来连字节（byte）和位（bit）都分不太清，跟你谈程序可能要求过高了。

二进制文件中bit才是程序的基因中的原子，根本不是什么字节单位。

经常出这类硬伤，除了蒙蒙完全不懂的人，老兄的本事也就如此了吧......

正如自然界突变的一大部分也是破坏一样，程序的复制变异对自身产生了破坏、导致子代无法继续繁衍或繁衍上的劣势，这与自然界有啥区别？只不过自然界进行选择的是我们熟悉的环境、而对程序进行筛选的是内存、CPU资源、OS等我们给它的环境罢了。

“文件拷贝中的随机错误”？

这种随机“错误”带来的如果是程序无法执行，自然不会有下一代，对吧？有OS和系统环境给它淘汰，你又何必操心？正如人类生个孩子没有生殖系统、这个孩子自然不会把这种错误的突变传递下去，有什么新鲜的么？

而如果这种随机“错误”并没有妨碍程序的执行，又何来“错误”一说？你一方面口口声声“没有优劣之分”，一边就自相矛盾地把突变定义为“错误”去了，不是么？

你这就叫文字游戏。

谁告诉你优劣是指主观判定了？

按照你的定义，把已经胜而存留的定义为优、被淘汰的定义为劣，一样的事儿。照样是“客观检验”......

就好比问你人和细菌哪个适、哪个不适，你怎么回答？

当然是说“人和细菌都是存留下来的，因此都是适者”，优胜劣汰一样的回答你——“人和细菌都是胜者，灭绝消失了的才是劣的呢”。

啥叫复杂的自然界？

观察细菌经几万代进化出代谢柠檬酸的能力，都可以具有非凡的意义，只知道复制自己的代码会变成什么样子又岂是你能预见的？

你嘴里说着没有优劣，实际上却没法用这个准则去思考。

何况，你看不上细菌的进化，但又怎么能断定程序的进化必定走向细菌方式呢？

我觉得这要看你如何定义“智慧体”

究竟是指人类智慧，还是指人工智慧。

人类智慧的形成，当然是自然演化的结果，但不是自然演化的必然结果。也就是说在大多数自然环境下，智慧体不一定会被演化出来，或者说一定不会被演化出来。其次，在人类的智能当中，先天因素和后天因素同样重要。基因只是提供了一个可以充当思考工具的大脑。而这个大脑则要通过不断的学习和训练才能真正成为一个思考的工具。而不是由屁股决定脑袋。

人工智慧，目前大部分还是处于功能性研究的状态。也就是说，针对某些特殊的用途，譬如多媒体的自动识别，分类；自然语言理解；决策支持系统。你们所谈的人工智慧，比较接近的应该是最近很热门的一个分支“intelligent agent”。Intelligent agent的经典推理模型是BDI模型，也就是Belief,Desire,和Intention. 其中，你可以将Belief理解成Agent的知识库，也就是对现实世界和自身的认知。Desire是Agent的目标，也就是他的目的。换句话说，科幻迷们常说的阿西莫夫三原则可以用来充当Agent的Desire（这里只是为了方便大家理解。实际上，没有人用这个三原则在实际的Agent上面）。Intention就是Agent要执行的指令，也就是它根据他的知识（Belief)，为了达到目标(Desire)而进行推理得出的计划（Plan）的当前指令。这样一个Agent，因为他有自己的目标，独立进行推理，自主管理，并且通常有一定的学习能力来修正它的知识库。因此，从感官上来看，似乎有一定的人类智力的感觉。机器人足球赛的机器人，很多都是使用BDI体系控制的。但是即使是这样的智能，也是和生物智能完全不一样的。

至于演化，人工智能里面的分支叫做演化算法（Evolutionary algorithm)。其中最常见的是遗传算法(Genetic Algorithm)。他通过将解决方案代码化，并使用随机的变异，Crossover，和评估选择来模拟自然界的演化过程。这种方法是John H. Holland在1970年代早期提出的。基本上属于随机搜索的一个变种。编码方式和评估函数是GA应用的一个很大的问题。也就是说，不是所有的问题都能找到恰当的编码方式和评估函数。另外说一句，Holland本人现在是在圣塔菲研究所研究复杂性问题，而复杂性则正是自然环境和人工环境的最大区别。他写过几本很有意思的书

Hidden Order: How Adaptation Builds Complexity

Emergence: From Chaos to Order

这两本应该在国内都有中文版。国内中科院的数学与系统科学研究院的复杂系统研究中心也做相关方面的研究。该中心的副主任也在圣塔菲研究所工作过。人工生命，复杂性都是他们的研究课题。

无论是从机理上，还是效果上，人工智慧和人类智慧目前的差别还是巨大的。还有无数的实际的理论问题无法解决。人工智慧很多时候能够表现出一些出人意料的结果，但是总体来说，还是在人类控制范围之内。进化只是找出最合适环境的结果，而对于这个结果，智能并不是唯一的选择。在大多数情况下，智能甚至不可能是选择。所以说，进化不是包治百病的银弹。人类的诞生，偶然性多过必然性。

而“适”和“不适”才是客观标准

譬如说，我们都认为蟑螂是不好的（劣），但是，相对当前的演化进程来说，它是成功的。那么如果你们家爬满蟑螂，你会觉得舒服吗？

同样的，你的可以自我复制并且变异的程序，在没有合适的评估函数体系下，如果能够找到合适的编码方式，最大的可能就是产生蟑螂这样的东西。

至于编程能力，我从14岁起参加各类编程竞赛，基本上除了IOI，其他都参加过，从未空手而归过。质疑我的编程能力似乎有点可笑。