主题：【原创】围绕脑科学而发生的若干玄想 -- 鸿乾

首先推荐这个视频，The Next Generation of Neural Networks：外链出处

这是这个领域的影响最大的家伙在影响最大的公司的讲课，值得仔细看。这也是这个时代的学习的一个典型例子。倒退15年，除非你人在那个公司或者学校，是没有办法听这样的讲课的。借助现代工具，可以了。这是远程学习的开端，仅仅是开端，以后的远程学习的发展将远超于此。

杰夫韩顿在其中说得很好，目前我们不知道脑里面究竟在做什么，我们是根据从外面了解到的情况来推断，并且做一些工程上的事情来模拟。真正需要两方面的工作，一方面是从工程上根据了解到的外部情况来模拟，一方面是科学上仔细了解脑里面在做什么，然后指导工程上的工作。正是秉持这种理念，韩顿的确进了一大步。他的深度学习已经成了当今的显学。大家可以看他讲课中的那几个视频，很有趣，看了应该对这个新一代的神经网络有清晰的了解。据说他现在去谷歌专门做这个去了。是否有人了解他究竟去干什么？这个信息应该有趣。

这就要说到我这次玄想的主题了，元学习机。元学习机，就是最基本的学习的单元，或者说是最小的具备学习的单元，而且可以用这些单元来搭建更大更高级的学习机。有没有这种东西，我不知道。我也不知道在现有的文献中是否有人已经提出乃至建立了这样的东西。因此这里请教大家，如果能提供索引和链接，找出文献中和这种东西相关的，不胜感谢。但是，我相信这个东西是比较重要的，也恐怕是可以做出来的。所以加以幻想。如果真是有这样的东西，或者说，能够建立这样的硬件和软件产品，那么，就有可能开辟新的计算路线，而不再仅是用冯诺曼机了。

还是遵循那种思路，先来从外部观察脑活动，以获取支持的信息。基本的想法是，神经组织接受到外来信号后，必然要做信息处理和学习。不但人脑内部如此，就是更低级的生物，例如蚊子，更甚至于植物，都如此。我们再来看一下，简单生物，例如苍蝇蚊子，是怎么对这种信号输入做处理的。下面是网上找到的一段：

通过这样的描述，我们可以理解，蚊子身体中应该有这样的感受器和处理器，即感受到不同的浓度，然后提交处理器处理，而处理器可以做出准确的判断，只有在浓度的变动幅度和人体呼吸类似的时候，蚊子才会判断有人了，要过去吸血。

据说蚊子苍蝇的神经系统中神经元不过几万到10万，而其中用来做气味感受和反应的，恐怕就更少了，大多少恐怕还是做飞行控制的吧。但是，这么些神经元，就可以做如上所说的那些相当精细的感受和反应。现代计算机的计算功能远超，是否有软件能够做如此精细的判断和控制？

因此，做下面的这些推想，就比较合理了。

最简单的外来信号是什么呢？我想，就是两个标量。这两个标量可以是同时输入，但是由不同的感受部位感受的，例如视觉和听觉，也可以是不同时间输入，例如蚊子前一时间感受到一个浓度，下一时间感受到另一个浓度，总之是两个标量输入。我猜想，恐怕没有比这种信号输入更简单的输入了。而且，其他的任何信号输入，都可以分解成若干组两个标量的输入。目前我对这个分解并无证明，也没有心思去做，这就是搞着玩而非专业的局限。但是从感觉上看，应该没有大问题。

这两个标量，输入到蚊子的最初级的处理器，那么怎么处理呢？当然应该是分别两个标量的大小了。说到这里，恐怕有人要说，这简单，做减法就可以了。但是且慢。我们知道，单个的神经元是不能做减法的。好像没有生物物理或者生物化学的机制让神经元做减法。但是，一群神经元，应该是可以做减法的，否则无法解释蚊子能够做的信息处理。那么，什么样的一群神经元，通过什么样的方式集合和联结起来，然后通过生物物理或者生物化学的机制，就可以很有效做这个减法？而且，做了减法后，可以记住若干重要的量，例如两个量的差，等等。

这个问题，就是元学习机的问题。这样的一群神经元，就是元学习机。我猜想，这样的元学习机，通过叠加，就可以组建成很强大的计算能力，以及学习能力。

最后，举一个生物界的强大的计算能力的例子。我们知道蝙蝠用声纳来抓蚊子吃。但是，空中除了有蚊子外，还有各种悬浮的东西，例如各种小的碎片。蝙蝠完全可以区分。说起来比较惊人，蝙蝠是通过多普勒效应来区分的，因为蚊子要扇翅，就可以产生超声的多普勒，蝙蝠就可以区分。那么蝙蝠的神经元有多少？有数据说，大概是5x10^7个（人脑有10^11个）。这么一些神经元，就可以做如此精密的计算。我估计现有的超级计算机和最好的软件，也未必能够做这样精细和迅速的计算。我们没有能力做一台超声多普勒雷达来探测蚊子，大型的都不行，还不要说微型的了。