主题：【原创】围绕脑科学而发生的若干玄想 -- 鸿乾
就不知道他们用这个东西做什么实验了。不会还是Google的那个猫脸实验吧。且看他们做些什么。
不过，据这个报道，他们仅用了16个GPU加速的服务器，比去年Google的那个好很多了。进步很快。
但是，另一方面，这样大的服务器，耗能很大了，恐怕其计算能力还比不过昆虫的图像处理能力。这就是说明，还有很远的路要走。
中科院发布科技发展新态势与面向2020年战略报告：外链出处
就我感兴趣的做一些评论。
1. 他们把“人脑神经连接线路图有望绘出”作为未来10年的最重大科技发展，眼光是对的。不过，做Darpa已经悬赏要求人脑回路很多年以后，是后知后觉了。不知道中科院在这方面的投入有多少？是什么时候开始投入的？
2. 但是，10年内做出这样的进展，恐怕还是太乐观了一些。很多最基本的东西都没有搞清楚，几乎所有的工作，都还是在外面搞盲人摸象。10年估计不行。但是也难说，什么时候出突破，谁也不知道。唯一可以肯定的是，搞的人多了，某天就突破了。
3. 相对于其他的科技发展，脑回路的进展应该更特殊一些。以后的科研组，一定会有自己的脑回路计算单元，用来帮助这个组做科技思想，不仅是计算方程，计算统计数据，做数据搜索对比等等计算任务，而是真正帮助做科技思想。这样的科研组将力量多倍增长。而没有这样的能力的科研组将没有希望。中科院的报告没有对此有任何展望，颇遗憾。
4. 但是，他们提到了紧跟的几个方向，其中有“脑认知科学重大问题研究”，还是很明智的。不过，不知道他们安排的相应的组织机构如何？
"以后的科研组，一定会有自己的脑回路计算单元，用来帮助这个组做科技思想，不仅是计算方程，计算统计数据，做数据搜索对比等等计算任务，而是真正帮助做科技思想。这样的科研组将力量多倍增长。"
--------------------------------------------------------------
这个太可怕，对现在来说好像太遥远，这样的思想倍增器工具，也许是新领域的原子弹吧。第一个做出来的那肯定爽了，要是其他的没在窗口时间做出来，就悲剧了。
前些天刚看了一部科幻悬疑片， 《永无止境 \ Limitless》，是药物激发可能的脑潜能，另一个思路，恐怖！
首张人脑超清三维图谱问世：外链出处
他们能够用这些映像数据来恢复神经元的链接图像？恐怕全部是不行的，部分倒是可能，因为神经元的尺度已经大于他们做这些映像的尺度。不过，动态的东西，就无法了。他们应该无法复原神经元链接的各种权重。是吗？我也不敢确定。如果真能够通过映像复原至少部分权重，那将是非常重大的进展。
从这个报道看，这些研究人员的解释是：一种可能性是基本感觉处理在下层进行，如目视跟踪一个网球以协调运动，这需要建立连接；而与整个皮质层或经历有关的，或涉及到学习的信息处理过程，可能要在上层进行。比如，观察对手正要把球打向哪里，并计划在哪里反击等。
而且，他们可以就单个神经元的状况测定，很有意思。
我直觉的认为元学习机只能获得反射程度的智能。元学习机可以解决，人类底层的运动能力和某些本能，但是不可能获得智能。
要想获得智能，也许需要增加部分元，建立某种基于时间的体系。这样元学习机就可以针对过程进行学习和预测。过程不一定是video，它一定要包括当时元学习机的阶段成果。这里应该存在某种反馈机制，去线性或非线性的预测未来的阶段成果（灵感）。由于存在对未来算法的预测，元学习机的效率可以大大提高。这种效率的提高就可以体现为智能。
恐怕不能仅说反射，因为感受反应远超过反射。例如我们说到的蚊子，其感受反应是一个相当复杂的过程。可以说，如果要用现行的计算机语言来开发这个系统，是可以做到的，但是，恐怕没有很多万行程序，做不好。但是能耗就非常可观。蚊子的神经系统做这些事情，耗能是非常非常少。
对此初等生物，就是感受反应了，当然谈不上智能。但是，具备相同的底层原理的神经系统，到了哺乳动物那里，就上了一个层次，就具备了智能。并不是因为这些底层原理有什么不同，而应该是系统更大了。
基于这样的想法，我提出元学习机的概念。能够做好元学习机，就可以依靠同样的原理，来做更高级的事情，直至智能。这是基本想法。但是，目前元学习机还是处于非常非常初期的探索阶段。
教育探索（六）—大脑神经网络是如何形成的：链接出处
很遗憾，以前没有看到这个文章。
RT
我就不知道了。不过，我相信，这个广播的链接一定可以在网上找到。如果你找了，请告知。谢谢。
因为很多出差，几个国际长途，很久没有来这里谈了。最近有很多新的有趣而重要的进展。把这些新闻链接放在这里。
首先看一个很老的视频：
这个家伙是IBM的项目经理。他就是下面说的这个认知计算芯片的项目主管。这个视频很有趣。但是那是好几年前的事情了。现在，他们搞出了这个东西：
Neurosynaptic chips Building blocks for cognitive systems外链出处
这里是中文报道：美国IBM公司在芯片上进行认知计算仿真外链出处
还有一个类似的工作的报道，不过工作是在瑞士做的：脑神经形态芯片外链出处
这些都是从目前的计算走向非冯诺曼机的步子。步子有多大？还不得而知。但是的确是比较坚实的步子。可以说，新的计算轮廓已经隐隐可以感受到了。我们这里谈到的“元学习机”，正是这个方向的。顺便说一下，我们的元学习机也有很好的进展。
还有一个很有趣的新闻：Neuroscientists plant false memories in the brain外链出处
这就是实实在在的“洗脑术”了。脑这个东西正在被逐渐揭开，从多个方面。因而其神秘性正在被消失。
科学家发现大脑海马体绘图抄写“一心二用”外链出处
这个很有趣，很可能是摸到了神经元链接和存储信息的某个重要方面。以前的猜测，即某些记忆是连在一起记忆的，而不是分别记忆的。现在对这个猜测有了很明确的证据。不过，怎么更深入理解这些东西，就是另外一回事。
去年在哥伦比亚大学的辩论：
很有趣。很多有用的信息在里面。
可以参考：承现峻的TED视频，I am my connectome：
这个视频很流行。
Anthony Movshon的视频：
也非常有趣。
1.
"Stanford在sentiment analysis上貌似做出了突破性的工作，用RNN训练的模型精度达到了85%，号称搞定了情感分析（nailed sentiment analysis），新闻报道见 http://t.cn/zRAKhcy 而且他们将要公布源代码 http://t.cn/z8xuao1 看来深度学习在自然语言处理领域的春天要到来了！ "
"现在一般用矩阵当算子来做向量的composition吧？Richard Socher,Chris Manning发了一批利用word vector composition做NLP的文章，包括上次看到的情感分析那一篇，没记错的话。以前还看过向量加、乘、外积的composition方法，看来路子不少。词向量有了，组合方法也有了。好顶赞"
http://gigaom.com/2013/10/03/stanford-researchers-to-open-source-model-they-say-has-nailed-sentiment-analysis/
天津大学可视化小组：近日，斯担福大学的研究生Richard Socher和Andrew Ng（Google深度学习项目工程师），和一位语言学及人工智能领域的专家Chris Manning，共同开发了一个深度学习算法Neural Analysis of Sentiment，缩写为NaSent。NaSent算法从人脑中得到灵感，改善了分析方法，准确率达到了85%。
NaSent情感分析项目由斯坦福大学的研究生 Richard Socher 发起，合作者包括人工智能研究员 Chris Manning，以及 Google 深度学习项目的工程师之一 Andrew Ng。 准确率是 85%。建立了一个实时演示的网站。如果 NaSent 的判断错误，人们可以对其判断进行重新标记-http://t.cn/z86HYSl
“人们很好心地教它新东西，告诉它正确与错误，”Socher 说，“给出实时演示的好处是，人们试图去破坏它。他们在把它推向极限，给予我们新的训练数据。这会帮助我们的算法模型。”
the "code" part of the model is all open to public as well
2.
the core of stanford's model
“You’ll never care about translating a single word to another single word,” he said. ”We’re actually able to put whole sentences and longer phrases into vector spaces without ignoring the order of the words.”
3.
thanks for your "quote", see some similarities between Stanford model & human brain?
科学家发现大脑海马体绘图抄写“一心二用”
来源：中国科技网-科技日报作者：常丽君2013年11月30日 01:20
[导读] 最近,一个由美国宾夕法尼亚大学和德国弗莱堡大学神经科学家组成的研究小组,通过让志愿者玩一种“送货”游戏后发现,神经元能编码空间信息,给一段特定记忆标注“地理标记”,并能在这段记忆被回想前立即激活。
科技日报讯（记者常丽君）据物理学家组织网11月29日(北京时间)报道，最近，一个由美国宾夕法尼亚大学和德国弗莱堡大学神经科学家组成的研究小组，通过让志愿者玩一种“送货”游戏后发现，神经元能编码空间信息，给一段特定记忆标注“地理标记”，并能在这段记忆被回想前立即激活。相关论文发表在最近出版的《科学》杂志上。
该研究显示了空间信息是怎样被纳入记忆的，以及人们在回想一次经历时，为何还会迅速想起曾在同一地点发生过的其他事情。宾夕法尼亚文理学院心理学教授迈克尔·卡哈纳说：“有种观点认为，人类记忆系统会用记忆形成时的地点、时间来给记忆做‘标记’，而回忆涉及到还原这些‘标记’。我们的发现为此提供了首个直接的神经证据。”
参与实验的志愿者是颅内植入电极的癫痫病人，玩游戏时，电极能捕获他们的脑电活动。研究人员先让他们学习城市布局和各商店位置。游戏开始时，他们只被告知下一站要到哪里，而不知道送的是什么货，到达目的地后才会知道，然后再到下一站。这样送了13次货以后，屏幕变成空白，让他们尽可能多地回忆他们刚才到哪里送了哪些货。这样，研究人员就把神经活动与空间记忆形成（商店位置）、情节回忆（递送的货物清单）联系在一起。
在辨别方向过程中，海马体及其附近脑区的神经元通常会表征志愿者在城市里的虚拟位置，就像一种大脑的GPS设备。这些所谓的“地点细胞”可能是神经元编码一个抽象识别物的最典型样本。利用志愿者辨别方向时的脑电记录，研究人员开发出一份与城市布局相符的神经地图，并参考志愿者在回想送货情节记忆时的空间记忆后发现，在志愿者想到一个某地所送的货名后，与该地点有关的地点神经元立即被激活。
“我们正在观察地点细胞激活在回忆过程中的作用。我们发现，自发回忆一段记忆会激活它的神经‘地标’，这表明海马体的空间记忆与情节记忆密切相关，或许反映了它可能是一个公共功能结构。”卡哈纳说。
总编辑圈点
大脑的海马体就像是计算机的内存，早在上世纪初，就开始有科学家认识到海马体对于某些记忆学习的基本作用。而现在神经学研究认为，海马体其实演绎着双面的角色：一位是“绘图员”，负责跟踪空间记忆的位置信息；另一位是“抄写员”，负责记录情节记忆的事件。本次的实验则提供了进一步证据，证明海马体这两个功能是交织在一起的
本篇文章来源于: 中国科技网 www.wokeji.com
原文链接：http://www.stdaily.com/qyts/1_qykj/201311/t20131130_594669.shtml
4.
vector spaces etc, math (including physics) is becoming "social science" now
I have posted quite bit on 微分几何 etc, about the importance of 公理化 methodology of modern 物理 & math, & its applications in AI etc;
human brain's algos, 公理化 methodology of modern 物理 & math, logic of market place & other social organizations & human processes, etc, they will be all eventually "programmed" out, and thrown in your face, making it looks like 1+1=2, then it becomes 公理 on internet
5.
the immediate app is in the area of human communications:
how much time we have wasted in understanding each other first, then communicating to each other?
an example:
"I" don't care you are 公知 or 五毛, just tell me your position, so I can trade with you;
of course, very often, on a particular subject, we don't even know if we are 公知 or 五毛, or a mixed;
6.
a "公知五毛" AI app
1)
will help you read through "BS" in front of you, such as my this post, so you can filter through "BS" faster , knowing what it really talks about, then form your own comments, as 公知, 五毛, or both, etc ;
2)
"I" will then understand you a lot of better & faster with help of my similar "AI" in the cloud as well
3)
then we can do business together, after an short, "hot abusive insulting", brief "思想交锋" & wrap it up in an hour, instead of 1 day, for example, then move on, “求同存异”, move on to money-making business transactions, or say good by to a just gossip type of conversations of political entertainment, etc
7.
quantum jump in society's 劳动生产率
for almost of us, we live and work as some kind of "social scientists", whatever our profession may be, on the job, or as a consumer, voter, or as 老百姓心中有杆秤 in china.
8.
society's 劳动生产率 bottle neck is not really in physics/math or even in "manufacturing" area, it is in those "social science" area, where the "思想交锋 AI"breakthrough will be happening, leveraging on modern physics/math powered AI modeling & technology
bottom line: if we can't wipe out physically each other via the conventional "hot" war, then we have to “求同存异”, do business together, then we may just do the “求同存异” part faster, more efficiently & effectively;
now, as I have posted zillions times in the past, where will china be in this comming AI economy of
global capitalism's "upgraded phase"?
9.
do Chinese top science institutions such as CAS and top political institutions such as Mr. X and his red generations II buddy group even have a clue about all these potentially "non-linear" jump/changes of human capitalism, & their potential earth shaking implications?
for an example, how should TG prepare for an possibly "AI 茉莉花 revolution"? omg, let's give these researcher guys some research funds, 以防万一, never say never?(:)
10.
打战做生意要做的长久，料敌从宽是必须的 [ 山海马甲 ]
电脑病毒都有潜伏期，电脑木马、后门是否发作要看条件 [ 山海马甲 ]
电脑木马、后门要是没有激活条件，永远都不发作也是可能的。黑盒测试时无法涵盖这部分风险的，只有白盒测试才行。
基因后门同样也是这个道理，不是海南试种几代就可以的。 老兄是没接触什么安全工作吧？ 即时是中国人自己搞的，关键的事情也要有几个机构互相牵制，多个渠道和互相验证。这个道理古代帝王早就实施了。死生之道，自古以来都是慎之又慎的。
俺是搞软件的，计算机安全接触的也较多。 可以负责任的说，因为现有的基础硬件和软件目前还掌握在老美手里，我们在网上的每一个举动，老美只要想知道，就基本可以知道。 民用所有的加密、密码等措施，最多就是企业级、民用级的，对于美国国家层面的窃密，基本上就是裸奔的。 NSA如果预算足够，他很多时候比我们自己都知道自己。从基层的访问记录、发言记录、个人成长记录等，经过一定的统计分析和心理解析，就可以推断一个人的大致行为方式和思想去向。有时我们还没有开始判断，其就可以将我们对某事的判断预测的八九不离十了
obviously, a nation of 单色平面波 can hardly 料敌从宽;
obviously, 料敌从宽 with a 宽谱 mind has to be a national culture, 从小抓起, very likely a long "linear" process for a population or a nation, you have to kick the ass, bite your teeth, change mentality to get it started, then keep the momentum, can this ever happen to the Chinese society? if not, what is alternative? is there an alternative? simple logic stuff, but seems still very challenging to a country of 1.3B people of 5 k years of "风雨交加"?
11.
I do feel Chairman X is serouly lacking in his vision, aptitude, knowledge, ability & capacity in learning & understanding modern "war" of science, technology, including AI, IT, bio, life science, and of course, finance, capital market etc;
I also feel CAS (Chinese academy of science) have similar challenges they are facing
obviously, "mainland" china will be ok, regardless of whatever modern "war", in terms of keeping a reasonable economic growth rate (but TG does have to figure first how to unwind this Chinese red Ponzi game of world #1 size, then go from there), and as a result, X dynasty >10 years, but that is the so-called "ok", likely with not much variance on either direction.
10.
大国重器 (a very good series here in this forum, very informative), 识别区, etc stuff, of course, china should do and play those stuff, but as a country, or even a person in todays world, you are supposed to be able play multitasking game.
vs china's 单色平面波 mind as a nation:
重商主义, or 重器主义, but you have to do both, and you have to do at least three, with 重智主义 as well, play three or more balls in the air, or you are likely not a first class player;
and if you don't even have that concept or model in your mind, then regardless of your age, you will be always behind the curve, very likely
of course, if you don't care, nobody would care.