主题：【原创】机器学习的基础是什么？(0) -- 看树的老鼠
家园 自然界中智能到处存在 虽然许多都是在人的眼中很”低级“的，比如植物会为了得到阳光曲曲折折长出的茎叶绕过阴影，根茎会为了与邻近的植物争夺土壤中的养分互相环绕限制对方，其他从发出气息到开出不同颜色形状的花等等，这其中许多是植物对环境，竞争需要，气候等综合反映的结果，很少可以用单一因素去解释的了。
这也许是很简单的植物分子化学动力的结果，同样是长期进化的结果。
家园 10多年前我在自然语言识别这个领域 做知识库,自然语言识别,机器学习.做了几年之后对这个领域也算有点了解,没有之前那种神秘感了,最核心的模型架构思路基本还是美国在七八十年代搞得那些东西,主要的进步都是计算机技术的进步,大大提高了数据处理能力所带来的.
不知道这些年在机器学习的数学理论方面,有没有出现革命性的突破.
家园 没有革命性的进步，这个问题十分确定 机器学习的所有分支都是解决同一个简单的数学问题：在N维线性空间中用已知数据估计一个N-1维超曲面，使得这个曲面把所有的已知和未知数据分成性质不同的两份。如果只求分开不管定量就叫classification（不知中文叫什么，分类？），如果分开程度要定量就叫regression（回归）。
不管什么svm，神经网络，任何方法，都是输入N个值（N维空间），输出一个值（离分界线的距离）。这个模型体系下，所有算法都没区别，都是画一条线，线的两边非黑即白。
家园 正解! 我现在已经彻底改行了,都忘得差不多了.
所有的方法,其实都是依赖的都是计算机强大的数据处理能力,人工智能没有智能.
- 复 正解!
家园 难道人脑不是用大量神经回路的数据处理能力作同样的事吗？ 智能也不过是大数据处理层次上的抽象逻辑。抽象逻辑可以用数学表达，但抽掉了背后的大数据处理，把所有事物都逻辑模式化难免是在建空中楼阁。先有一个可重复由多个输入到达一个输出的大数据处理能力，再往上建抽象思维，才是正途。人工智能好歹是在把几十亿年的感应<->反应进化，压缩到几十年完成。
通宝推：老黑熊,家园 前者就是设计论，后者就是学习 就像我们教小孩子1+1=2，他们学懂了之后遇到1+2就知道等于3，至于他们脑子里是如何解决的，我们不知道。
但是如果设计一个电路板回路，可以做1+1=2，1+2=3，甚至1+N，这个电路板就是这个“空中楼阁”,是不需要学习来获得这个能力的。
人工智能就是在试图做这样一块电路板，但是不同的是，这个电路板可以可以类似小孩子一样，通过学习1＋1=2，可以自己得出1+2=3。
因此任何试图把这个有学习能力的“电路板”做成有利于解决1＋1.。1+N问题的电路板，实际就是走了捷径，并没有实现智能。因为我们都知道那前一个电路板回路只是一个只能解决所设计目的的问题，开个平方根就不会解决了。而人的智能是可以通过不断学习在同一块“电路板”上解决不同问题的。
现在的人工智能并没有解决这个智能电路板的原理问题，但是已经找到针对某些比较复杂问题的电路板设计，可以通过学习得到比如语音识别，图像识别的能力，好的电路板甚至对学习所系数据量的要求都很少。但是在这个基础上实现抽象思维能力还很遥远。
其实人工智能不需要抽象思维，只要可以实现对知识的管理，能够联想，想像，也就是常言说的理解能力，不管它实际上理解的是个啥，只要吐出来的人可以明白，就可以实现相当惊人的决策能力，比如IBM的Watson目前还不能做到这一点，谷歌孜孜以倦的也是搜索中的这个能力，所谓个人助手，“私人秘书”等。
但是这种能力显然比语音识别那种单一的功能要复杂的多，像Watson那样只是通过对庞大数据的输入管理显然也不能满足，要求的是广大事物的理解与融合，至少是日常事物的达到常人水平的理解，比如我说1＋1它告诉2，但是我说2个苹果加三个香蕉共有几个水果，它也可以回答。它可以不知道流体力学，但是它至少了解液体的形状是由容器决定的，而且这些常识不象Watson那样是通过死记硬背“学习”了大量的知识后了解的，应该相当一大部分是在了解基本原理事实的基础上自己推理得出的，这才是智能的主要特征。
通宝推：海碗,家园 如果知道什么是通用的理解能力就好了 家园 是不是在这个采访中Hofstadter解释的 http://www.popularmechanics.com/technology/engineering/news/why-watson-and-siri-are-not-real-ai-16477207
似乎是智力测验中比较经典的那类问题，前提是你的机器学习没有针对这类问题使用算法，以及针对此类问题专门学习。
For example, I could ask you the question, if the letter string ABC changed to ABD, how could the string PPQQRR have the same thing happen to it? Well you could say that PPQQRR would also change to ABD. Now that's the dumbest answer but it's defensible. You could be less rigid—but still somewhat rigid—and say, it changes to PPQQRD, where the last letter changes to a D. But even more sophisticated is to notice that PPQQRR is just like the 3 letters of the alphabet ABC, but doubled, and so you say, PPQQSS where the last two letters change to their successors.Now this isn't an example of Einsteinian thinking, but it's an example of thought—of stripping away everything and looking at the essence of the situation. This is what we try to get our programs to do, not only to make abstract perceptions but to favor them.
家园 深获我心！非常好，非常好 送花成功。感谢：作者获得通宝一枚。
作者，声望:1；铢钱:16。你，乐善:1；铢钱:-1。本帖花:1
我认为，完全可能做出这样的线路板，使得可以从学习1+1=2开始，懂得加法，例如：5+6=11。当然现在还没有这种东西。但是，我相信，要不了多久，这个东西就会出现了。
不知道这里有多少人知道自动数学家这个程序。大家可以查查，差不多四十年了。如果那个东西结合上前面说的这个线路板，可以做多少事情呢？大家完全可以放开了想，科幻地想。
本帖一共被 1 帖 引用 (帖内工具实现)
家园 呵呵,你确认大脑就是这么简单的模式? 你说是就是吧,这些我不懂.
家园 是啊 我也没感觉到什么革命性的东西。
看起来您现在不做了？我挺想知道做NLP或机器学习的人还能做些别的什么