主题:【讨论】中国首枚智能芯片问世 -- 红茶冰
我就知道ANNs,其余的名字不写全称我真不知道。那个shallow是指单隐藏层吧,deep是指多层隐藏层是吧。
这个函数没有任何问题。
这个表达式是定义x和y的边界范围吧,你确定x可以是无限大的变量,而y可以是无限小的变量?
我思索了很长时间,终于明白你要表达的是一个分段函数,但你却用了一个多自变量线性加权函数。“sum”是summation的意思,是一个加法运算符号。给你个分段函数的表达式作为参考吧:yi=k(xi), where i=1, 2,3,。。。,n;这里的n表示分了n段。
“线性加权”这个词是用在多自变量的情况。公式可以是:y=sum(wig(xi)),where i=1, 2,3,。。。,n;这里的n表示有n个自变量, wi 是指加权系数。
这个很好理解,比如我们有abcd四层隐藏层,那么第一层函数公式是y=a(x);第二层函数公式是y=b(a(x));第三层函数公式是y=c(b(a(x)));第四层函数公式是y=g(x)=d(c(b(a(x))))。
y=max{x,0}是什么意思?比如x=100,根据你这个等式y=100.你认为对吗?
其实利用最小二乘法就能解释清楚,公式是 min(sum(sq(y-f(x))),就是最小化预测值和测量值之间的差距的平方。
在此之前,我们也尝试过很多非线性函数比如sigmoid、tanh等,事实的表现上,用复杂非线性函数的效果,也并不比y=max{x,0}的效果更好,但是学习的收敛速度会更慢,至于为什么会这样,我们不知道。。。
现实运用中,很多情况都是非线性函数比进行函数好用,不然还要这些非线性函数干什么?再者,线性函数关系并非加减运算,用线性函数运算当然比非线性函数速度快得多,这有什么不好理解的。
只问你一个问题:发明改进提高ANNs是工程师的工作还是科学家的工作?工程师的主要工作是应用,发现问题,解决实际应用问题。阿发狗的研发人员基本上都有doctor的头衔吧,有没有工程师的头衔呢?
- 相关回复 上下关系8
压缩 8 层
🙂你这是从工程应用方面去理解ANNs 3 积吉 字1777 2016-03-13 14:46:19
🙂送花,你说得没错,我说的也没错 28 jahcoo 字4185 2016-03-13 22:08:36
🙂这楼里只能看懂你在说啥 武工队 字36 2016-03-17 14:54:38
🙂唉,看着你的数学表达式真是着急,接砖头吧
🙂您不是从事机器学习工作的吧 6 jahcoo 字2725 2016-03-16 01:30:11
🙂不是主业,但也做过这方面的研究,发表过这方面的文章 4 积吉 字819 2016-03-16 16:18:49