为什么 Deep Learning 最先在语音识别和图像处理领域取得突破?

为什么 Deep Learning 最先在语音识别和图像处理领域取得突破?

跑題的答案。

个人认为,半黑箱框架,如果对某类效果好的话,会有两个值得注意的地方:

1 存在一个全新的、更简单的框架。

2 能找到一个更深层次的、更fundamental的原因来解释,这类问题的具备哪些特征,才正好适用于此个框架。

这两个方向,都值得探究。

It is a capital mistake to theorize before one has data. - Sir Arthur Conan Doyle

但感觉现在是,有了data,却很难theorize。也许深度学习本身会是终级theory?

其实不只深度学习了,现在火的在范数L1 norm到Lp norm上做文章也是。

说些题外话。

算法细分的话:有产品型的,一般要求算法够鲁棒,street smarts,什么情况都能处理,虽然往往牺牲效果(因为很多时候是考虑最差情况,乃至最优最差情况,当然如何formulate也是问题);有精英项目型的,属于温室,要创造很好的条件才能成功;有做实验发论文型的,属于温室中的温室了,简直就是没有问题创造问题也要解决,不值得去说了。

简而言之,可能又失偏颇:做产品的,最差情况要能接受;做精英项目的,一般情况要能接受;做实验发论文的,最好情况,要能接受,至少针对某个问题来说。。。

但现在多见的却是,为了发论文,到处找例子证明比别人好,就像拿着自己的斧子,看见螺丝也想锯一下;也像射箭,先射了之后,再去画耙子,当然百发百中,当然比别人效果好。