我确实在DL上没有天赋

531 阅读3分钟

大家好,我是对白。

今天给大家分享一位博主对于深度学习的看法,文笔清奇而幽默。炼丹多了,会感觉DL越来越玄学,越来越难以解释,到现在我也有这样的感触,只能通过多做几组实验来解除困扰,以下为原文。

作者:Cherrise | 编辑:对白的算法屋

zhuanlan.zhihu.com/p/466568642

我确实在DL上没有天赋,不知道CNN和RNN有啥作用。

我确实无法理解神经网络结构,也不知道如何修改结构,一时间只能将其理解为玄学。

我确实学不会DL,我所有项目的神经网络都是照抄开源项目的,我甚至连任何一个number都不敢改,我也没有精力、没有显卡来测试两种结构的不同。

对于DL项目而言,别人说什么我完全认同,因为我没有大量的时间用于测试网络结构或者read a paper。

DL对于我来说就像玄学,没有任何确定性可言,有时我怀疑这是伪科学。

但是许多研究生都发DL方向的paper,这是为什么?

因为DL确实能work,只要它能work,你管它能不能被explain。

确实啊,我知道DL能work,是因为我test过program,但是它为什么work,以及如何提高benchmark,就是我根本不敢尝试的问题了。

没有GPU,研究DL没任何意义,DL之所以叫DL是因为DL是富人的游戏,我们穷苦工程师只能照抄paper上的模型,容不得任何质疑。

目前我在写一篇CV方向的paper,网络结构是完全照抄某数据集网站的开源项目,然后其他脚手架是我自己编写,在写这篇paper的时候我有一种深深的罪恶感,因为我知道this paper does not have any creativity.

就是概括性的总结一些前人的经验,然后生搬硬套+强行解释。我不知道为什么加dropout,我不知道为什么加BN,但是我就是要搜一些博客上的解释,然后生搬硬套到我的论文上。

尽管我知道自己的模型非常simple以及毫无泛化能力,就是为了特定的任务定制的模型,但是在paper中我必须把它吹得天花乱坠,最后才能通过考核。

对于程序而言,我不发明任何原始的工具。

一句话,除了抄,还是抄,自己只想一个大概的思路。

哪怕是最笨的办法,只要做出来了就是好paper!

看到这儿,我只想说:只要调好参,就是一名优秀的AI工程师!

文末留言可以谈一谈你对DL的看法~

最后欢迎大家关注我的微信公众号: 对白的算法屋duibainotes),跟踪NLP、推荐系统和对比学习等机器学习领域前沿,日常还会分享我的创业心得和人生感悟。想进一步交流的同学也可以通过公众号加我的微信,和我一同探讨技术问题,谢谢!