Think Big

自从上周和老板谈过之后,我开始改变自己的做研究的风格。 过去的我,总是聚焦去理解论文中的细节;自己工作的时候也是类似的情况,不停思考的是,代码结构怎么样才是最好的,怎么去实现才是最高效的。 然而,这一切都不是科研工作应该有的工作方式。 这是Programmer的思维方式,而不是researcher的。

作为一个科研工作者,我们需要考虑的是当前这份研究工作能否增加人类的整体的智慧。 比如,过去我一直纠结一个损失函数,它的预期效果一直和实验结果不符合。 我纠结了这个问题很长一段时间。 然而,老板却告诉我,他根本不关心这个损失函数,因为我们的提出的想法和这个损失函数没有关系。 这个损失函数只是一个具体的实例,只是一种具体的实践,它只是「a means to the end」, 它没有那么重要。

我更应该考虑的是,这部分工作能够为人类社会提供什么新的知识。

这一周我一直遵循老板的建议,远离所有代码,远离所有具体的模型。 单纯只是思考和阅读论文,构建自己的big picture. 当我从「对人类社会」的贡献这个角度来审视科研工作的时候,我感觉一切都改变了。 原本惊为天人的工作变得很平凡,而原本觉得很无聊的分析却变得鞭辟入里。

比如,当年在国内读研的时候,当阅读到Mikolov的著名论文「Efficient estimation of word representations in vector space」,简直惊为天人。 他的工作成果给整个NLP领域开启了一个新的热点方向。 然而,现在随着阅读论文的增多和思考的深入,现在觉得他的这部分工作也不是那么的具有深刻思想性[1]。 其实,word embedding这个概念早在30年前(1987年)就由Hinton在「Parallel Distributed Processing」的第三章中提出了。 之后相关的研究工作一直都在进行,只是由于计算能力的问题,而无法流行起来。 而Mikolov真正的贡献不是在于提出了word embedding,而是他开发了一种极为高效的算法,能将word embedding从大语料中训练出来,这才是他工作的最大贡献。 但是,他的工作和Hinton比起来,那就差了一个档次了。

作为一个研究者,我们更需要像Hinton那样从一个更高的层次思考问题. 尽管不是每个人都能成为Hinton那样的大神,但是我们需要从更高层次上来指导我们自己的研究工作。 把自己的目光提高,不停地问自己,自己的研究工作的真正贡献在哪里。 真正的贡献不是设计一个新损失函数、一个新的正规化方式,而是一种更高层次的思想。 要成为一个科学家,首先要成为一个哲学家。 怪不得大部分学科的博士学位都是带有「哲学博士」头衔的。

更新日志

  • 2018年8月11日写作并发表

  1. 我不是说他的工作不重要,但是我觉得缺乏了一种内在哲学性思维。

打赏杯咖啡吧~