如何确定自己的研究方向 (读后感)

阅读文章

Coming up with research ideas
Organizing and evaluating research ideas

如何迸发一个Idea

前提:扩展自己的知识面(Expand your adjacent possible)

作者提出,通常Idea来自于你当前知识的‘adjacent possible’ ,即你知道的越多,越容易想出新的Idea。一个好的科研的规则是尽可能地扩充与你研究领域的相邻方向的相关知识概述,并在你的研究领域进行深入研究。

而获取相邻方向的广泛的知识概述通常可通过某一门课程或者一些相关方向的综述文章来进行扩充(其他人已经帮你整理归纳好,省去自己去整理的麻烦)。关键在于了解整体研究趋势,而不必陷入细枝末节中。

而如果想深耕某一领域。则需要特别关注人们正在解决哪些问题、哪些技术最先进(SOTA)以及如何完成评估等。

与此同时,为了扩展自己的知识面,作者认为预留“学习时间”也是非常必要的。

比如,

  1. 如果在不同的论文中看到了自己不熟悉的问题或技术,通常会下功夫学习它们。
  2. 可以请求合作者发一些他们最近非常喜欢的论文。
  3. 另一种启发式方法是可以阅读在 ML 或 NLP 或 CV 顶会中获奖的论文,即使与我们的研究无关。
  4. 最后,作者强烈建议在 poster 环节四处走动并与论文作者多多交流,以便为未来的努力科研过程中积累素材。

一些提出Idea的启发式方法

除了扩充自己的知识面外,作者也提出了一些自己的启发式方法,供我们参考借鉴。

启发式方法1:设置“重要问题清单”

了解所在领域最重要的问题是什么,并尝试解决。

他们通常有 10 到 20 个想要解决的重要问题。当他们看到一个新想法出现时,人们会听到他们说:“这个想法与这些问题中的某一个相关。”

当我们专注于某篇论文或某一方向时,往往会忽略其其他的扩展。列出重要问题的清单是一种有目的地设置过滤器的方法,能够帮你在阅读论文、观看演讲或处理其他事情时注意到关联。换言之,这是一种确保你始终检查自己获得的新知识是否可以在某些问题上展开相邻可能的方法,进而获得新的Idea。

设置“重要问题清单”过滤器通常是一种极好的做法,而做到这点的一种方式就是一一列出你想要提出想法的事情。我的问题清单当然由自己的兴趣和偏好决定,但也发现向自己尊重的研究者询问他们最重要问题的清单并咨询自己清单中应该推迟的项目很有用。

启发式方法2:设置“失败/烦恼清单”

失败和烦恼是培养新想法的沃土,但前提是你需要花时间弄明白问题在哪里以及什么导致了问题的发生。由于这些失败往往与你当时实际做的事情关系不大,因此当你找到应对方法或放弃时,很容易会忽略掉它们。因此,本文建议记下并做出一个搞不懂的失败清单,以便之后继续调研。往往很多论文的突破点都来自于令人烦恼或者失败的问题。

**制造失败:**如果你没有失败清单又该怎么办呢?不用担心,我这里有一种非常可靠的方法来创建这种清单。如果你读到了一篇喜欢的论文或者发现一些高大上的新技术或模型(如 BERT、GPT-3、CLIP、Dall-E 等),花时间思考这些技术或模型如何用来做一些论文中没有做过的有用或很酷的事情,然后努力去做。虽然往往会以失败告终,你就可以开始对失败进行调研。

启发式方法3:使用 类比 方法

使用类比不仅仅是将技术应用于新问题,而是探索不同问题和方法之间的相似之处和不同之处。(例如BERT和MAE的思想精髓的一种类比),类比既是一种约束(可以在类比不成立的部分被丢弃),也是来自原始领域的现成想法的来源,并可以尝试将其应用于新领域。

当然,在尝试使用类比的过程中,也会遇到许多挫折,将其放到你的失败清单中吧。

启发式方法4:挑战现状

挑战现状(即挑战SOTA)也是一种Idea,但至关重要的是,需要首先理解为什么它是目前的现状(即陷于现状的原因,什么阻止了它进一步突破,或为什么人们安于在此现状不愿做出改变。即汽车出来之前,人们只追求于跑的更快更久的千里马,从未想到过有四个轮子的铁架子能带人日行千里。),切斯特顿围栏的著名原理在这里适用:

存在某种制度或法律; 让我们说,为了简单起见,在马路对面竖起一道栅栏或大门。 更现代的改革者兴高采烈地说:“我看不出这个有什么用; 让我们把它清除掉吧。” 而更聪明的改革者会很好地回答:“如果你看不到它的用途,我当然不会让你清除它。 再走开仔细想想。 然后,等你回来告诉我你确实看到了它的用途时,我可能会让你毁掉它。”

根据上面的原理,一定要了解为什么存在该现状,再尝试去改变它,不然很可能做的都是无用功。挑战现状往往风险很大,但若挑战成功,带来的成就感也是巨大的。

Idea和执行 哪个更重要?

“Ideas are cheap, execution is everything”,往往有人秉承执行才是一切的原则,而采纳了一个很廉价的Idea。对于工程师来说,这或许是可以的,但是对于科研人员,一个好的Idea往往更加重要,甚至比如何执行该Idea要略微重要一些(科研人员的动手能力也很重要,但相对于工程师来说,略有瑕疵也可谅解)。一篇伟大的论文往往贡献了一个相当出色的Idea,同时开辟了一个新的方向。即使最初提出该Idea的论文中对该Idea的执行没有那么出色,但后续涌入的科研人员会逐步将其执行完善。

总结

作者的这篇文章试图让想法变得更便宜。 在接下来的第二篇文章中,作者将讨论如何组织这些Idea,并决定哪些值得作为研究项目进行,以避免浪费时间在定义不明确的Idea上的常见陷阱,或者致力于一个看起来似乎“不错”的想法。

猜你喜欢

转载自blog.csdn.net/qq_44554428/article/details/125867716