我们只用绿色的食品原料
欧宝电竞零食加工厂,只为您的健康着想
2022-10-31 02:57上一篇:大专生也可以考研吗?有什么要求?真的只要结业2年就可以吗? |下一篇:没有了
第一步. 调研、入门1. 确定一个感兴趣的大领域,好比漫衍式系统或者机械学习,或者深度神经网络。读这个领域经典算法和技术,也可以是几本比力好的书,读完然后再实践实践,动手加深明白。这个历程做完就算是开端入门了。2. 找该领域的顶级集会,好比系统领域的有OSDI、SOSP,机械学习的领域有ICML、CVPR,深度学习的有NIPS、ICLR等等,可以搜CCF集会推荐列表看各领域的顶会列表。
然后看近几年这些顶会的论文,因为这代表了最新的研究热点,咱不是说一味的追热点啊,究竟对于初学者没有足够的领域专业配景,追热点是最快的方法。因为热点往往是该领域最亟待解决的问题,往往是生长最快的小偏向,也最容易发生新结果。
如果是老问题,人家都研究十几年了,给你留下的待解决的问题就很少或者不是很重要。固然如果是有几十年履历的研究者就不必追热点,他们知道该领域哪些是fundamental的问题,哪些是最值得研究的问题。
3. 读了这些前沿论文后,确定一个小偏向,好比漫衍式系统是个大偏向,小偏向可能是机械学习漫衍式训练;大偏向是深度学习,小偏向可能就是graph embedding;大偏向是机械学习,小偏向可能是半监视学习等等。确定小偏向的历程是个知识不停积累的历程,很是重要,这需要你对大偏向有许多相识,对小偏向有更深入更全面的明白,需要读好至少100篇以上论文,需要你知道该小偏向的研究希望历史,这需要你知道该小偏向别人都在哪方面做事情,做该小偏向的顶级研究组都有哪些,他们正在干什么。第二步. 发现问题这步超级难,如果发现了个好问题,那就是乐成的一半。
这个问题最好是重要的、本质的、没有直观解决方法的。4. 确定小偏向后,你需要阅读大量的这个小偏向的论文和相识开源项目,再不停聚焦,再确定一个要革新和优化的小小偏向,这个可能就是论文的主题。小小偏向可能是机械学习漫衍式系统中的parameter server通信模型,可能是dynamic graph embedding等。
然后就要更聚焦地读这方面的相关论文,这时候论文就比力少了,几篇到几十篇到几百篇都有可能,这些论文要精读,花几个月时间研究一篇论文也不为过。5. 挑几个重要的论文事情实现,也可以找开源的运行跑一跑试一试,idea往往从实际运行中来,光靠读是不行的。
这个跑一跑可能需要你实验差别的运行情况,差别的workload数据集,差别的应用场景等。好比,parameter server(PS)模型在当地集群上跑是不是和paper声明的一样、在异构的动态性极强的集群情况下效果怎么样、除了paper提到的算法处置惩罚其他算法的时候效果怎么样、除了paper提到的数据集换另外一类数据集怎么样;graph embedding方法处置惩罚麋集图和稀疏图都怎么样,处置惩罚动态变化的图怎么样,等等吧。
你要发现X方法仅在a情况下好用,在b情况欠好用。这个就是发现问题的历程。固然,没履历的研究者可能很难想到多种情况、多种workload、多种应用场景,这就需要积累。
另外一个发现问题的方法是从实际生产中来,这个固然是最好的,可是往往是大企业情况下才有这个条件。6. 确定你发现的问题还没有被解决。这又需要广泛的阅读和调研,可是问题已经很聚焦了,搜索也会很容易,用你特定问题的关键字在google 搜索(这里强烈建议用google,其他搜索引擎基本搜不到),找到解决相关问题的论文。
看看这些论文是不是已经解决了该问题,如果解决了,你有两种方案:第一,该问题已经解决的很是好了,放弃解决该问题。第二,该问题的解决方案另有问题,我另有更好的措施。我建议后者,最起码只管实验实验。
第三步. 分析问题7. 分析问题发生的本质原因。这个往往和第5步发现问题同时举行。
这一步靠的是功底和积累,靠的是对问题的明白水平。明白的越深刻,分析的越透测,你之后发生的解决思路就越有可能正确和有效。
好比漫衍式机械学习的PS模型在异构情况下、和在处置惩罚数据不匀称的情况下就欠好,本质原因是其同步的集中式通信模型,造成PS集中服务器往往需要等候。传统graph embedding方法接纳批处置惩罚模式,需要graph的全局信息做embedding,固然无法应付动态性很是强的局部更新情况。8. 基于分析,就是对该问题的深刻明白,发生革新的idea。
这个可能很难,可能靠运气,但我以为更多的是靠对问题的明白水平,明白的越深刻,本质原因抓的越准,就越可能发生创新idea。读过一本先容google企业文化的书,google产物的乐成,既不是靠技术能力,也不是靠用户需求,而是靠技术洞见(insight),这就是对问题本质的深刻明白。好比,PS模型在某情况下问题的本质原因是集中式的同步模型,那么我们就可以提出实验异步通信的模型的idea。分析能力跟小我私家的批判性思维、独立思考能力都有关,而这正是中国人欠缺的,可以通过读有深刻看法的书籍文章、经常提问来磨炼。
第四步. 解决问题9. 实现你的idea,做大量实验验证。这需要动手能力,需要编程能力,需要坐得住。10. 验证你的解决方案,凭据实验分析不停优化你的方法。做了大量试验后,获得了若干效果,可能是欠好的效果,可是不要一下子否认自己的解决方案,这不能说明你的idea欠好用。
一个好的方法往往经由千锤百炼,同样,你的idea通常不会一下子就乐成。需要你凭据实验效果分析欠好的原因,然后基于你的明白革新方法,这是一个重复不停迭代的历程。好比,你发现异步PS模型效果还不如原来的呢。
那么关键的。
本文来源:欧宝电竞-www.schjpf.com