[北京,2024年4月17日] 近日,《自然》杂志(Nature)公布了21世纪被引用次数最多的论文Top 25榜单,微软亚洲研究院何恺明等人于2016年发布的深度残差网络(ResNet)研究拔得头筹。这一里程碑式的成果不仅奠定了深度学习的基础,也深刻影响了人工智能(AI)领域的后续发展,从围棋AI AlphaGo到蛋白质结构预测AlphaFold,再到如今炙手可热的语言模型ChatGPT,ResNet的身影无处不在。

《自然》杂志此次统计涵盖了Web of Science、Scopus、OpenAlex、Dimensions和Google Scholar五个权威数据库,囊括了21世纪以来发表的数千万篇论文。ResNet在其中两个数据库中引用量排名第一,另两个排名第二,一个排名第三,综合来看,其引用次数的中位数在五个数据库中均位居榜首,足见其在全球学术界的影响力。

ResNet由何恺明、张祥雨、任少卿和孙剑共同完成,首次以预印本形式于2015年底发布,并在2016年荣获计算机视觉顶级会议CVPR的最佳论文奖。该论文的核心贡献在于提出了一种新型的人工神经网络结构,解决了深度神经网络训练过程中出现的“梯度消失”问题,使得构建更深、更强大的神经网络成为可能。

“ResNet的出现,是深度学习领域的一次革命,”一位不愿透露姓名的AI专家表示,“它为后续的AI研究打开了新的大门,极大地提升了计算机视觉、自然语言处理等领域的性能,加速了AI技术的落地应用。”

值得注意的是,除了ResNet,其他几篇AI领域的论文也进入了Top 10榜单,包括“随机森林(Random forests (2001))”,“Attention is all you need (2017)”,“ImageNet classification with deep convolutional neural networks (2017)”。

《自然》杂志在报道中指出,AI论文在引用方面具有天然优势,因为AI领域与众多领域相关联,且21世纪以来见证了快速的技术进步和大量学术论文的涌现。AI教父Geoffrey Hinton也曾表示,AI的蓬勃发展离不开深度学习的革命性突破。

此外,Hinton及其合著者撰写的关于深度学习的综述论文排名第16,而2009年李飞飞的论文《ImageNet: A Large-Scale Hierarchical Image Database》作为训练数据集根基,排名第24。

谷歌研究团队于2017年推出的《Attention is all you need》论文,介绍了Transformer神经网络架构,该论文是本世纪引用次数第7高的。

尽管AI领域取得了巨大成就,但《自然》杂志也指出,21世纪的重大突破不仅限于AI。希格斯玻色子的发现、引力波的首次测量等科学突破同样意义非凡。然而,这些突破性成果在2000年以来被引用量最高的论文中却鲜有上榜,这或许反映了不同领域的研究特点和学术交流方式的差异。

何恺明ResNet的成功,不仅是对其团队卓越研究的肯定,也彰显了深度学习在推动AI发展中的核心作用。展望未来,我们有理由相信,在ResNet等奠基性研究的引领下,AI技术将继续突破创新,为人类社会带来更加美好的未来。

参考文献:

  • He, K., Zhang, X., Ren, S., & Sun, J. (2016). Deep Residual Learning for Image Recognition. Proceedings of the IEEE conference on computer vision and pattern recognition, 770-778. https://arxiv.org/pdf/1512.03385
  • Breiman, L. (2001). Random forests. Machine learning, 45(1), 5-32.
  • Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., … & Polosukhin, I. (2017). Attention is all you need. Advances in neural information processing systems, 30. https://arxiv.org/pdf/1706.03762
  • Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). Imagenet classification with deep convolutional neural networks. Advances in neural information processing systems, 25. https://dl.acm.org/doi/pdf/10.1145/3065386
  • Deng, J., Dong, W., Socher, R., Li, L. J., Li, K., & Fei-Fei, L. (2009). Imagenet: A large-scale hierarchical image database. In 2009 IEEE conference on computer vision and pattern recognition (pp. 248-255). Ieee. https://ieeexplore.ieee.org/document/5206848
  • Ronneberger, O., Fischer, P., & Brox, T. (2015). U-net: Convolutional networks for biomedical image segmentation. International Conference on Medical image computing and computer-assisted intervention, 234-241. https://arxiv.org/abs/1505.04597
  • Nature. (2024). The most cited papers of the 21st century. https://www.nature.com/magazine-assets/d41586-025-01125-9/50860378


>>> Read more <<<

Views: 6

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注