2024年5月13日，德国斯图加特国家高性能计算中心（HLRS）主任Micheal Martin Resch应邀来广东省智能科学与技术研究院（以下简称智能院）开展学术交流，并在23层报告厅作学术报告。

报告题为“HPC between the end of Moore's law and the rise of Artificial Intelligence”，由黄典副研究员主持。

随着集成电路晶体管数量的增加，能耗问题日益突出。仅依赖工艺进步和硬件堆叠来提升系统性能的效益正在减弱。因此，架构优化，包括存算一体设计、访存优化及相关算法与软件优化等就显得尤为重要。与此同时，AI技术在增强HPC建模、模拟加速、大数据分析等任务中发挥着越来越重要的作用，这也导致了对算力需求的快速增加。

在本次报告中，Micheal Martin Resch主任探讨了超级计算机发展与摩尔定律之间的关系。随着摩尔定律逐步终结，计算机性能增长放缓，构建更领先的HPC系统面临着政策、资本、人才和技术等多方面的挑战。在实际应用中，算法对HPC系统性能的扩展性以及应用性能的提升起着关键作用。人工智能的迅速发展极大地重塑了超算系统的硬件架构市场，但传统HPC模拟是否能够充分利用硬件性能，需要用户和HPC技术人员付出大量的工作。

Resch同时指出，新型架构的发展并非一帆风顺，就像英伟达早期的GPU一样，面临着巨大的挑战。然而，以CUDA为基础，整个应用生态系统的构建对于推动GPU生态的发展至关重要。Resch教授特别强调了HPC系统中能耗是一个重大问题，HPC系统中的大量能量被用于访存，造成了巨大的能量浪费，同时也对超算基础设施设计提出了很高要求。当前，大语言模型的能耗是巨大的，如何实现超算的可持续发展，以满足不断增长的算力需求，仍需要解决诸多问题。

报告结束后，智能院师生与Micheal Martin Resch主任就HPC技术与应用、新型计算架构的挑战与机遇，以及HPC人才培养等话题展开了热烈的讨论，并表示未来将加强交流和合作，共同推进HPC、AI技术进步和推广应用。