近日,第十届ASC世界大学生超级计算机竞赛在合肥落幕。
在这一届决赛的现场竞赛中,北京大学摘得冠军奖项,这也是北京大学自大赛发起的十年来所获得的第一个冠军。此外,中国科学技术大学斩获亚军和ePrize 计算挑战奖,最高计算性能奖由浙江大学获得。
ASC 发韧于 2012 年,是由中国发起的世界最大规模的大学生超算竞赛,与美国 SC、德国 ISC 并称为全球三大超算竞赛。自开赛以来,本届ASC竞赛收到全球五大洲 300 多支参赛队伍的报名申请。
ASC竞赛发起人、中国工程院院士王恩东在演讲中表示:「十年来,ASC竞赛通过不断创新和产学研用的融合,逐渐探索出以应用为导向,以复合型人才为核心的科技新青年培养范式。从ASC竞赛中走出的科技新青年,具备全球化视野,乐于探索前沿科技,拥有科学精神和创新思维,重视团队协作,已经成长为科技创新的新生代力量。」
本届 ASC 总决赛的赛题包括AI 语言大模型、戈登·贝尔奖获奖应用 DeePMD-kit、水文模式 WRF-Hydro、神秘应用、超级团队赛、超算基准测试 HPL 和 HPCG 等,旨在引导大学生用最先进的信息技术挑战 AI 语言大模型、分子动力学、气候水文耦合模式、智慧交通等前沿的高难度赛题,提升其对人工智能+科学研究+高性能计算等新研究范式的直观认识,增强交叉学科的学习和应用能力。
最终,北京大学代表队发挥出色,在气候水文模式应用WRF-Hydro、机器学习分子动力学应用DeePMD-kit等多个赛题均有上佳表现,反映出全面、深刻的超算系统与应用理解能力以及出色的性能优化能力,夺得总冠军。中国科学技术大学代表队在AI语言大模型、基准测试等多个赛题中都取得优秀成绩,获得亚军。
在总决赛的所有环节中,人们对于AI大语言模型方向的赛题给予了高度关注。本次,ASC 组委会提供了 100GB 的高质量中文数据集,要求参赛队基于这一数据集复现小号 AI 语言模型。 参赛队需要自行合理设计模型训练策略并完成模型训练过程,在追求极致性能的同时,降低大模型的训练开销、降低集群能耗,同时还要满足精度约束等严苛条件,这也是在实际大模型研发中,行业人士经常会面临的关键问题。
今年的 AI 大语言模型赛题聚焦业界前沿,也是本届 e Prize 计算挑战奖的指定赛题。中国科学技术大学是该奖项的获得者,他们通过引入业界前沿的大模型并行策略、计算加速算法和显存优化机制,并均衡考虑训练速度及loss收敛性,取得了全场最佳成绩。
此外,浙江大学代表队实现计算系统在3000W总功耗约束下109万亿次/秒的HPL持续浮点运算性能,获得最高计算性能奖。