添加链接
link之家
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接
2024-08-19    点击:

近日,清华大学物理系徐勇、段文晖研究组基于深度学习密度泛函理论哈密顿量( DeepH )方法,发展出一种具备第一性原理智能的深度学习电子结构计算方法 DeepH-Zero 。该方法首次在算法层面实现了神经网络与密度泛函理论的深度结合,赋予了模型基于物理原理的非监督学习能力。

深度学习第一性原理计算是量子物理与人工智能的前沿交叉研究方向,可用于实现人工智能驱动的新物理与新材料发现。在前期研究中,徐勇、段文晖研究组发展了一种名为 DeepH Deep-learning DFT Hamiltonian )的深度学习电子结构计算方法(进展报道: https://www.tsinghua.edu.cn/info/1175/96043.htm )。该方法能够从密度泛函( DFT )数据中学习,并准确预测给定材料的哈密顿量,进而高效计算多种材料性质。随后,团队分别基于等变网络技术,推出了 DeepH-E3 方法(进展报道: https://www.tsinghua.edu.cn/info/1175/104446.htm )和 xDeepH 方法(进展报道: https://www.tsinghua.edu.cn/info/1175/103950.htm );通过引入 Transformer 架构,团队进一步提升了 DeepH 方法的通用性和泛化能力,推出了 DeepH-2 方法,并在此基础上发展出了 DeepH 通用材料模型(进展报道: https://www.tsinghua.edu.cn/info/1175/112188.htm )。然而,先前研究普遍采用监督学习方法,深度学习与第一性原理算法彼此独立:即利用第一性原理计算构建数据集,再采用深度学习方法训练神经网络。未来发展需要将深度学习与第一性原理计算在理论与算法层面深度交叉融合,真正意义上实现具备第一性原理智能的深度学习科学计算。

DeepH 系列方法的发展历程

在最新的研究进展中,着眼于深度学习与第一性原理计算的深度结合,团队研发了全新的 DeepH-Zero 方法,它能在零训练数据的情形下利用基本物理原理实现 DeepH 优化学习。该方法通过在神经网络中嵌入物理规则,巧妙地将神经网络与变分 DFT 算法结合,形成了一种名为“神经网络 DFT ”的无监督学习框架。 DeepH-Zero 在模型精度和泛化能力方面显著超越了传统监督学习框架,它能够在不依赖任何训练计算数据的情况下,实现对材料物性的精准预测。

监督学习(左图)与非监督学习(右图)。在前一类方法中,神经网络与密度泛函理论( DFT )的算法是分离的;后一类方法实现了两种算法的有机结合,被命名为“神经网络密度泛函理论”。 DeepH-Zero 首次展示了这类具备第一性原理智能的新理论方法。

DeepH-Zero 开发过程中,研究团队利用可微编程技术,从头构建了一整套拥有自主知识产权的新型 DFT 计算软件包—— AI2DFT 。通过自动微分和反向传播算法, AI2DFT 程序能够高效执行 DFT 微分计算,实现了 DFT 程序与神经网络的无缝对接,进而实现基于物理原理的无监督学习。研究结果表明,通过将 DFT 基本原理融入神经网络设计,神经网络 DFT 在预测 DFT 物理量(如能量、电荷密度等)方面的精度超越了数据驱动方法。这项工作为深度学习与第一性原理计算的协同发展提供了崭新的思路,为实现具备第一性原理智能的深度学习电子结构计算发展开辟了新方向。

8 12 日,研究成果以“基于变分能量最小化的神经网络密度泛函理论” (Neural-network Density Functional Theory Based on Variational Energy Minimization) 为题在线发表于《物理评论快报》 (Physical Review Letters) 上,并入选 Physical Review Letters 编辑推荐文章。这也是研究组今年在该方向发表的第二篇 Physical Review Letters 编辑推荐文章。

徐勇和段文晖教授为该论文的通讯作者,研究组“水木学者”博士后李洋、 2023 级博士生唐泽宸、 2020 级本科生陈泽洲为共同第一作者。合作者还包括研究组博士生孙明辉、赵柏恒、陶泓耕、袁子龙、李贺。研究得到基础科学研究中心、国家自然科学基金重点项目、国家杰出青年科学基金项目、国家科技部重点研发计划、北京市未来芯片技术高精尖创新中心、北京材料基因工程高精尖创新中心、清华大学“水木学者”、天津超算中心等项目单位的支持。

论文链接: https://doi.org/10.1103/PhysRevLett.133.076401