2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法


☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

2.5天完成1年的md计算?deepmind团队基于欧几里得transformer的新计算方法

编辑 | 萝卜皮

近年来,基于从头算参考计算的机器学习力场 (MLFF) 的开发取得了巨大进展。虽然实现了较低的测试误差,但由于担心在较长的模拟时间范围内会出现不稳定性,MLFF 在分子动力学 (MD) 模拟中的可靠性正面临越来越多的审查。

研究表明,对累积不准确性的稳健性与 MLFF 中使用等变表示之间存在潜在联系,但与这些表示相关的计算成本可能会在实践中限制这种优势。

为了解决这个问题,Google DeepMind、柏林工业大学(TU Berlin)的研究人员提出了一种名为 SO3krates 的 transformer 架构,它将稀疏等变表示(欧几里得变量)与分离不变和等变信息的自注意力机制相结合,从而无需昂贵的张量积。

SO3krates 实现了精确度、稳定性和速度的独特组合,能够对长时间和系统尺度上的物质量子特性进行深入分析。

该研究以「A Euclidean transformer for fast and stable machine learned force fields」为题,于 2025 年 8 月 6 日发布在《Nature Communications》。

2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法

背景与挑战性

分子动力学(MD)模拟通过长时间尺度的模拟,可以揭示系统从微观相互作用到宏观性质的演变,其预测精度取决于驱动模拟的原子间力的精确度。传统上,这些力来源于近似的力场(FF)或计算复杂的从头计算电子结构方法。

近年来,机器学习(ML)势能模型通过利用分子系统的统计依赖性,提供了更灵活的预测手段。

然而,研究表明,ML模型在基准数据集上的测试误差与长时间尺度MD模拟中的表现相关性较弱。

为改善外推性能,消息传递神经网络(MPNNs)等复杂架构被开发,特别是等变MPNNs,通过引入张量积捕捉原子间的方向信息,提高了数据的可转移性。

在 SO(3) 等变架构中,卷积是在球谐函数基础上对 SO(3) 旋转群进行的。通过固定架构中球谐函数的最大次数2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法,可以避免相关函数空间的指数增长。

科学家已证明最大阶数与准确度、数据效率密切相关,并与 MD 模拟中模型的可靠性相关。然而,SO(3) 卷积的规模为2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法,与不变模型相比,这可以将每个构象的预测时间增加多达两个数量级。

这导致了一种必须在准确性、稳定性和速度之间做出妥协的情况,还可能会带来重大的实际问题。必须先解决这些问题,这些模型才能在高通量或广泛的探索任务中发挥作用。

性能强劲的新方法

Google DeepMind、柏林工业大学的研究团队以此为动机,提出了一种欧几里得自注意力(Euclidean self-attention)机制,用原子邻域相对方向的过滤器代替 SO(3) 卷积,从而无需昂贵的张量积即可表示原子相互作用;该方法称为称为 SO3krates。

2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法

图示:SO3krates架构和构建块。(来源:论文)

该解决方案建立在神经网络架构设计和几何深度学习领域的最新进展之上。SO3krates 使用稀疏表示来表示分子几何形状,并将所有卷积响应的投影限制在等变基函数中最相关的不变分量上。

2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法

图示:学习不变量。(来源:论文)

由于球谐函数的正交性,这种投影对应于乘积张量的迹,可以用线性缩放内积来表示。这可以高效地扩展到高阶等变表示,而不会牺牲计算速度和内存成本。

力预测是根据所得的不变能量模型的梯度得出的,该模型代表自然等变的分段线性化。整个过程中,自注意力机制用于分离模型中的不变和等变基础元素。

该团队比较了 SO3krates 模型的与当前最先进的 ML 模型的稳定性和速度,发现该解决方案克服了当前等变 MLFF 的局限性,同时又不损害它们的优势。

Remover Remover

几秒钟去除图中不需要的元素

Remover 304 查看详情 Remover

研究人员提出的数学公式可以实现高效的等变架构,从而实现可靠稳定的 MD 模拟;与具有相当稳定性和准确性的等变 MPNN 相比,其速度可提高约 30 倍。

为了证明这一点,研究人员仅在几个小时内就对超分子结构运行了精确的纳秒级 MD 模拟,这使他们能够计算出从具有 42 个原子的小肽到具有 370 个原子的纳米结构的结构的收敛速度自相关函数的傅里叶变换。

2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法

图示:结果概述。(来源:论文)

研究人员进一步应用该模型,通过使用最小值跳跃算法研究 10k 最小值,探索二十二碳六烯酸 (DHA) 和 Ac-Ala3-NHMe 的 PES 拓扑结构。

这样的研究需要大约 30M FF 评估,这些评估在几百 K 到 1200 K 之间的温度下进行。使用 DFT 方法,这种分析需要一年以上的计算时间。现有的具有类似预测精度的等变 MLFF 需要运行一个多月才能完成此类分析。

相比之下,该团队仅用 2.5 天就能完成模拟,从而有可能在实际时间尺度上探索数十万个 PES 最小值。

此外,SO3krates 能够检测训练数据中未包含的物理有效最小构象。外推到 PES 未知部分的能力对于将 MLFF 扩展到大型结构至关重要,因为可用的从头算参考数据只能覆盖构象丰富的结构的子区域。

该团队还研究了在网络架构中禁用等方差属性的影响,以更深入地了解其对模型特性及其在 MD 模拟中的可靠性的影响。

研究人员发现,等变性与所得 MD 模拟的稳定性以及更高温度的外推行为有关。能够证明,即使测试误差估计平均相同,等变性也会降低误差分布的扩散。

2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法

图示:计算效率和 MD 稳定性。(来源:论文)

因此,通过等变表示使用方向信息在精神上与经典 ML 理论类似,其中映射到更高的维度可以产生更丰富的特征空间,这些特征空间更容易参数化。

未来的研究

在最近的一系列研究中,提出了旨在降低 SO(3) 卷积计算复杂度的方法。它们可以作为完整 SO(3) 卷积的替代品,而本文介绍的方法可以在消息传递范式中完全避免使用昂贵的 SO(3) 卷积。

这些结果都表明,等变相互作用的优化是一个尚未完全成熟的活跃研究领域,可能提供进一步改进的途径。

2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法

图示:稳定、长时间尺度的 MD 模拟和对更大生物分子的外推。(来源:论文)

虽然该团队的工作,使得使用现代 MLFF 建模范式可以实现稳定的扩展模拟时间尺度,但未来仍需进行优化,以使 MLFF 的适用性更接近传统的经典 FF。

目前,该方向出现了各种有潜力的途径:在当前设计中,EV 仅根据二体相互作用进行定义。通过将原子簇扩展纳入 MP 步骤,可以进一步提高准确性。同时,这可能有助于减少 MP 步骤的数量,从而降低模型的计算复杂度。

另一个尚未讨论的问题是全局效应的适当处理。通过使用低秩近似、可训练的 Ewald 求和或通过以物理启发的方式学习长程校正。当需要外推到更大的系统时,后一种类型的方法尤为重要。

虽然等变模型可以提高局部相互作用的外推能力,但对于超出训练数据中存在的长度尺度或超出模型有效截止值的相互作用,这并不适用。

由于上述方法依赖于局部属性,例如部分电荷、电负性或赫什菲尔德体积,因此可以通过学习 SO3krates 架构的不变特征分支中的相应局部描述符,将它们无缝集成到该团队的方法中。

因此,未来的工作将集中于将多体展开、全局效应和长程相互作用纳入 EV 形式,并旨在进一步提高计算效率,最终以高精度跨越 MD 时间尺度。

论文链接:https://www.nature.com/articles/s41467-024-50620-6

相关内容:https://phys.org/news/2025-08-faster-coupling-ai-fundamental-physics.html


以上就是2.5天完成1年的MD计算?DeepMind团队基于欧几里得Transformer的新计算方法的详细内容,更多请关注其它相关文章!


# 更高  # 东莞网站建设如何做好  # 温州外贸响应式网站建设  # 东西湖seo排名教程  # 广州网站建设资讯官网  # 厦门seo外链专员待遇  # 如何免费做网站推广工作  # 飞虎国际网站推广费用  # 莱芜引流营销推广中心  # 免费软文推广网站推荐  # 临沂网站建设的功能优化  # 理论  # 最小值  # 更大  # 这可  # 提出了  # 长程  # 长时间  # 相互作用  # 计算方法  # 欧几里得 


相关栏目: 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894


相关推荐: 人工智能写作检测工具不靠谱,美国宪法竟被认为是机器人写的  清华朱军团队新作:使用4位整数训练Transformer,比FP16快2.2倍,提速35.1%,加速AGI到来!  映宇宙数字人“映映”亮相ChinaJoy,展示AI黑科技实现用户互动  VR健身应用《FitXR》将取消Quest 1端会员服务  英伟达首席执行官黄仁勋:生成式 AI 时代「人类」会是新的编程语言  构建数字文旅新高地!洛阳涧西区开启元宇宙时代  联通发布鸿湖图文AI大模型1.0,可实现以文生图  商汤科技:元萝卜 AI 下棋机器人新品发布会 6 月 14 日举行  马斯克称人类是半机器人,记忆外包给了电脑  借助ChatGPT快速上手ElasticSearch dsl  华为联合合作伙伴 共同发布昇腾AI大模型训推一体化解决方案  奥比中光子公司和斯坦德机器人深度合作,共同推进新一代激光雷达的研发  马斯克WAIC2025演讲全文:AI将对人类文明产生深远影响  上天下海登极,青岛与昇腾AI握手一起探索星辰大海  宇宙探索下一阶段,机器代替人类,AI会在太空探索中取代人类吗?  午报 | 字节跳动要造机器人;东方甄选首次启动自有APP|直播|  郭帆:AI发展日新月异,或是弯道超车好莱坞的最好机会  吉林首例!机器人辅助下搭桥手术成功实施  优化J*a与MySQL合作:分享批处理操作的技巧  这效果能打几分?AI真人化《名侦探柯南》  人工智能产业竞跑“未来赛道” 创新发展放大“赋能”效应  社区里,孩子们体验“机器人竞技”  AI教父Bengio:我感到迷失,对AI担忧已成「精神内耗」!  无需照相馆,AI证件照生成软件即将推出  世界水下机器人大赛:9国青年携手逐梦深蓝  如布AI口袋学习机S12 将亮相综艺节目《好样的!国货》  AMD称下半年AI显卡供应充足,不需要像NVIDIA那样加价抢购  全新小艺搭载AI大模型,有效提升学生和职场人士的工作效率  支持跨语言、人声狗吠互换,仅利用最近邻的简单语音转换模型有多神奇  周鸿祎:360智脑开放API接口 AI大模型将赋能百行千业  Vision Pro头显重磅发布;苹果收购AR厂商Mira  传Meta 2025年推出首款AR眼镜,采用军用级别材料,计划生产1000台  美的推出 AI 双视精准避障的自动集尘扫拖机器人 V12,售价仅为2999元  OpenAI 静默关闭 AI 文本检测工具,准确率仅为 26%  可按用户语气自动回复消息,Zoom 推出基于生成式 AI 的新功能  央广车联网亮相2025世界人工智能大会  传字节内测对话式 AI 产品,代号「Grace」;马斯克嘲讽苹果 头显;比亚迪 F 品牌定名「方程豹」  亚太地区 70% 的企业高管正探索生成式 AI 应用或已经进行投资  遵义市首次引入手术机器人,成功实施全膝关节置换术  AI室内设计软件流行,室内设计行业如何应对效率变革  2025世界人工智能大会(上海)开幕式纪要  长宁这家企业在世界人工智能大会上荣获“蓝鼎奖”  生成式人工智能如何改变云安全的游戏规则  AI框架生态峰会本周开幕 华为昇腾“朋友圈”再聚首 全球首个全模态大模型将登场  百度文心一言App上架苹果商店,人工智能创作引发热议  前特斯拉总监、OpenAI大牛Karpathy:我被自动驾驶分了心,AI智能体才是未来!  AI赋能艺术 超现实达利奇幻之旅在沪开启  ChatGPT只讲这25个笑话!实验上千次有90%重复,网友:幽默是人类最后的尊严  实践J*a开发,构建高性能的MongoDB数据迁移工具  华为盘古AI模型实现秒级全球气象预报时间缩短 

 2024-08-10

了解您产品搜索量及市场趋势,制定营销计划

同行竞争及网站分析保障您的广告效果

点击免费数据支持

提交您的需求,1小时内享受我们的专业解答。

运城市盐湖区信雨科技有限公司


运城市盐湖区信雨科技有限公司

运城市盐湖区信雨科技有限公司是一家深耕海外推广领域十年的专业服务商,作为谷歌推广与Facebook广告全球合作伙伴,聚焦外贸企业出海痛点,以数字化营销为核心,提供一站式海外营销解决方案。公司凭借十年行业沉淀与平台官方资源加持,打破传统外贸获客壁垒,助力企业高效开拓全球市场,成为中小企业出海的可靠合作伙伴。

 8156699

 13765294890

 8156699@qq.com

Notice

We and selected third parties use cookies or similar technologies for technical purposes and, with your consent, for other purposes as specified in the cookie policy.
You can consent to the use of such technologies by closing this notice, by interacting with any link or button outside of this notice or by continuing to browse otherwise.