新智元报道
编辑:Aeneas 好困网友:AI将颠覆各个科学领域
从本质上讲,他们是对偏微分方程应用了奖励函数,因为偏微分方程具有较多的CQs,并且自然系统遵循定律(例如热力学)。由于发现这些偏微分方程往往非常困难,因此这项工作很有意义,因为它提供了一条将加速计算的计算杠杆应用于任务的途径。这为生成类似OEIS(整数序列在线百科全书)的资源提供了机会。这就允许来自任何领域的研究搜索这些数据库,看看以前是否已经解决了类似的问题,或者相关的序列或结构是否已经存在,而不需要从头开始。
快速「入门」
当PDE具有守恒量时,它们是可积的(例如,能量是质量弹簧的一个守恒量)。因此,研究者将OptPDE设计为一个两部分的系统,它可以——(1)计算任何PDE的守恒量(CQ)数量;
(2)找出使n_CQ最大化的偏微分方程。下面是(1)在一些熟悉的系统中的实际应用。因为研究者寻找n_CQ的方法是可微分的,因此要发现新的可积偏微分方程,只需使PDE中的项系数可训练,并通过SGD最大化n_CQ即可。他们以从u_x => u_xxx^3的项为基础,运行了5000次。下面是解决方案的3D PCA——研究者发现,他们得到大多数解,都是4个偏微分方程家族的线性组合,其中一个是KdV方程的一种形式,还有3个方程完全是新增的,在文献中并没有记载!由此,研究者确认,这些新出现的可积偏微分方程中,至少具有一个守恒量。也就是,在AI的帮助下,人类科学家发现了一些全新的可积偏微分方程!不过,如果想解释和分析这些发现,还是要靠人类科学家。研究者仔细分析了以下红色偏微分方程的简化版本(u_t=u_x^3),发现它表现出断裂、无限的CQ,而幂律衰减为了三角波。从此,物理学家非常有希望使用OptPDE,来发现更多新颖的可积偏微分方程,来模拟物理学中的复杂现象。不过,OptPDE要求AI和人类科学家协同工作,作者呼吁:如果这种范式能被物理学界接受,物理学家很可能用现代AI工具做出以前更多新发现。可积系统:极其罕见,难以发现
可积系统在物理学和工程系中发挥着重要作用,因为易于处理、可预测、可控。然而,它们极其罕见,难以发现。传统中发现可积系统的方法是靠纸笔,它侧重于符号推到,还需要考虑到可能系统和守恒量(CQ)的指数级大搜索空间,效率极低。由此,MIT的物理学家想到:AI可以做什么吗?为此,他们引入了一个可积系统发现解决方案OptPDE。此前,已经有许多工作使用极其学习从物理数据和微分方程中发现守恒量,但MIT研究者的方法,对于偏微分方程来说是最可解释的。更重要的是,此前的方法并不能主动优化和设计偏微分方程。然而,这个AI可以做到!虽然过去机器学习方法已经被用来发现守恒量,但这项工作第一次提出——通过验证和解释可集成系统,AI和人类科学家可以协同工作。论文方法
研究者是通过以下阶段构建这个方法的。1.CQFinder——查找PDE的守恒量。2.OptPDE——使用CQFinder中的,来发现可积PDE。图1说明了整个流程。不过需要注意的是,这个流程需要人类科学家通过输入CQ和PDE基础,和AI协同工作,这就需要对该领域知识的掌握。 OptPDE的可视化管线。给定PDE的项基础,OptPDE就会优化系数,从而最大化PDE的守恒量(CQ) 数量。起初,u会衰减并且不守恒,但OptPDE会通过将扩散项归零,来发现使u更加守恒的系数。这个可视化示例很简单,但鉴于广泛的PDE基础,OptPDE可以帮助人类科学家发现新颖的可积系统为了构建OptPDE,必须首先设计CQFinder,来准确计算任何PDE的CQ。具体来说,需要一个具有空间变量x的时间一阶偏微分方程,其形式为。其中,是u及其空间导数的集合,且具有自由边界条件。研究者需要考虑形式为的守恒量。对于一个CQ量,它必须在u的整个时间演化过程中保持恒定。可以将CQ的时间不变性表示为:其中,。虽然这个方程看起来很复杂,但只要考虑一个简单的设定就可以了,其中h(u′) 是k个预定义基函数的线性组合,即。在这里,研究者需要处理两个无穷大。1. 理论上,线性方程对于任何光滑的u都必须成立;在实践中,就可以测试方程是否可以近似这个无限的函数集。2. 理论上积分是在(-∞,∞)上进行的;在实践中,就需要用有限范围来近似它(在范围之外将u强制为零)。研究者希望,在CQFinder中创建子流程,从而进行稀疏化和识别简单解决方案,因为它们更容易被人类科学家解释。具体来说,研究者需要将PDE参数化为预定义PDE的线性组合,。CQFinder采用固定的PDE,并输出其守恒量的数量。由于CQFinder是用PyTorch编写的,因此它原则上是可微分的,因此,研究者就可以通过自动微分,来识别PDE系数中的哪些扰动会增加CQ。然而,可微性的最大挑战是守恒量本质上是离散的(比如,偏微分方程可以具有3或4个守恒量,而非3.7个)。为了反向传播优化系数, 目标函数就必须是可微的。为了解决这个问题,研究者使用sigmoid函数引入了的平滑版本。论文结果
CQFinder基准测试为了验证CQFinder是否如大家设想的那样可以工作,研究者在Burgers、Korteweg-DeVries(Kd)和薛定谔方程三个测试系统上运行了它。图2显示,奇异值曲线显示出从小到大的急剧相变,从而可以清楚地区分消失值和非消失值。这就证明了,CQFinder不仅可以正确计算守恒量的数量,而且还可以获得它们的符号公式。作者介绍