26种主流的神经网络偏微分方程求解方法汇总

偏微分方程(PDE)是数学中一门重要的分支,应用范围广泛涉及自然科学、工程技术、生物学领域等。然而我们都知道,偏微分方程的求解过程异常艰难,如果碰上了特别复杂的,传统的计算方法可能需要数百万个CPU小时。

怎么解决?神经网络这就来了!

经研究发现,深度学习神经网络求解可以大幅度提高效率,比传统的偏微分方程求解器更快地求出近似解。为此,更多人投入到了这个方向的研究中,基于神经网络的偏微分方程求解方法也成了研究新热点。

目前该方向主要分为 3 大类:数据驱动、物理约束、物理驱动。我根据这些类别帮大家整理了主流的26种神经网络偏微分方程求解方法,包含基于卷积神经网络的方法、基于全连接神经网络的方法、基于内嵌物理神经网络(PINN)及其改进的方法等等。

论文原文及代码看文末

1、数据驱动

基于 CNN

1.PDE-Net 2.0:Learning PDEs from data with a numeric-symbolic hybrid deep network

使用数值符号混合深度网络从数据中学习偏微分方程

「简述:」PDE-Net 2.0是一种基于深度学习的偏微分方程(PDE)发现方法。它通过结合数值近似和符号神经网络,从观察到的动态数据中发现(时变的)PDE。这种方法具有很高的灵活性和表达能力,可以学习到微分算子和底层PDE模型的非线性响应函数。实验结果表明,PDE-Net 2.0有潜力揭示观察到的动力学背后的隐藏PDE,并在噪声环境中预测较长时间的动力行为。

2.Convolution-Based Model-Solving Method for Three-Dimensional, Unsteady, Partial Differential Equations

基于卷积的三维非稳态偏微分方程模型求解方法

「简述:」论文提出3D-PDE-Net解决三维PDE问题。作者给出了一个数学推导,得出一个三维卷积核可以在表达能力的范围内近似任何阶数的微分算子,并在此基础上实现了3D-PDE-Net。通过最小化训练数据的标准化均方误差(NMSE),获得了最优网络,并采用L-BFGS作为优化的第二阶精度算法。数值实验结果表明,3D-PDE-Net使用少量训练样本即可获得良好的解精度,对于解决线性和非线性非定常PDE问题具有重要意义。

基于其他网络

1.Neural network as a function approximator and its application in solving differential equations

神经网络作为一种函数逼近器及其在解决微分方程中的应用

「简述:」本文探讨了神经网络在函数逼近方面的应用,并提出了一个通用的ODE和PDE求解器。求解器用于初始值问题和边界值问题的ODE,结果显示,对于未知函数及其导数,该求解器都具有高精度。相同的策略可以用于构建基于collocation points而不是mesh的PDE求解器,该求解器用于测试Burgers方程和热方程(即Laplace方程)。

2.Solving high-dimensional partial differential equations using deep learning

使用深度学习解决高维偏微分方程

「简述:」本文介绍了一种基于深度学习的方法,可以处理一般的高维抛物型偏微分方程(PDEs)。为此,使用向后随机微分方程重新表述PDEs,并使用神经网络近似未知解的梯度,非常类似于深度强化学习中梯度作为策略函数的思想。数值结果包括非线性Black-Scholes方程、Hamilton-Jacobi-Bellman方程和Allen-Cahn方程等示例表明,所提出的算法在高维情况下非常有效,无论在准确性还是成本方面都是如此。

3.Deep learning-based numerical methods for high-dimensional parabolic partial differential equations and backward stochastic differential equations

基于深度学习的高维抛物型偏微分方程和向后随机微分方程的数值方法

「简述:」本研究提出了一种解决高维抛物型偏微分方程(PDEs)和向后随机微分方程(BSDEs)的新算法。该算法通过将BSDE与强化学习进行类比,并将解的梯度视为策略函数,以及由规定的终端条件和BSDE的解之间的误差给出的损失函数,来构建算法。然后,像深度强化学习中一样,使用神经网络近似策略函数。使用TensorFlow进行的数值结果表明,所提出的算法对于物理学和金融学中的几个100维非线性PDEs非常有效和准确。

2、物理约束

PINN

1.Physics informed deeplearning (part I): Data-driven solutions of nonlinear partial differential equations

物理学启发的深度学习(第一部分)

「简述:」论文介绍了一种物理学启发的神经网络,可以同时解决监督学习任务和遵守物理定律。作者设计了两种算法类别,即连续时间模型和离散时间模型,来推导出数据驱动的解决方案和数据驱动的偏微分方程发现。这种神经网络是一种新型的数据高效的函数逼近器,能够自然地编码任何潜在的物理定律作为先验信息。在第一部分中,作者展示了如何使用这些网络推断偏微分方程的解,并获得完全可微分的、对所有输入坐标和自由参数具有物理意义的代理模型。

2.Physics Informed Deep Learning (Part II): Data-driven solutions of nonlinear partial differential equations

物理学启发的深度学习(第二部分)

「简述:」论文介绍了一种物理学启发的神经网络,可以解决监督学习任务并遵守由一般非线性偏微分方程描述的任何给定物理定律。在第二部分中,作者重点讨论了基于数据驱动的偏微分方程发现问题。根据可用数据是散布在时空中还是以固定的临时快照排列,作者引入了两种主要的算法类别,即连续时间模型和离散时间模型。通过一系列数学物理学基准问题的测试,包括守恒定律、不可压缩流体流动和非线性浅水波的传播等,作者展示了这种方法的有效性。

3.Numerical Gaussian processes for time-dependent and nonlinear partial differential equations

用于时变和非线性偏微分方程的数值高斯过程

「简述:」这篇文章介绍了一种新的方法,叫做数值高斯过程,用于解决时间依赖和非线性偏微分方程。通过将高斯过程(一种机器学习方法)与时间离散化的偏微分方程相结合,能够处理噪声数据和不确定性,避免了对方程求解器的空间离散化需求,并且能够从观察到的数据中学习并逼近潜在解。作者通过几个基准问题展示了该方法的有效性和准确性,并能够处理长时间积分的情况。

基于 PINN

1.Physics‐informed neural networks with monotonicity constraints for Richardson‐Richards equation: Estimation of constitutive relationships and soil water flux density from volumetric water content measurements

Richardson-Richards方程的单调约束物理神经网络

「简述:」本文介绍了一种物理学启发神经网络(PINN)框架,用于解决Richardson-Richards方程的逆问题和仅基于体积含水量测量估计水保留曲线(WRCs)和水导电性函数(HCFs)。该框架不需要初始和边界条件,这些条件在实际应用中很少可用。PINN由三个连接的前馈神经网络组成,其中两个被限制为单调函数以反映WRCs和HCFs的单调性。经过训练的PINN能够重建真实的VWC动力学,并可以以非参数形式恢复底层的WRCs和HCFs。

  • 2.A derivative-free method for solving elliptic partial differential equations with deep neural networks.

  • 3.PPINN: Parareal physics-informed neural network for time-dependent PDEs

  • 4.Solving differential equations using deep neural networks

  • 5.Reduced-order modeling of subsurface multiphase flow models using deep residual recurrent neural networks.

  • 6.Adaptive activation functions accelerate convergence in deep and physics-informed neural networks

  • 7.Locally adaptive activation functions with slope recovery for deep and physics-informed neural networks

可测量标签数据

1.Deep learning of subsurface flow via theory-guided neural network

基于理论指导的神经网络对地下流的深度学习

「简述:」论文提出了一种叫做TgNN的神经网络,它结合了理论指导(如物理方程和其他约束)和数据驱动的学习。TgNN在训练时使用已有的观测数据或模拟数据,同时也接受理论的引导。相比普通的ANN,TgNN可以提供更符合物理规律的预测,并且能更好地泛化到训练数据之外的情况。此外,TgNN模型还在更复杂的场景下进行了测试,如改变边界条件的预测、从噪声数据或异常值中学习、转移学习以及工程控制。数值结果表明,由于物理/工程约束的存在,TgNN模型在预测性、可靠性和通用性方面比ANN模型要好得多。

  • 2.Theory-guided auto-encoder for surrogate construction and inverse modeling

  • 3.Ensemble neural networks (ENN): A gradient-free stochastic method

  • 4.Theory-guided hard constraint projection (HCP): A knowledge-based data-driven scientific machine learning method

3、物理驱动(纯物理约束)

全连接神经网络 (FC-NN)

1.Efficient training of physics‐ informed neural networks via importance sampling

通过重要性采样对物理知识神经网络进行高效训练

「简述:」本文研究了一种重要性采样方法,用于提高物理信息神经网络(PINNs)的训练效率。通过数值示例和理论证据,我们发现在每个训练迭代中,根据与损失函数成比例的分布采样配置点可以改善PINNs训练的收敛行为。此外,我们还发现为更快的重要性采样提供分段常数近似损失函数可以进一步提高训练效率。这种方法简单易行,易于实现,并且不需要引入新的超参数进行校准。

  • 2.Deep least-squares methods: An unsupervised learning-based numerical method for solving elliptic PDEs

  • 3.Surrogate modeling for fluid flows based on physics-constrained deep learning without simulation data

CNN 求解偏微分方程

1.PhyGeoNet: Physics-informed geometry-adaptive convolutional neural networks for solving Parameterized Steady-State PDEs on irregular domain

用于求解不规则域上的参数化稳定状态PDE的物理信息几何自适应卷积神经网络。

「简述:」本文提出了一种基于卷积神经网络(CNN)的物理知识神经网络(PINN),用于高效求解不规则域上的参数化偏微分方程(PDEs),无需任何标记数据。通过引入椭圆坐标映射,实现了不规则物理域和规则参考域之间的坐标转换,从而利用了强大的经典CNN主干网络。数值实验表明,该方法在效率和准确性上优于目前最先进的基于全连接神经网络的PINN,可用于解决具有参数化边界条件、可变几何形状和空间变化源场的稳态PDE。

  • 2.Bayesian deep convolutional encoder – decoder networks for surrogate modeling and uncertainty quantification

  • 3.DenseNet: implementing efficient convent descriptor pyramids

  • 4.Physics-constrainedb deep learning for high-dimensional surrogate modeling and uncertainty quantification without labeled data

 

关注下方《学姐带你玩AI》🚀🚀🚀

回复“偏微分方程”获取全部论文+开源代码

码字不易,欢迎大家点赞评论收藏

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/218129.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

一些好用的VSCode扩展

可以在扩展这里直接搜索需要的扩展,点击安装即可。 1.Chinese 中文扩展,就是说虽然咱们懂点英语,但还是中文看着方便 2.Auto Rename Tag 当你重命名一个HTML 标签时,会自动重命名与他配对的HTML 标签 当你选择h4这个标签时&…

Docker及其使用思维导图

Docker的架构 构建分发运行镜像 Client(客户端):是Docker的用户端,可以接受用户命令和配置标识,并与Docker daemon通信。Images(镜像):是一个只读模板,含创建Docker容器…

DevEco Studio 项目鸿蒙(HarmonyOS)资源引用(自定统和系统)

DevEco Studio 项目鸿蒙(HarmonyOS)资源引用(自定统和系统) 一、操作环境 操作系统: Windows 10 专业版 IDE:DevEco Studio 3.1 SDK:HarmonyOS 3.1 二、资源访问 HarmonyOS应用资源分为两类,一类是应用资源&…

【数组Array】力扣-304 二维区域和检索 - 矩阵不可变

目录 题目描述 解题过程 labuladong题解 题目描述 给定一个二维矩阵 matrix,以下类型的多个请求: 计算其子矩形范围内元素的总和,该子矩阵的 左上角 为 (row1, col1) ,右下角 为 (row2, col2) 。 实现 NumMatrix 类&#xf…

计算机网络:应用层(二) Web与http协议

我最近开了几个专栏,诚信互三! > |||《算法专栏》::刷题教程来自网站《代码随想录》。||| > |||《C专栏》::记录我学习C的经历,看完你一定会有收获。||| > |||《Linux专栏》&#xff1…

如何连接到 Azure SQL 数据库(下)

在《如何连接到 Azure SQL 数据库(上)》中,我们已经了解到了以下内容↓↓↓ 开始之前:Azure 连接凭据和防火墙 如何检索 Azure 连接凭据如何配置服务器防火墙使用 SQL Server Management Studio 连接到 Azure使用 dbForge Studio…

QuickLook 万能的 Windows 预览工具

QuickLook 是一款用于 Microsoft Windows 操作系统的轻量级文件预览工具。它提供了类似于 Mac OS X 上的"快速查看"功能的体验,允许用户在不打开文件的情况下快速预览文件内容。我们只需要按下键盘空格键就可以预览文件,当预览的是 docx 等文件…

Linux第一个小程序——进度条

Linux第一个小程序——进度条 1. 前言2. 缓冲区概念3. \r && \n4. 进度条实现4.1 初级进度条4.2 升级进度条 1. 前言 在我们写这个小程序之前,我们要用到我们学的三个知识点 gcc的使用vim的使用make/makefile的使用 除此之外还需要一些其他的知识点&…

娱乐新拐点:TikTok如何改变我们的日常生活?

在数字时代的浪潮中,社交媒体平台不断涌现,其中TikTok以其独特的短视频内容在全球范围内掀起了一场娱乐革命。本文将深入探讨TikTok如何改变我们的日常生活,从社交互动、文化传播到个人创意表达,逐步改写了娱乐的新篇章。 短视频潮…

三层交换机原理与配置

文章目录 三层交换机原理与配置一、三层交换技术概述二、传统的 MLS三、基于CEF 的MLS1、转发信息库(FIB)2、邻接关系表3、工作原理: 四、三层交换机的配置1、三层交换机配置命令2、三层交换机配置步骤 三层交换机原理与配置 一、三层交换技…

网站服务器/域名/备案到底有什么关联?

​  在一个网站的组成中,网站服务器、域名、备案这几个要素是要被常提到的。在谈及三者关联之前,我们先了解下三者的各自概念。 域名:它是网站的唯一标识符,通俗理解来说就是用户在浏览器地址栏中输入的网址。一般来说&#xff…

【LeetCode刷题笔记(6-1)】【Python】【三数之和】【哈希表】【中等】

文章目录 三数之和题目描述示例示例1示例2示例3 提示解决方案1:【三层遍历查找】解决方案2:【哈希表】【两层遍历】 结束语 三数之和 三数之和 题目描述 给你一个整数数组 nums ,判断是否存在三元组 [nums[i], nums[j], nums[k]] 满足 i ! …

人工智能_机器学习066_SVM支持向量机_对偶问题转化_强对偶问题_弱对偶问题_弱对偶问题详解---人工智能工作笔记0106

上一节我们就得到了9,这个公式,这个公式要求,先去求maxL(x,lamada) ,也就是求,lamada是多少的时候,对应的, L(x,lamada) = f(x) + h(x) * lamada <=P 中的这个h(x) * lamada,最大,因为h(x)是小于0的也就是,lamada是什么的时候,h(x) * lamada最大,也就是越接近于0对吧. 然…

GaussDB如何创建和管理视图

GaussDB如何创建和管理视图 一、什么是视图 当用户对数据库中的一张或者多张表的某些字段的组合感兴趣&#xff0c;而又不想每次键入这些查询时&#xff0c;用户就可以定义一个视图&#xff0c;以便解决这个问题。 视图与基本表不同&#xff0c;不是物理上实际存在的&#x…

nginx反向代理实践指南:访问Tomcat

目录 前言1 实现的效果2 访问流程分析3 安装tomcat并测试4 配置4.1 在Windows系统的hosts文件进行域名和IP对应关系的配置4.2 在NGINX进行请求转发的配置&#xff08;反向代理配置&#xff09; 5 最终测试结论 前言 从Windows系统访问Tomcat Web应用程序&#xff0c;设置和配置…

字符串——OJ题

&#x1f4d8;北尘_&#xff1a;个人主页 &#x1f30e;个人专栏:《Linux操作系统》《经典算法试题 》《C》 《数据结构与算法》 ☀️走在路上&#xff0c;不忘来时的初心 文章目录 一、字符串相加1、题目讲解2、思路讲解3、代码实现 二、仅仅反转字母1、题目讲解2、思路讲解3…

Todesk、向日葵等访问“无显示器”主机黑屏问题解决

我的环境是 ubuntu 22.04 安装 要安装 video dummy&#xff0c;请在终端中运行以下命令&#xff1a; sudo apt install xserver-xorg-video-dummy配置 video dummy 的配置文件请自行搜索 使用任何文本编辑器打开此文件。 我的是 /etc/X11/xorg.conf 默认配置文件包含以下内…

Python等比例缩放图片并修改对应的Labelme标注文件(v2.0)

Python等比例缩放图片并修改对应的Labelme标注文件&#xff08;v2.0&#xff09; 前言前提条件相关介绍实验环境Python等比例缩放图片并修改对应的Labelme标注文件Json文件代码实现输出结果 前言 此版代码&#xff0c;相较于Python等比例缩放图片并修改对应的Labelme标注文件&a…

nodejs微信小程序+python+PHP血液中心管理平台的设计与实现-计算机毕业设计推荐

在二十一世纪的今天&#xff0c;我国献血总量已经不容小觑&#xff0c;在全国人民的不懈努力下&#xff0c;贫血、缺血的病人已经有了足够的血液保障。与此同时&#xff0c;采血工作和血液入库、出库等工作也日愈繁重。为进一步提高采血工作和血液中心的工作效率&#xff0c;开…

架构设计系列之常见架构(二)

五、DDD&#xff08;领域驱动设计&#xff09; 领域驱动设计&#xff08;Domain-Driven Design&#xff0c;DDD&#xff09;是一种开发思想&#xff0c;强调将软件系统的注意力集中在业务领域上&#xff0c;将领域视为应用的核心。在架构设计中&#xff0c;DDD 提供了一种不同…