PINN求解Helmholtz方程：一阶方法求解Helmholtz的问题探索

近年来，数据驱动的深度学习方法在自然语言处理、计算机视觉等领域中给出很多复杂应用问题的解决方案。在计算模拟领域，机理+数据驱动融合的计算方法不断发展，成为数值模拟现实问题的新范式。

偏微分方程（PDE）在科学计算中占有核心地位，而最新的研究已经提出了多种数据驱动的方法来求解 PDE 问题。特别是物理信息神经网络（Physics-Informed Neural Networks, PINNs）已经广泛地用于求解 PDEs。

本期我们来到 AI for PDE 领域中的物理信息神经网络方法 (Physics-Informed Neural Networks, PINNs) ，展示 PINNs 方法求解 Helmholtz 方程遇到的困难并简要提出可能的解决方法 RFM (Random Feature Method) 方法！我们从建模波传播规律的 Helmholtz 方程出发，Helmholtz 方程是波动方程的时谐解，广泛应用于电磁辐射、地震学和声学等领域的研究中。

传统数值方法在求解高频（高波数）Helmholtz 方程时会遇到巨大的计算负担，而数据驱动方法也面临同样的挑战。PINN 方法尤其难以收敛。

在这个 Notebook 中我们将分为以下五个部分：

1. 我们简要的介绍 Helmholtz 方程，并从波动方程，推导出 Helmholtz 方程。
2. 我们确定数据驱动方法求解 Helmholtz 方程问题的所在，通过比较 PINN 的 Loss 和直接拟合解函数的 L2 Loss。我们发现PINN难以收敛的原因是 PINN 的优化问题无法有效求解。
3. 我们通过代码展示 PINN 在高波数下(如图一和图二)无法有效求解 Helmholtz 方程的问题。然后我们借助深度学习最优化方法的理论，发现因为优化矩阵的 L_2 范数过大，且会随波数增大而增大(如图三)导致一阶算法收敛缓慢。
4. 提出 RFM (Random Feature Method) 方法作为二阶算法可以解决这个问题。
5. 我们观察优化矩阵 L_2 范数在训练中的稳定性，我们发现优化矩阵的 L_2 范数始终过大，这也意味着 PINN 的 Loss 始终难以训练。

                        图一. 波数 k = 1 时 Loss 随 Epoch 数的变化

                        图二. 波数 k = 10 时 Loss 随 Epoch 数的变化

                        图三. 矩阵二范数随波数 k 的变化

更多的细节，让我们用这个 Notebook 来试试求解 Helmholtz 的正问题，看看波数高低对 PINN 求解 Helmholtz 方程的影响。并且理解如何用深度学习最优化的理论来理解波数高低对 PINN 求解 Helmholtz 方程的影响。

---

PINNHelm Notebook

本期 Notebook 将以 Helmholtz 方程为例，介绍 PINN 求解 Helmholtz 方程，深度学习最优化的基本内容，并讨论方程的波数，矩阵范数对问题求解的影响。阅读这个 Notebook 不需要很强的科学计算或者机器学习的背景知识，只需具备基本的数学和编程知识。

如果你感兴趣 AI for PDE，本期 Notebook 会是你的一个好的起点。

欢迎阅读原文加入「NBHub｜AI4PDE」交流群，碰撞你的 AI4PDE 思考！