基于偏微分方程的声波神经网络

神经网络是一种重要的机器学习算法，在地球物理学等领域的应用得到了迅速发展，这主要得益于其在数据建模、信号处理和图像识别等方面的强大能力. 然而，神经网络的数学基础和物理解释仍然十分不足，模型内部复杂性使得难以解释其决策过程，限制了神经网络的进一步发展. 利用数学和物理方法解释神经网络的行为仍然是一个具有挑战性的任务. 本文目标是从声波偏微分方程和有限差分方法出发设计一个声波神经网络结构，该方法将一阶声波方程转化为基于有限差分的离散化声波方程，声波方程有限差分格式与神经网络传播函数具有近似的数学表达形式，可以构建一种基于声波传播物理模型的神经网络. 声波神经网络的主要特点是：（1）具有压力-速度...

Full description

Saved in:
Bibliographic Details
Published in地球与行星物理论评 Vol. 55; no. 2; pp. 257 - 266
Main Authors 孙卫涛, 杨志芳, 晏信飞, Sun, Weitao, Yang, Zhifang, Xinfei, Yan
Format Journal Article
LanguageChinese
Published Beijing Editorial Office of Reviews of Geophysics and Planetary Physics 01.01.2024
清华大学周培源应用数学研究中心,北京100084%中国石油集团科学技术研究院有限公司,北京100083
清华大学航天航空学院,北京100084
Subjects
Algorithms
Differential equations
Neural networks
Partial differential equations
Physics
Sound waves
双流网络
interpretable neural network
可解释神经网络
adjoint variable method
声波方程
sound wave equations
伴随变量法
two-stream network
Online AccessGet full text

Cover

More Information
Summary:神经网络是一种重要的机器学习算法，在地球物理学等领域的应用得到了迅速发展，这主要得益于其在数据建模、信号处理和图像识别等方面的强大能力. 然而，神经网络的数学基础和物理解释仍然十分不足，模型内部复杂性使得难以解释其决策过程，限制了神经网络的进一步发展. 利用数学和物理方法解释神经网络的行为仍然是一个具有挑战性的任务. 本文目标是从声波偏微分方程和有限差分方法出发设计一个声波神经网络结构，该方法将一阶声波方程转化为基于有限差分的离散化声波方程，声波方程有限差分格式与神经网络传播函数具有近似的数学表达形式，可以构建一种基于声波传播物理模型的神经网络. 声波神经网络的主要特点是：（1）具有压力-速度耦合结构和层间跳跃连接的神经网络；（2）主变量-伴随变量双流网络结构改善了训练中的梯度消失问题. 从声波偏微分方程和有限差分算法出发建立的声波神经网络具有良好数学基础和清晰的物理解释，为在数学和物理方法框架内提高网络性能提供了可行性. 数值计算结果表明，声波神经网络在CIFAR-10和CIFAR-100数据集的图像分类任务中性能有明显提升，优于传统残差神经网络. 偏微分方程神经网络建模方法可以应用于许多其他类型的数学物理方程，并为深度神经网络算法提供数学和物理解释.
ISSN:2097-1893
DOI:10.19975/j.dqyxx.2023-017