深度学习模拟器网络搜索（DENSE）技术的开发与应用

来自多个物理和地质实验室的研究人员开发了一种名为Deep Emulator Network SEarch (DENSE)的技术，该技术利用深度学习进行从高能物理到气候科学等多个领域的科学模拟。与以往的模拟器相比，DENSE的模拟速度提升了1000万到20亿倍。

技术背景与动机

科学家们通常使用计算机模拟（即数学模型的计算机实现）来测试新想法和探索自然系统的潜在行为。然而，这些模拟即使在现代计算机硬件上运行也可能非常缓慢，例如全球气候模型可能需要数千个CPU小时。为了加速模拟过程，研究团队开发了DENSE技术，旨在生成神经网络模拟器以替代传统模拟器。

DENSE技术的核心

DENSE技术基于神经架构搜索（NAS），通过定义一种超级架构来约束搜索空间。该超级架构是一个节点图，节点之间通过卷积神经网络（CNN）层、恒等层（跳跃连接）和零层等操作连接。研究团队从超级架构空间中采样候选网络并进行训练，最终通过验证数据集选择表现最佳的网络。

实验与应用

研究团队使用DENSE技术为10个不同领域的模拟案例构建了模拟器，包括：

• 高能密度物理
• 天体物理学
• 聚变能源科学
• 气候科学
• 地球科学

每个模拟器通过随机输入数据运行14,000次生成训练数据，但对于需要数百或数千CPU小时的模拟器，仅生成了不到1,000个数据点。实验结果表明，模拟器的输出与原始模拟器的输出高度一致，且运行速度大幅提升，从“分钟到天”缩短到“毫秒到几秒”。DENSE在性能上优于其他非神经网络模拟器，如随机森林或手动设计的神经网络。

优势与前景

DENSE技术的优势在于：

• 高效性：大幅加速模拟过程，允许研究人员快速测试多种想法。
• 准确性：即使在训练数据有限的情况下，仍能提供高精度的模拟结果。
• 通用性：适用于多个科学领域，且所需训练数据较少。

论文合著者Duncan Watson-Parris指出，模拟器虽然只模拟模型的一个方面，但正是研究人员关心的部分，使得参数优化和不确定性量化成为可能。他还提到，关于气候方面的详细报告即将发布。

结论

DENSE技术通过深度学习加速科学模拟，展示了在多个领域的广泛应用潜力，特别是在处理复杂和耗时模拟任务时表现出色。这一技术的成功应用为未来的科学研究提供了新的工具和方法。