MetNet-3:Google 产品中最先进的神经天气模型

1724292992(1).jpg

预测降水、气温和风等天气变量是社会诸多方面的关键,从日常规划和交通到能源生产。随着洪水、干旱和热浪等极端天气事件不断增多,准确的预测对于预防和减轻其影响至关重要。未来的前 24 小时尤其重要,因为它们既可预测又可操作,可以帮助人们及时做出明智的决定并确保安全。

今天,我们介绍了一种名为MetNet-3 的新天气模型,该模型由 Google Research 和 Google DeepMind 开发。MetNet-3 在早期的MetNet和MetNet-2模型的基础上,为大量核心变量(包括降水、地表温度、风速和风向以及露点)提供长达 24 小时的高分辨率预测。MetNet-3 可创建时间上平滑且高度精细的预测,提前时间间隔为 2 分钟,空间分辨率为 1 至 4 公里。与传统方法相比,MetNet-3 实现了强大的性能,在多个地区的表现优于最好的单成员和多成员基于物理的数值天气预报(NWP) 模型(例如高分辨率快速刷新(HRRR) 和集合预报套件(ENS)),最长可提前 24 小时。

最后,我们将 MetNet-3 的功能集成到与天气相关的各种 Google产品和技术中。MetNet-3 目前在美国本土和欧洲部分地区可用,重点是 12 小时降水预报,它正在帮助为多个国家/地区和使用多种语言的人们提供准确可靠的天气信息。

     

MetNet-3 降水输出汇总为移动设备上 Google 搜索中可操作的预报。

稀疏观测的密集化

许多近期的机器学习天气模型使用传统方法(例如 NWP 的数据同化)生成的大气状态作为构建预报的主要起点。相比之下,MetNet 模型的一个决定性特征是使用对大气的直接观测进行训练和评估。直接观测的优势在于它们通常具有更高的保真度和分辨率。然而,直接观测来自不同高度的各种传感器,包括地面气象站和轨道卫星,并且可能具有不同程度的稀疏性。例如,从NOAA 的多雷达/多传感器系统(MRMS) 等雷达得出的降水估计值是相对密集的图像,而位于地面的提供温度和风等变量测量值的气象站仅仅是分布在一个区域内的点。

除了之前的 MetNet 模型中使用的数据源外,MetNet-3 还包括来自气象站的点测量作为输入和目标,目的是对所有位置进行预报。为此,MetNet-3 的关键创新是一种称为致密化的技术,它将基于物理的模型中传统的两步数据同化和模拟过程合并到神经网络的一次传递中。致密化的主要组成部分如下所示。虽然致密化技术单独应用于特定的数据流,但由此产生的致密化预测受益于进入 MetNet-3 的所有其他输入流,包括地形、卫星、雷达和 NWP 分析功能。MetNet-3 的默认输入中不包含任何 NWP 预测。

A ) 在训练期间,一小部分气象站从输入中被屏蔽,但仍保留在目标中。B )为了评估对未训练位置的泛化能力,一组用正方形表示的气象站从不用于训练,而仅用于评估。C )在评估过程中包括来自这些覆盖稀疏的气象站的数据,以确定这些区域的预测质量。D )最终预测使用全套训练气象站作为输入,并在空间参数共享的帮助下产生完全密集的预测。

空间和时间的高分辨率

使用直接观测的主要优势是其高空间和时间分辨率。例如,气象站和地面雷达站分别每隔几分钟在特定点和 1 公里分辨率下提供测量;这与最先进的模型ENS的同化状态形成鲜明对比,后者每 6 小时生成一次,分辨率为 9 公里,提供每小时预报。为了处理如此高的分辨率,MetNet-3 保留了该系列模型的另一个定义特征,即提前时间调节。以分钟为单位的预报提前时间直接作为神经网络的输入。这使得 MetNet-3 能够有效地模拟短至 2 分钟的观测间隔的高时间频率。密集化与提前时间调节和高分辨率直接观测相结合,可产生完全密集的 24 小时预报,时间分辨率为 2 分钟,同时仅从遍布美国的气象站 一分钟观测(OMO) 网络中的 1,000 个点进行学习。

MetNet-3 预测每个输出变量和每个位置的边际多项概率分布,该分布提供了除平均值之外的丰富信息。这使我们能够将 MetNet-3 的概率输出与高级概率集合 NWP 模型的输出进行比较,包括欧洲中期天气预报中心的集合预报 ENS和美国国家海洋和大气管理局的高分辨率集合预报(HREF) 。由于这两个模型的输出都具有概率性质,我们能够计算出连续排序概率得分(CRPS) 等分数。下图重点介绍了密集化结果,并说明 MetNet 的预测不仅分辨率更高,而且在重叠提前期进行评估时也更准确。

顶部:MetNet-3 对未来 24 小时内每 2 分钟风速的预测,空间分辨率为 4 公里。底部:ENS 每小时的预测,空间分辨率为 18 公里。空间结构中的两种不同状态主要由科罗拉多山脉的存在所驱动。颜色越深,

风速越高。更多示例可在此处查看:1、2、3、4 。

MetNet-3 与基于 CRPS 的 NWP 基线风速性能比较(值越低越好)。在超本地设置中,测试气象站的值在评估期间作为网络的输入;结果会进一步改善,尤其是在早期准备阶段。

与气象站变量相比,降水估计值更密集,因为它们来自地面雷达。MetNet-3 的降水建模与 MetNet-1 和 2 类似,但将 1 公里空间粒度的高分辨率降水预报扩展到与其他变量相同的 24 小时提前时间,如下面的动画所示。MetNet-3 在降水方面的表现在整个 24 小时范围内实现了比 ENS 更好的 CRPS 值。

2019 年 1 月 17 日星期四 00:00 UTC 的案例研究显示,美国大陆瞬时降水率超过 1 毫米/小时的概率。颜色越深,概率值越高。地图还显示了针对关键成功指数CSI(深蓝色轮廓)进行优化时的预测阈值。这一特定案例研究显示了美国中部形成了一种新的大型降水模式;它不仅仅是对现有模式的预测。

顶部: ENS 的每小时预报。中间:地面实况,来源 NOAA 的 MRMS。底部: MetNet-3 预测的概率图。原始分辨率可在此处获得。

MetNet-3 与 NWP 基线在 CRPS 上瞬时降水率的性能比较(越低越好)。

提供实时机器学习预测

使用历史数据训练和评估 MetNet-3 等天气预报模型只是向用户提供机器学习预报的一部分。开发用于天气预报的实时机器学习系统时需要考虑很多因素,例如从多个不同来源提取实时输入数据、运行推理、对输出进行实时验证、从模型的丰富输出中构建洞察以提供直观的用户体验,以及在 Google 规模上提供结果 — 所有这些都以连续的周期进行,每隔几分钟刷新一次。

我们开发了这样一种实时系统,能够每隔几分钟为整个美国本土和欧洲 27 个国家提供一次降水预报,预报时间长达 12 小时。

使用 MetNet-3 生成降水预报的过程说明。

该系统的独特之处在于它使用了近乎连续的推理,这使得模型能够根据传入的数据流不断创建完整的预测。这种推理模式不同于传统的推理系统,并且由于传入数据的不同特征而必不可少。该模型将各种数据源作为输入,例如雷达、卫星和数值天气预报同化。这些输入中的每一个都有不同的刷新频率以及空间和时间分辨率。一些数据源,例如天气观测和雷达,具有类似于连续数据流的特征,而其他数据源,例如 NWP 同化,则类似于批量数据。该系统能够在空间和时间上对齐所有这些数据源,从而使模型能够以非常高的节奏对未来 12 小时的降水情况进行更新理解。

通过上述过程,该模型能够预测任意离散概率分布。我们开发了新颖的技术,将这种密集的输出空间转化为用户友好的信息,从而为整个 Google 产品和技术带来丰富的体验。

Google 产品中的天气功能

世界各地的人们每天都依赖 Google 提供实用、及时且准确的天气信息。这些信息可用于多种用途,例如规划户外活动、打包行李以及在恶劣天气事件中保持安全。

MetNet-3 拥有一流的准确度、较高的时间和空间分辨率以及概率特性,因此可以创建独特的超本地化天气洞察。对于美国本土和欧洲,MetNet-3 已投入运营,可生成实时 12 小时降水预报,这些预报现已在与天气相关的 Google产品和技术(例如 Google 搜索)中提供。该模型的丰富输出被合成为可操作的信息,并立即提供给数百万用户。

例如,用户通过移动设备搜索某个精确位置的天气信息,将收到高度本地化的降水预报数据,其中包括根据产品细分为分钟的时间线图。

MetNet-3 在 Android 版 Google 应用(左)和移动网络搜索(右)上的天气降水输出。

结论

MetNet-3 是一种用于天气预报的新型深度学习模型,其性能优于最先进的基于物理的模型,可用于对一组核心天气变量进行 24 小时预报。它有可能为天气预报创造新的可能性,并提高许多活动(如交通、农业和能源生产)的安全性和效率。MetNet-3 已投入运营,其预报已在与天气相关的多种 Google 产品中提供。

致谢

许多人参与了这项工作的发展。我们要特别感谢来自 Google DeepMind(Di Li、Jeremiah Harmsen、Lasse Espeholt、Marcin Andrychowicz、Zack Ontiveros)、Google Research(Aaron Bell、Akib Uddin、Alex Merose、Carla Bromberg、Fred Zyda、Isalo Montacute、Jared Sisk、Jason Hickey、Luke Barrington、Mark Young、Maya Tohidi、Natalie Williams、Pramod Gupta、Shreya Agrawal、Thomas Turnbull、Tom Small、Tyler Russell)和 Google Search(Agustin Pesciallo、Bill Myers、Danny Cheresnick、Jonathan Karsh、Lior Cohen、Maca Piombi、Maia Diamant、Max Kamenetsky、Maya Ekron、Mor Schlesinger、Neta Gefen-Doron、Nofar Peled Levi、Ofer Lehr、Or Hillel、Rotem Wertman、Tamar Shevach、Vinay Ruelius Shah、Yechie)的贡献者。拉拜(Labai)。


版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

评论