当前位置: 网站首页 技术文章 正文

OpenCity大模型预测交通路况,零样本下表现亮眼,港大百度出品

来源:互联网 发布时间:2024-09-21 16:48:36

在交通预测领域,一项创新成果正在引领变革。香港大学携手华南理工大学与百度,共同推出了一款名为OpenCity的长时间城市交通预测模型,旨在克服传统交通预测模型在泛化性和长期预测能力上的不足。

OpenCity大模型预测交通路况,零样本下表现亮眼,港大百度出品

OpenCity的设计融合了Transformer架构与图神经网络,使其能够在大规模、异质性交通数据集上进行预训练,进而学习到丰富的、泛化性强的表征,适用于各种交通预测场景。相较于传统方法,OpenCity在以下几个方面展现出独特的优势:

OpenCity具备通用时空建模能力,能够处理不同空间区域和时间城市交通模式的多样性与变化。它具有卓越的零样本预测能力,无需在新环境中重新训练或微调,即能无缝适应。OpenCity能够快速适应不同情境,确保在各种场景中都能平稳运行。此外,OpenCity的可扩展性意味着它可以有效地适应新的、未见过的场景,无需额外大量的训练或微调。

面对长时间交通预测中的挑战,当前模型主要存在三大难题:跨区域空间泛化能力不足、时间泛化与长期预测能力有限,以及在学习有效通用表征和应对时空异质性方面的困难。为了解决这些挑战,OpenCity采取了一系列创新策略,例如采用实例归一化来处理数据分布偏移,以及使用基于Patch的方法来优化长期预测中的计算效率。

OpenCity通过时空上下文编码来捕捉交通数据中的复杂时空模式,不仅提高了模型对多方面因素的理解能力,还能在不同时间和地理区域内生成更为准确的预测。时间上下文编码利用周期性变化和复杂非线性依赖来提升长期预测精度,而空间上下文编码则通过整合交通网络中的空间上下文信息,来捕捉不同区域的交通特性。

OpenCity大模型预测交通路况,零样本下表现亮眼,港大百度出品

为了建模交通模式中的时空依赖关系,OpenCity采用了TimeShift Transformer架构。它从两个互补的角度出发:一是捕捉周期性的、反复出现的交通模式;二是学习交通数据随时间变化的动态模式。通过这种方式,OpenCity能够更好地发现并利用交通时间序列中的周期性特征。

OpenCity在多项测试中展现了出色的零样本预测性能,不仅在跨区域、跨城市和跨类型的零样本泛化能力上表现出色,还在多个交通数据类别中保持了高质量的结果。其强大的长期预测能力和监督学习评估中的优秀表现,进一步证明了OpenCity在交通预测领域的可靠性与多功能性。

通过消融实验,研究者们证实了动态交通建模、周期性交通转移建模、空间依赖性建模以及时空上下文编码等各个模块对OpenCity性能的贡献。此外,OpenCity在不同参数规模下的可扩展性研究显示,随着参数和数据规模的增长,其零样本泛化性能不断提升。

最后,与现有的大规模时空预测模型相比,OpenCity不仅在性能上保持优势,还在效率上有所改进,使其成为交通预测领域中一个强有力的大规模模型。

OpenCity大模型预测交通路况,零样本下表现亮眼,港大百度出品

欲了解更多关于OpenCity的信息,可访问:http://arxiv.org/abs/2408.10269GitHub:https://github.com/HKUDS/OpenCity项目组主页:https://sites.google.com/view/chaoh/home

相关教程