MultiPathFormer:以多径物理特性为核心的无线通信基础模型新范式
针对现有无线通信模型忽视物理传播特性的痛点,研究提出MultiPathFormer,一种基于多径传播基础模型的无线信号预训练新范式。该模型摒弃传统的信道张量掩码重建,转而以多径传播为核心,将收发链路建模为有序路径令牌序列,并采用自回归预测策略。通过引入环境RAG机制与首径码本,模型在27个环境中预训练后,路径统计量估计精度最高提升59%。在定位、波束预测等下游任务中,其性能全面超越当前最先进模型,证明了路径级预训练在提取无线传播可重用表示方面的显著优势,为6G智能无线环境奠定了新的技术基石。
随着机器学习在无线通信领域的深入应用,训练能够支持信道估计、波束预测和定位等任务的无线基础模型已成为研究热点。然而,现有的无线基础模型通常侧重于对信道张量进行预训练,通过掩码重建子载波、天线或时间维度来学习特征,这种做法往往忽视了无线传播背后的物理特性,导致模型难以捕捉真实的传播规律。针对这一痛点,本研究提出了一种全新的预训练范式,即直接将多径传播作为基础预训练对象,并推出了MultiPathFormer模型。该模型的核心贡献在于打破了传统信道张量处理的局限,转而关注无线信号在空间中的物理传播路径。通过将每个发射-接收链路表示为有序序列的连续值路径令牌,MultiPathFormer利用自回归的下一路径预测机制进行预训练,从而能够更准确地建模无线环境的复杂结构。这一创新不仅提升了模型对无线传播特性的理解能力,也为后续在多种下游任务中的泛化性能奠定了坚实基础,标志着无线基础模型从数据驱动向物理感知驱动的重要转变。
在技术方法层面,MultiPathFormer构建了一个基于Transformer骨干网络的自回归基础模型。其独特之处在于引入了环境检索增强生成(Environmental RAG)机制以及首径码本(first-path codebook)。在传统的Transformer架构中,模型主要依赖序列内部的相关性进行预测,而MultiPathFormer通过RAG机制,将外部环境知识引入到路径统计量的估计过程中。这种设计使得模型在处理延迟和功率等关键路径参数时,能够参考类似环境的历史数据,从而显著提高了估计的准确性。具体而言,首径码本的使用帮助模型更好地识别和表征信号传播的第一条路径,这对于定位和波束成形任务至关重要。此外,模型采用连续值路径令牌来表示传播路径,保留了信号的连续物理特性,避免了离散化带来的信息损失。
通过这种结合环境知识与自回归预测的策略,MultiPathFormer能够在预训练阶段学习到更加丰富和鲁棒的无线传播表示,为后续的迁移学习和微调提供了高质量的特征基础。实验部分在27个不同的无线环境中对MultiPathFormer进行了全面评估,并测试了其在未见用户和全新环境中的迁移能力。结果显示,经过特定场景的微调后,MultiPathFormer的性能显著优于在相同新环境中从头训练的模型,证明了其预训练表示的可重用性。在多个下游任务中,该模型均达到了当前最先进水平。具体而言,在定位任务中,MultiPathFormer实现了5.57米的平均定位误差,展现了高精度的空间感知能力;在波束预测任务中,其Top-3波束准确率达到0.914,能够有效辅助天线阵列的快速波束对齐;在视距(LoS)分类任务中,准确率高达0.994,几乎完美区分了视距与非视距场景;在信道估计任务中,归一化均方误差(NMSE)仅为0.561,优于现有的基于信道的基线模型。消融实验进一步证实,环境RAG机制和首径码本对提升路径统计量估计精度起到了关键作用,其中延迟和功率的估计精度最高提升了59%。
这些结果不仅验证了MultiPathFormer的有效性,也展示了路径级预训练在无线通信任务中的巨大潜力。MultiPathFormer的提出对无线通信领域的开源社区、工业落地及后续研究具有深远意义。在开源社区方面,该模型为无线基础模型的研究提供了新的思路,即从关注信道数据本身转向关注物理传播机制,这有助于推动更多研究者探索物理信息嵌入的机器学习方法。在工业落地方面,MultiPathFormer在定位、波束预测等关键任务上的优异表现,使其有望直接应用于5G/6G网络的优化中,降低基站部署和运维成本,提升用户体验。特别是在动态无线环境中,模型良好的泛化能力意味着它可以适应不同的用户和场景,减少了对大量标注数据的依赖。对于后续研究而言,MultiPathFormer证明了路径级预训练的有效性,鼓励学者进一步探索如何将其他物理特性(如多普勒频移、角度扩展等)融入基础模型中。此外,环境RAG机制的引入也为跨域知识迁移提供了新的技术路径,可能在未来推动无线通信与地理信息系统、数字孪生等领域的深度融合,开启智能无线通信的新篇章。