MultiPathFormer：基於多徑傳播基礎模型的無線信號預訓練新範式
本文提出了MultiPathFormer，一種面向無線傳播的基礎模型，旨在解決現有模型忽視無線傳播物理特性的問題。不同於以往基於信道張量掩碼重建的方法，該模型以多徑傳播為核心預訓練對象，將發射-接收鏈路表示為有序連續值路徑令牌序列，並採用自回歸的下一路徑預測策略進行預訓練。研究引入了環境RAG機制和首徑碼本，利用環境知識顯著提升延遲和功率等路徑統計量的估計精度，最高提升達59%。在27個環境中預訓練後，該模型能遷移至未見用戶，並在特定場景微調後優於從頭訓練的模型。在定位、波束預測、視距分類和信道估計等下游任務中，MultiPathFormer均優於當前最先進的基礎模型，實現了5.57米的平均定位誤差、0.914的Top-3波束準確率、0.994的視距分類準確率以及0.561的信道估計NMSE。這些結果證明了路徑級預訓練在學習無線傳播可重用表示方面的有效性。
随着机器学习在无线通信领域的深入应用，训练能够支持信道估计、波束预测和定位等任务的无线基础模型已成为研究热点。然而，现有的无线基础模型通常侧重于对信道张量进行预训练，通过掩码重建子载波、天线或时间维度来学习特征，这种做法往往忽视了无线传播背后的物理特性，导致模型难以捕捉真实的传播规律。针对这一痛点，本研究提出了一种全新的预训练范式，即直接将多径传播作为基础预训练对象，并推出了MultiPathFormer模型。该模型的核心贡献在于打破了传统信道张量处理的局限，转而关注无线信号在空间中的物理传播路径。通过将每个发射-接收链路表示为有序序列的连续值路径令牌，MultiPathFormer利用自回归的下一路径预测机制进行预训练，从而能够更准确地建模无线环境的复杂结构。这一创新不仅提升了模型对无线传播特性的理解能力，也为后续在多种下游任务中的泛化性能奠定了坚实基础，标志着无线基础模型从数据驱动向物理感知驱动的重要转变。
在技术方法层面，MultiPathFormer构建了一个基于Transformer骨干网络的自回归基础模型。其独特之处在于引入了环境检索增强生成（Environmental RAG）机制以及首径码本（first-path codebook）。在传统的Transformer架构中，模型主要依赖序列内部的相关性进行预测，而MultiPathFormer通过RAG机制，将外部环境知识引入到路径统计量的估计过程中。这种设计使得模型在处理延迟和功率等关键路径参数时，能够参考类似环境的历史数据，从而显著提高了估计的准确性。具体而言，首径码本的使用帮助模型更好地识别和表征信号传播的第一条路径，这对于定位和波束成形任务至关重要。此外，模型采用连续值路径令牌来表示传播路径，保留了信号的连续物理特性，避免了离散化带来的信息损失。
通过这种结合环境知识与自回归预测的策略，MultiPathFormer能够在预训练阶段学习到更加丰富和鲁棒的无线传播表示，为后续的迁移学习和微调提供了高质量的特征基础。实验部分在27个不同的无线环境中对MultiPathFormer进行了全面评估，并测试了其在未见用户和全新环境中的迁移能力。结果显示，经过特定场景的微调后，MultiPathFormer的性能显著优于在相同新环境中从头训练的模型，证明了其预训练表示的可重用性。在多个下游任务中，该模型均达到了当前最先进水平。具体而言，在定位任务中，MultiPathFormer实现了5.57米的平均定位误差，展现了高精度的空间感知能力；在波束预测任务中，其Top-3波束准确率达到0.914，能够有效辅助天线阵列的快速波束对齐；在视距（LoS）分类任务中，准确率高达0.994，几乎完美区分了视距与非视距场景；在信道估计任务中，归一化均方误差（NMSE）仅为0.561，优于现有的基于信道的基线模型。消融实验进一步证实，环境RAG机制和首径码本对提升路径统计量估计精度起到了关键作用，其中延迟和功率的估计精度最高提升了59%。
这些结果不仅验证了MultiPathFormer的有效性，也展示了路径级预训练在无线通信任务中的巨大潜力。MultiPathFormer的提出对无线通信领域的开源社区、工业落地及后续研究具有深远意义。在开源社区方面，该模型为无线基础模型的研究提供了新的思路，即从关注信道数据本身转向关注物理传播机制，这有助于推动更多研究者探索物理信息嵌入的机器学习方法。在工业落地方面，MultiPathFormer在定位、波束预测等关键任务上的优异表现，使其有望直接应用于5G/6G网络的优化中，降低基站部署和运维成本，提升用户体验。特别是在动态无线环境中，模型良好的泛化能力意味着它可以适应不同的用户和场景，减少了对大量标注数据的依赖。对于后续研究而言，MultiPathFormer证明了路径级预训练的有效性，鼓励学者进一步探索如何将其他物理特性（如多普勒频移、角度扩展等）融入基础模型中。此外，环境RAG机制的引入也为跨域知识迁移提供了新的技术路径，可能在未来推动无线通信与地理信息系统、数字孪生等领域的深度融合，开启智能无线通信的新篇章。