TSNet: a foundation model for wireless network status prediction in digital twins

• Published in: Frontiers of information technology & electronic engineering Vol. 26; no. 2; pp. 301 - 308
• Main Authors: Song, Siyao, Sun, Guoao, Chang, Yifan, Zhao, Nengwen, Yu, Yijun
• Format: Journal Article
• Language: English
• Published: Hangzhou Zhejiang University Press 01.02.2025; Springer Nature B.V
• Subjects: Communications Engineering; Computer Hardware; Computer Science; Computer Systems Organization and Communication Networks; Correspondence; Digital twins; Electrical Engineering; Electronics and Microelectronics; Instrumentation; Networks; Wireless networks; 网络状态预测; 数字孪生; 基础模型; 通信网络
• ISSN: 2095-9184; 2095-9230
• DOI: 10.1631/FITEE.2400295

摘要预测网络未来状态是数字孪生网络的一个关键能力, 可帮助运维人员估计网络性能变化, 以提前采取相关操作。现有预测方法——包括统计方法、机器学习方法和深度学习方法——在泛化能力和训练数据依赖上存在诸多限制。为解决这些问题, 受自然语言处理和计算机视觉领域预训练与微调框架启发, 提出一个基于Transformer的基础模型TSNet, 用于预测多样化的网络性能指标。为了利用Transformer架构更好地建模时间序列, 引入频域注意力机制和时序分解。此外, 设计了一种轻量的微调策略, 使TSNet可以快速泛化到新数据或新场景。实验结果表明, 基于零样本的TSNet预测(无需任何训练数据)表现优于有监督的基线方法。使用少样本的微调策略, 预测准确性可进一步提升。整体而言, TSNet在多种数据上表现出较高的准确性和泛化能力。