专家论坛--电磁频谱人工智能模型的对抗安全威胁综述

作   者：张思成，张建廷，杨研蝶，杨凇麟，姜航，宣琦，林云

摘   要：电磁频谱在现代社会中扮演着至关重要的角色，是国家战略资源，为通信、导航、科学研究和国防等领域提供关键支持。为应对电磁频谱高效管理与利用中的诸多挑战，人工智能（Artificial Intelligence，AI）技术在物理层中被广泛应用。然而，研究发现AI模型对于数据的依赖导致其在训练和测试阶段容易受到恶意攻击。为推动针对电磁频谱AI模型的攻击与防御相关研究的发展，保障AI模型的安全应用，提升电磁安全能力，对电磁频谱物理层AI模型的对抗攻击方法进行了回顾，包括在训练阶段和测试阶段的攻击原理与方法。从数据、模型以及电磁信号特性的角度回顾了对抗攻击的评测工作。展望了攻击、评测和系统研发三个具有潜力的研究方向，并做出了总结。

关键词：电磁频谱安全；人工智能模型；数据投毒；后门攻击；对抗样本

文献来源：张思成，张建廷，杨研蝶，等． 电磁频谱人工智能模型的对抗安全威胁综述[J]． 无线电通信技术，2024,50(1):1-13.

doi:10.3969/j.issn.1003-3114.2024.01.001