近日，人工智能与自动化学院人工智能安全实验室2023级工程博士研究生王首越与武汉国创超算科技有限公司联合研发，创新出品全国首款增强安全AI一体机。成果突破现有的AI大模型防护方法注重系统单点或局部安全的局限性问题，为AI大模型提供了一套全局性、系统化、完整化的信息安全防护流程，覆盖大模型全生命运行周期与服务全流程，为高价值AI系统信息安全防护提供了系统级解决方案，提高了大模型在私有化部署下的安全能力。
图为联合研发出品的增强安全AI一体机
二十大报告指出，人工智能是国家战略的重要组成部分，是未来国际竞争的焦点和经济发展的新引擎。国家互联网信息办公室公布的最新数据显示，截至2025年3月31日，我国共有346款生成式人工智能服务完成备案，大模型成为赋能企业数字化转型的新标配。随着以GPT-4、DeepSeek等为代表的千亿级参数AI大模型进入产业化应用阶段，在提升各垂直行业智能化的同时，AI大模型面临的安全威胁呈现出指数级增长态势。AI大模型安全应用中的信息安全威胁主要包括数据投毒、模型窃取、对抗样本和后门攻击等。数据投毒攻击通过构造特殊查询指令，利用模型输出中的隐蔽通道窃取训练数据中的敏感隐私信息；模型窃取攻击采用黑盒查询与逆向工程技术，非法获取目标模型的架构参数或决策边界特征，造成模型隐私泄露；对抗样本攻击对输入数据施加人眼不可见的特定扰动，诱导模型产生错误分类或异常输出，破坏系统可靠性；后门攻击则在模型训练阶段植入恶意样本，使特定触发模式（如图像水印）输入时激活预设的异常行为，形成系统性安全漏洞。上述信息安全威胁形成数据安全、模型安全与应用可靠性的多维度威胁，并在大模型部署、训练运维等全生命周期中引发系统性安全崩塌风险。
图为大模型全生命周期过程面临信息安全威胁示意图
增强安全AI一体机通过“输入防护-模型加固-输出防护”的信息安全防护框架系统化加固大模型服务全流程，并通过攻防测试实验验证该框架在应对模型窃取、敏感信息泄露、提示注入、后门攻击等多类攻击场景下的防御有效性。通过软件解析+硬件加密的方法实现模型输入的精准防护，通过基于设备指纹的身份认证，拦截不可信节点的恶意服务请求，并基于真随机数的密码卡对合法用户的密文输入和模型输出进行加解密操作；并对模型接入的流量与模型输出进行过滤和清洗，实现模型的安全可信输入输出，深度保护模型隐私安全。模型加固部分由对抗训练与模型防御优化构成，对抗训练部分通过差分隐私等加密技术，保护模型参数与隐私信息并通过对抗样本训练增强模型防御能力；同时通过防御优化模块，在不影响模型性能的前提下对模型结构进行鲁棒优化，增强AI大模型对对抗样本污染等信息安全威胁的抵抗能力，形成了从输入到输出，以大模型为载体的全流程、纵深式大模型信息安全防御架构。
图为增强安全AI一体机解决方案
王首越作为人工智能与自动化学院首批工程硕博士培养改革专项计划博士生，在校期间以主要成员先后参与国家重点研发计划项目、国家自然科学基金、深圳市自然科学基金等多个课题研究。本次增强安全AI一体机是王首越科研工作的一部分，在人工智能与自动化学院胡晓娅教授指导下完成。
人工智能与自动化学院高度重视科研成果的转化，积极推动科研成果与行业需求的紧密结合，持续推进工程硕博士培养改革专项计划；依托产学研平台，系列成果成功落地多家企业，学院与企业相互赋能、联合研发、技术攻关、持续创新，实现先进技术与实用产品之间的紧耦合。
相关视频：全国首个增强安全AI一体机在汉投入商用
相关链接：自主创新 武汉出品 全国首款增强安全AI一体机
人工智能与自动化学院胡晓娅团队联合企业推出国内首款增强安全AI一体机-华中科技大学新闻网
