首页 > 科技服务> 服务动态

人工智能所牵头的大模型安全能力评价方法行业标准通过立项

发布时间:2025年12月08日 15:52

《移动互联网智能应用安全能力评价体系 大模型安全能力评价方法》成功通过立项审查

《移动互联网智能应用安全能力评价体系 大模型安全能力评价方法》成功通过立项审查

12月4日,在中国通信标准化协会(CCSA)TC11第34次全体会议上,北京市科学技术研究院(简称“北科院”)牵头申请的行标《移动互联网智能应用安全能力评价体系 大模型安全能力评价方法》成功通过立项审查,正式获得批准。信息与人工智能技术研究所(简称“人工智能所”)丁超越博士进行了立项答辩。 

随着大语言模型广泛嵌入移动互联网智能应用(如智能搜索、内容生成、语音助手、个性化推荐、人机交互等),大模型已成为此类移动应用的核心“智能引擎”,其安全性直接影响用户数据保护、内容可信度与应用稳定性。移动场景具有端云协同、终端资源受限、调用链路复杂、交互入口多样化和私域化部署(企业/垂类/专业模型广泛存在)等特点,这些特点放大了大模型面临的攻击面与风险。该标准聚焦大模型快速发展背景下的安全风险与监管需求,围绕“训练安全、部署安全、更新维护安全”等关键环节,拟建立一套科学、系统、可验证的大模型安全能力评价方法。该标准的制定将进一步规范行业实践,提升移动互联网智能应用的安全能力水平,为产业高质量发展提供技术支撑。 

本次立项的顺利通过,得益于中国电信集团有限公司、中国移动通信集团有限公司、中国信息通信研究院等各参编单位对牵头单位的积极配合,以及来自小米、华为、苹果、三星等企业的专家组对项目方向和技术路线的充分认可。这标志着北科院在移动互联网智能应用安全以及大模型安全标准化领域迈出了重要一步,为构建我国新一代人工智能安全标准体系奠定了基础。下一步,人工智能所将继续按照CCSA的工作部署,牵头组织标准编写工作,深化对大模型安全风险的系统研究,推动形成具有前瞻性、可操作性和广泛适用性的行业标准成果。

此次立项不仅体现了我单位在人工智能安全领域的研究积累和技术优势,也为未来开展大模型安全能力建设、人工智能治理体系完善等工作奠定了坚实基础。我们将持续发挥科研与标准化优势,为国家人工智能安全治理贡献更大力量。


(信息与人工智能技术研究所)