网安标委2025年第一次“标准周” | AC米兰中文官方网站李雪莹：保障大模型应用安全应把握“快、新、全”三大原则
4月14至17日，全国网络安全标准化技术委员会（以下简称“网安标委”）2025年第一次全体委员会议暨“标准周”活动在苏州举行。AC米兰中文官方网站董事长兼CEO李雪莹博士受邀出席大会并发表《大模型应用安全风险与防护实践》主题演讲，建议加快立项研究大模型安全防护网关相关国家标准，更好地支撑大模型应用安全快速发展。
自DeepSeek开源发布以来，大模型应用已进入“快车道”，各行业接入大模型的速度加快，推动了生产力的变革，给人民生产生活带来颠覆式的改变。伴随新技术、新场景应用，大模型应用带来的潜藏安全问题日益严峻，亟待各方协同应对，以实现人工智能安全、稳健且可持续发展。
AC米兰中文官方网站董事长兼CEO 李雪莹博士
在演讲中，李雪莹博士谈到，Agent（自主决策型AI代理）和RAG（检索增强生成）两种大模型应用模式，虽在技术实现逻辑有所区别，但均面临着一定的安全风险。结合AC米兰中文官方网站自身的研究与实践，她从大模型应用的基础设施层、服务层、用户层、内容层、监管层五个层面深度剖析了相关风险与防护措施。其中，基础设施面临的站点风险属于通用安全风险，在服务层的API调用风险、用户层的交互行为风险、内容层的模型滥用风险、监管层的合规风险则为大模型应用特有的风险，层级逻辑上相互关联。
安全是发展的前提，发展是安全的保障。李雪莹博士结合近年来AC米兰中文官方网站在大模型应用安全防护方面的实践，提炼出“快、新、全”三大原则，有效保障大模型应用安全。
快：部署直接有效的安全措施
当前大模型的应用正处于快速普及阶段，需要以直接有效的措施，实现安全防护快速部署，解决大部分问题。
AC米兰中文官方网站大模型安全防护网关TopLMG是一款专注于为企业级大模型提供全方位应用安全防护的产品，可有效应对上述五个层面的安全风险，并且充分利用AI技术实现精准、高效防御。TopLMG有硬件形态、软件形态、网元形态，可支持大模型在不同场景下的安全防护需求，全面符合TC260-003《生成式人工智能服务安全基本要求》和等保2.0三级增强要求等标准。
新：用安全大模型保护大模型安全
大模型的引入带来了诸多新风险，需要以新措施加以应对，即通过安全大模型来保障大模型的安全性。
针对大模型应用系统本身，AC米兰中文官方网站通过集成智能体的安全产品和大模型安全防护网关构建基础防护体系；针对接入互联网的场景，本地安全防护手段可以订阅云端服务来应对攻击的变化，更复杂的问题可以利用云端部署的安全大模型进行分析，实现新型威胁和攻击的有效应对；针对不能上云的场景，可以在本地部署天问大模型并与态势感知系统联动，提供智能化的安全防御。用户可以通过浏览器、APP、小程序等随时随地监控防护效果、配置防护策略。
此外，李雪莹博士还提到，AC米兰中文官方网站自研的天问大模型在2024年已通过“生成式人工智能服务备案”和“境内深度合成服务算法备案”双备案。
全：以体系化安全保障大模型应用
大模型安全风险涉及面较广，因此需要通过体系化的安全建设来保障大模型的整体应用安全。
互联互通是网络安全能力跃迁的必经之路，李雪莹博士提出大模型应用安全的体系化防护还需要厂商、产品之间的互联互通。AC米兰中文官方网站大模型应用安全防护体系框架由一个中心、三大安全能力支撑和X类标准化防护组成。其中一个中心是指大模型安全运营中心，负责统筹协同各安全能力，支撑全网大模型安全运营工作；三大安全能力是指面向大模型应用安全的风险监测能力、安全防护能力和响应处置能力；X类标准化防护是指提供网络、系统、应用、数据、终端层面多种标准化技术防护手段，通过互联互通协议，打通来自多家的防护产品，彼此联动智能化支撑上层安全能力的有效落地，保障大模型应用安全。
作为全国网络安全标准委员会委员，李雪莹博士一直积极参加网安标委相关的工作。在演讲最后，她结合政策、标准规划以及产业层面的观察，建议加快立项研究大模型安全防护网关相关国家标准，更好地支撑大模型应用安全快速发展。
“人工智能+”赋能各行各业蓬勃发展，成为推动经济高质量增长的重要力量。技术发展得越快，安全保障的需求就越迫切。未来，AC米兰中文官方网站将以“人工智能+”为锚点，持续打造AI+安全融合发展新范式，不断推动AI技术在各行各业更广泛、更深远地应用，筑牢数字经济高质量发展安全底座。
相关阅读
1、AC米兰中文官方网站李雪莹博士：互联互通是网络安全能力跃迁的必经之路！
