11月1日，全国信息安全标准化技术委员会（以下简称“信安标委”）2023年第二次标准周全体会议在武汉举行。会议以“网络安全标准引领人工智能产业健康发展”为主题，重点围绕生成式人工智能安全相关国家战略、法规和政策要求，探讨生成式人工智能安全技术发展趋势，交流网络安全标准引领人工智能产业和生态建设需求。天融信科技集团董事长兼CEO李雪莹博士受邀出席全体会议并发表主题演讲，探讨人工智能与网络安全融合发展的新方向、新思路。

近年来，中国人工智能产业在政策与技术双重驱动下呈现高速增长态势。据相关数据显示，中国人工智能产业蓬勃发展，核心产业规模达到5000亿元，企业数量超过4300家，创新成果不断涌现。随着人工智能与网络安全的快速融合发展，新技术与新应用不断涌现，网络安全领域面临的风险与挑战也日趋严峻。

天融信科技集团董事长兼CEO 李雪莹博士

“AI是用交叉学科融合的方式来研究和开发人类智能的一种技术。对网络安全而言，AIGC正在使生产模式发生转变，在增强检测防护、提升交付能力、助力安全运营和加速安全智能化等方面，实现了对网络安全业务的‘提质增效’，为网络安全领域带来了新的发展机遇。同时，AIGC也在一定程度上推动着整个社会生产模式发生变化”。天融信科技集团董事长兼CEO李雪莹博士在《AI融合网络安全技术变革的新篇章》主题演讲中表示。

伴随AI发展的三个浪潮，AIGC经历萌芽、积累阶段，生成式人工智能（AIGC）已迈入飞跃阶段。大模型大“火”之前，网络安全领域就已将人工智能的预测、分析、抽取等能力，应用于威胁检测、恶意流量检测、威胁情报分析、行为分析、安全知识生产、数据分类分级等业务场景。但由于数据标注成本高、单体算力有限以及模型生成和决策能力不足等问题，人工智能赋能网络安全仍存在局限性。大模型的出现，给AI的发展带来了新的突破与转变。

其一，改变了模型的构建方式，以模型为中心的AI逐步向以数据为中心的AI转变；

其二，提升了零样本和小样本的学习能力，AIGC正在使生产模式发生转变。

AI赋能网络安全技术变革

信息化技术应用、安全威胁变化和国家政策法规是网络安全产业发展的三大驱动力，AI新突破也给“三大驱动力”带来了新的变化。

● 智能场景不断涌现，大模型技术加速了数字化发展，给网络安全带来广阔机遇；

● AI降低了攻击门槛，使得攻击手法更多、攻击数量更大，加剧网络安全威胁；

● 针对AI应用的安全监管评估体系、面向AI的网络安全标准体系逐步完善，推动网络安全建设落地。

人工智能可以说是一把双刃剑，在与网络安全融合发展、推动产业加速发展的同时，其背后隐藏着一系列安全风险，对国家安全、社会安全、网络安全及数据安全均提出了新的挑战。今年7月，《生成式人工智能服务管理暂行办法》的出台，体现了现阶段监管机构的态度，即“既要重视发展，也要重视风险”，统筹生成式人工智能发展和安全已成为当下关注的重点。系列政策法规以及标准的逐步完善给人工智能技术的发展指明新方向，依法合规使用技术并在监管中不断完善，才能更好地推动产业健康稳定发展。

网络安全标准引领AI发展

中央网信办牵头出台了多项人工智能领域相关管理文件，信安标委快速推进人工智能相关国家标准的制定工作，在多层面保障和推动着技术发展。作为信安标委等十余个标准化组织的成员单位，天融信累计参与国家标准、行业标准300余项，也在积极参与多项AI相关标准的编制。今年5月，《人工智能安全标准化白皮书（2023版）》正式发布，天融信作为网络安全领域独家参编单位，为《白皮书》编制贡献了丰富的研究成果和实践经验。

网络安全创新实践要从标准中来、到标准中去，以法律及标准为基础实践网络安全保护，在实践中探索可行的网络安全方法及工具，以实践经验促进标准的不断改进、提升。未来，天融信将积极推动AIGC安全、AI系统安全、AI网安产品三大方面的标准建设，全力支撑人工智能相关管理政策，构建完善的人工智能安全保障体系，促进人工智能技术在网络安全领域的应用。

TOPSEC

人工智能技术的不断突破带来了新的挑战与机遇。多年来，天融信持续关注人工智能的变革与发展，以“提质增效”为目标，不断拓展人工智能技术在网络安全领域的技术革新与应用，积极推动人工智能与网络安全领域有机融合，谱写网安发展新篇章。