5月18日，2024西湖论剑·AI引领数字安全新浪潮专题会议在杭州召开。业界代表围绕AI+安全这一主题，共探AI引领数字安全新质生产力的发展之道，共预数字安全新未来。

　　人工智能的蓬勃发展，为数字安全领域带来了全新的生态环境和产业格局。在拥抱AI的同时，也要严防AI可能带来的数据泄露、深度伪造等风险。以AI对AI、以AI管AI，成为推动人工智能与网络安全技术的深度融合、构建数字安全新质生产力、为经济社会发展和国家安全提供有力保障的选择。

　　如何在享受技术红利的同时，构建更加坚固的数字安全屏障，实现传统网络与数据安全的革命性升级，打造新型的AI+网络和数据安全体系？CCF计算机安全专业委员会常务副主任、公安部第一研究所副所长于锐对此提出四点建议：一是加强协同创新，共建安全生态；二是开展技术革新，驱动安全升级；三是加大法规引领，保障健康发展；四是强化人才培养，强化安全根基。

　　“人工智能安全的保障将成为人工智能可靠可控应用的重要基础。”中国科学技术大学网络空间安全学院执行院长俞能海认为，规避AIGC风险不能单纯依赖智能算法，需要将人创造能力与AI的生成能力有效结合。可以从“利用AIGC合成内容鉴别，应对AI的恶意应用”“通过大模型纠偏，提升AI的安全能力”“借助生成式模型水印，保护AI赋能的系统”三个维度推进相关工作。

　　安永（中国）企业咨询有限公司合伙人王坚表示，AI大模型技术演进路线可能沿着六大维度发展：一是大模型参数数量激增；二是多模态学习处理多种数据类型的应用和场景；三是提高模型训练和推理的效率和可持续性；四是提升模型决策过程的透明度和可解释性；五是具备连续学习能力；六是确保模型在恶意攻击下的稳定性和安全性。

　　当前，安全产业存在安全天平和能力鸿沟等问题，AI时代下的数据安全、内容安全、业务安全、供应链安全等问题尤为突出。在此背景下，杭州人工智能学会副秘书长、安恒信息研究院院长王欣表示，AI+安全是安全未来发展的巨大方向，并表示未来AI之于安全的应用趋势有八个方向，其中，以大模型为核心的AI智能体（AI Agents）将成为安全产业的标配，越来越多的AI Native工具将成为Agent的“手和脚”。

　　如何在大模型训练和推理时，解决数据既要利用又要保护的矛盾需求？安恒信息隐私计算事业部总经理陶立峰介绍，通过将可信执行环境、机密计算与大模型训练框架结合，构建基于机密计算的大模型训练与推理的数据围栏，再结合全流程的加密、授权与审计、审批等管控手段，就能够实现基于场景的最小化数据授权，同时确保数据在受控环境之下不会被滥用。

　　会上，针对大模型开发及大规模AI计算系统的挑战，安恒信息发布了昇腾-恒脑推理一体机，全流程加速大模型的创新与落地。安恒信息研究院创新业务部总经理姚龙飞提出，大模型的下半场是智能体的大爆发。他以恒脑安全垂域大模型为例，介绍了安恒信息以智能体为核心驱动产品、业务进行结合的探索与应用。

　　此外，海亮-安恒联合创新实验室揭牌仪式也在会上同步举行，实验室将依托安恒信息恒脑安全大模型及生态资源，结合海亮集团丰富的行业数据及数据安全实践，共同构建数据安全领域解决方案，推进国家、行业、团体等数据安全标准规范的研制，探索大模型+数据安全的应用落地，打造国内大模型+数据安全的先进标杆案例，形成产业合力。

　　哪些行业或领域在引入大模型技术后将会有显著的效果和光明的发展前景？安全和发展该如何平衡？未来可能出现哪些全新应用场景或商业模式？圆桌对话环节，教育部新工科联盟网络空间安全工委会主任委员、俄罗斯国家工程院外籍院士胡瑞敏，阿里研究院数据经济研究中心副主任王峥，华为制造与大企业军团解决方案副总裁余倬，安恒信息研究院副院长税雪飞等嘉宾围绕“大模型在各行业的应用潜力与安全影响”展开对话交流。

　　就生成式AI的安全挑战这一问题，CSA大中华区研究院副院长黄连金指出，主要包括影子AI、自动化和可拓展的威胁与零日漏洞、安全工具集成、恶意工具、大模型聚合导致的数据泄露，以及使用AI导致原先的权限策略问题更加凸显等。

　　据了解，本次专题会议由浙江省科学技术协会指导，杭州市科学技术协会主办，杭州市人工智能学会、中国计算机学会计算机安全专业委员会、云安全联盟大中华区、西电杭州研究院、安恒信息联合承办。（雷渺鑫）