点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:齐向东:重塑内生安全体系,升维AI时代安全力
首页> 网安频道> 要闻 > 正文

齐向东:重塑内生安全体系,升维AI时代安全力

来源:光明网2025-09-23 18:38

  9月23日,第三届网络空间安全(天津)论坛开幕式及主论坛在天津举行。专家、学者和科研院所、金融机构、高校以及国内外知名企业代表齐聚一堂,深入探讨网络空间安全形势,广泛分享网络安全治理理念,共同商讨网络安全应对策略。

  全国政协委员、全国工商联副主席、奇安信集团董事长齐向东作“重塑内生安全体系 升维AI时代安全力”主题演讲,从风险防范、能力升级、体系重塑三个维度,结合奇安信的实践经验,为应对AI时代网络安全挑战提供了清晰路径。

  当前,AI技术正以“超人化”态势深刻重塑各行业,大模型与智能体成为生产力升级的“新引擎”,却也带来前所未有的安全隐患。齐向东形象地将AI大模型、智能体比作“AI超人”,其拥有超级权限、无所不能,一旦被劫持或攻击,可能对数据安全、业务安全、发展安全产生连锁影响。不接纳AI将被时代淘汰,接纳则需直面安全挑战。

  基于近百个行业场景的攻防实战经验,奇安信总结出防范“AI超人”安全风险的核心在于管住“框、数、人、链”四个关键环节。

  一是管住“框”,守住AI自身安全的“第一道门”。“框”指的是对话框、传感器等AI“超人”的交互入口。当前大量AI应用存在“重功能、轻安全”问题,易遭提示词注入、越狱攻击等。

  二是管住“数”,攥紧AI时代的“核心资产”。“数”是AI的“燃料”,AI应用深化推动数据安全进入“小数据决定大价值”阶段。为最大化AI效能,企业纷纷将分散的数据“去粗取精”,形成高价值、集中化的“精华小数据”。这些“精华小数据”一旦泄露,核心竞争力将受损。

  三是管住“人”,防范安全链条的“最大变量”。AI时代需防范的“内鬼”范围从传统管理员、技术员、操作员,扩展至数据管理员、数据标注员、算法工程师、模型运维工程师。他们往往掌握高级权限,若被利用可能从内部瓦解安全防线。

  四是管住“链”,避免安全风险的“链式爆炸”。AI“超人”无法独立存在,必须依托生态链、供应链才能运转,其中任一薄弱环节都可能引发大规模网络攻击,需重点关注云环境漏洞与第三方开发运维中等问题。

  “AI超人”不断冲击现有安全手段,要求我们加快重塑安全体系,突破看见“盲区”、看见异常、看见实效“三看”瓶颈。

  面对“四管”风险和“三看”瓶颈,齐向东提出重塑内生安全体系的四步策略。

  第一步是抓落地,部署大模型卫士,筑牢场景化防护屏障。如“管控-检测-溯源”三位一体防护框架及大模型卫士等相关产品,无需改造大模型即可轻量化接入现有AI应用,能有效防御多种新型风险。

  第二步是向左移,强化大模型全生命周期的安全评估,前置风险防控,把安全风险“扼杀在源头”。AI时代,必须将安全评估嵌入AI模型研发、部署、运维全生命周期。

  第三步是促升级,通过AI全面赋能安全防护,打造安全“技术矩阵”,实现质效双提升。如奇安信以QGPT安全大模型为基础,构建安全任务智能体,覆盖多类应用场景,威胁定性时间从小时级缩短至秒级,实现质效双升。

  第四步是强联动,建设“三级联动”的安全运营体系,凝聚防御合力。面对AI时代的复杂威胁,安全建设要起效,必须形成安全合力,构建“三级联动”的安全运营体系势在必行。其中分为组织三级联动、功能三级联动和能力三级联动,三级之间环环相扣、无缝协作、形成有机整体。(孔繁鑫)

[ 责编:李政葳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 2025腾冲科学家论坛开幕

  • 沪渝蓉高铁通泰扬特大桥跨太平河桥精准合龙

独家策划

推荐阅读
民族文化宫里珍宝千千万,但说到“镇馆之宝”,首先想到的便是1300多年前文成公主带到西藏的长鼓,许多观众慕名而来只为一睹它的“芳容”。
2025-11-28 13:02
为庆祝新疆维吾尔自治区成立70周年,“异元汽车杯”首届新疆国际摄影大赛9月28日正式启动。
2025-09-29 14:31
2025年4月10日,安徽省芜湖市无为市昆山镇三公山茶叶种植基地,千亩高山野生杜鹃在翠绿的茶园之间绚丽绽放,美轮美奂,美不胜收
2025-04-10 15:13
2025年4月1日,北京怀柔慕田峪长城内外山花盛开,美丽的春花把古长城打扮的多姿多娇,犹如春天里一幅壮美的风景画
2025-04-02 15:44