从行业新成果看AI赋能安全运营新范式

　　【洞见·TMT】

　　随着数字化、云化进程的推进，企业及个人的重要数据大都保存在计算机、服务器、虚拟机、移动设备等数字化系统中，而且这些系统大多数连接到互联网，也导致了关键基础设施、金融机构、政府和制造业等面临着巨大安全风险。基于此种情况，用户的网络安全意识正逐步增强，寻求专业的网络安全保护成为越来越多企业及个人用户的选择。

　　近年来，人工智能领域蓬勃发展，“AI+安全运营”的应用范围越来越广。绿盟科技近日发布了AI赋能安全运营线上成果，以及在AI安全领域的最新技术成果与实践经验。其总结了风云卫AI安全能力平台的最新成果，演示了人工智能安全运营中心（AISOC）打造的安全运营新范式，并发布了绿盟AI智能化渗透系统。

　　绿盟科技产品BG总经理吴天昊介绍，在整体安全运营流程中，人工智能不仅可以自动告警检测，还可以辅助安全运营人员进行实践的研判分析工作，并且还能将专家经验通过人工智能赋能给用户。这样一来，可以大大提高安全运营效率，实现安全运营从“人防”到“智防”的质变升级。吴天昊表示，目前，绿盟科技风云卫安全能力平台已经可以将77%的告警交由AI自主处理，大大降低了安全运营工作的成本。

　　此外，吴天昊还提到，目前他们主要使用的底层大模型有两个：一个是自研的风云卫大模型，另一个是Deepseek。

　　他以鹰眼安全运营中心为例，介绍了大模型平台在安全运营中的实际应用。其中，针对用户提供和云端监测到了海量数据进行实时的监测和响应，对于运营的实时性和准确性要求非常高，如果只用人工的话需要消耗大量人力，并且工作质量会受到每个人能力的影响。在接入AI大模型后，AI可以接管对高频场景的全天候判断和响应，并且从事件发生到作出判断，再到给用户下达通知并作出响应，整个过程都可以全部交给AI完成，比起过往AI仅起到辅助作用，效率大大提升。

　　针对许多人关注的大模型安全问题，吴天昊表示，在大模型训练阶段，对于用户可能涉及到数据投喂等相关的安全风险会事先提供解决方案。在工程化应用的角度上，针对大模型应用过程中的隐私泄露、数据泄露以及攻防相关的风险，也会运用大模型安全评估系统对训练层到应用层进行扫描，事先发现并排除安全风险。此外，绿盟科技也研发了大模型安全一体机，防止大模型在外部应用的过程中遭到入侵或攻击。

　　在个人隐私保护方面，数据安全是当下大多数人们关注的焦点之一，尤其是在人工智能介入安全运营的情况下，如何赋能数据安全是人们最为关心的。

　　对此，吴天昊解释道，不同于以往需要靠人工对用户的数据进行分级分类，现在可以将用户数据分级分类的标准上传给AI，AI读取数据之后完成分级，并打好标签。同时，AI还能够依靠自身的语义理解能力和识别能力，从大量数据中清晰地辨别出可能含有敏感信息的部分，从而避免用户隐私信息的泄露。为此，需要将一体机部署在用户本地，结合用户自身的系统进行数据安全维护。企业无法获得也不直接接触用户数据，从而进一步规避隐私泄露情况的出现。

　　“用AI赋能安全运营并不是简单地全部交给AI完成，而是需要人工事先将整个事件拆分成多个小部分，然后将每个部分的工作分别交给不同的智能体完成。过程中所有的智能体通过AI进行协同，最终完成汇总整合。这样才能够尽可能避免大模型的幻觉问题，从而降低AI出错的概率。”吴天昊这样说。（张晨昊）