张格：始终把“人”作为大模型安全的最后防线

　　9月17日，以“让AI更安全，让安全更AI”为主题的2025年国家网络安全宣传周人工智能安全治理分论坛在云南昆明举行。会上，国家工业信息安全发展研究中心总工程师张格表示，要从源头到终端全面筑牢政务大模型的治理框架。

国家工业信息安全发展研究中心总工程师张格

　　张格指出，大模型应用正推动各行各业加速转型，已成为政府各领域开展工作的重要支撑，但就当前实践而言，仍然存在风险。由于政务部门数量众多，天然对应着规模庞大、不宜完全开放的的数据资源，因此，在大模型的应用实践中，必须重点做好政务数据的安全风险规避工作。

　　“大模型的应用不能影响政府的公信力。”张格认为，政务大模型应用安全规范核心体系化、全流程的治理框架，要从源头到终端全面筑牢政务大模型的框架。

　　在大模型选用阶段，强调已经备案、可信的大模型，对自部署的开源大模型要求许可协议验证。同时注重保障数据安全，使用大模型安全护栏技术，加强对内容对抗攻击、检测处置、输入输出、风险的识别控制。在运行阶段，要对内容进行管控，严格落实相关要求，始终把“人”作为安全的最后防线，不应因人机协同模式干扰或削弱人的独立判断能力。在停用阶段，要抓好流程管控和数据处理，确保大模型停用后不会造成数据滥用与安全风险，将整个安全管理贯穿在大模型全周期。

　　“未来，我们应加强专业人才培训和团队建设，积极参与跨学科团队大模型的研究应用，完善大模型评估配套体系，进行先行先试，分级推广，进一步推动相关规范落地，保障国家的政务安全。”张格说。（赵鹏超）