谷红勋：完善生成式AI管理制度，筑牢网络安全防线

　　【网络强国·百人谈】

　　在数字时代的浪潮中，生成式AI应用正成为科技前沿的热点。然而，新技术的兴起也带来了新的安全挑战。面对这些挑战，中国电信集团网络和信息安全管理部总经理谷红勋在接受采访时表示，要加大对AI技术的攻关，建立生成式AI的管理制度。

　　在模型建设阶段，谷红勋认为，各级单位必须严格按照国家规定进行算法备案，他解释说，这样做不仅是为了合规，更是为了防范用户输入的攻击，避免模型被恶意诱导输出不当内容。

　　数据语料的质量对生成式AI至关重要。谷红勋提到：“我们投入了大量精力在数据语料的梳理和清晰标注上，确保数据集的质量。”他认为，高质量的数据是训练出优秀模型的基础。

　　关于生成输出内容的安全管控，谷红勋认为，要通过增强决策、风险识别告警以及相关干预机制，确保输出内容既合法又合规，同时符合社会道德要求。这一环节在生成式AI应用中尤为关键，直接关系到信息传播的正当性和安全性。他表示，团队已经建立了一套高效的溯源机制，要求大模型和系统必须落实日志留存，以实现定期的审计检查。

　　对于可能出现的紧急情况，谷红勋介绍：“我们已经制定了应急处理预案，针对具体的风险场景进行监测预警。一旦发生问题，我们将立即处置，消除隐患，并防止事态扩散。”（记者 刘昊）

“网络强国·百人谈”更多内容欢迎扫码关注专栏