中央网信办：当前阶段人工智能存在五大安全风险挑战

光明网北京9月1日电（记者 李政葳 刘吉东）9月1日上午，2026年国家网络安全宣传周新闻发布会在北京举行。会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏表示，当前人工智能等新技术加速迭代，快速赋能千行百业，为我国抢占新一轮发展制高点、构筑国际竞争新优势提供有利契机，同时也带来前所未有的风险挑战，成为制约其持续健康发展的瓶颈。她分析，当前阶段人工智能安全风险挑战主要体现在以下几方面：

一是技术先天脆弱性难以根除，影响输出稳定性、可靠性。深度学习等人工智能算法本身运行逻辑复杂、可解释性比较欠缺，推理过程不透明，异常故障难以快速定位修正，即便是微小的输入扰动，也可能导致错误的推理结果。同时，研发训练过程中数据来源复杂多元，偏见、歧视等问题可能被有意或无意引入，导致模型错误学习并输出歧视性内容。这类技术层面的先天缺陷，大幅增加了系统故障排查难度，也让决策合理性难以有效验证，严重制约人工智能在安全要求高、容错率低、场景复杂的环境中大规模应用。

二是模型能力跃迁颠覆传统安全范式，极端失控风险凸显。部分前沿模型漏洞挖掘能力大幅跃升，极大降低了网络攻击的门槛、提高了防护难度，打破了原来以修补漏洞为核心、由静态规则驱动的传统网络安全防护逻辑，网络安全防护范式面临重构。近期多家科技巨头接连曝出了大模型失控的事件，前沿模型在安全评估中出现智能体绕过沙箱、规避安全边界、越权访问攻击外部真实生产系统等行为，人工智能极端失控风险需要高度警惕。

三是人工智能形态快速演进，安全风险形态加速迭代。2025年以来智能体应用快速涌现，人工智能正在从“回答问题”走向“执行任务”，安全风险也从“生成有害信息”向“自主实施行动”加速跃升。今年年初爆火的OpenClaw也出现了高权限终端智能体掌握系统级权限，可执行终端命令、跨网络调用文件与工具，安全隐患突出，同时智能体大量“技能”插件被确认存在安全风险。

四是误用滥用恶用风险突显，冲击社会秩序与伦理边界。在信息服务领域，人工智能可被用于输出违法有害信息，混淆事实、误导用户，污染网络内容生态；在科研领域，人工智能降低了生物、基因等高伦理风险领域的进入门槛，可能引发突破科研伦理底线的风险；在就业领域，人工智能加速重构传统经济结构、生产结构，可能造成传统劳动力需求出现变化的情况。

五是全球人工智能领域面临技术霸权风险。人工智能产业链呈现高度全球化分工协作格局，但个别国家奉行“技术霸权”，通过出口管制等单边措施制造供应链壁垒，同时也利用舆论炮制大模型不实的测试报告，恶意抹黑他国技术发展，还凭借训练语料资源优势进行价值观渗透，进一步拉大了治理的鸿沟。