作者：张炳蔚（四川大学建筑与环境学院助理研究员）

　　当今世界人工智能技术迅猛发展，以势不可挡的态势融入百姓日常生活，覆盖社会运行场景。防范人工智能领域风险，保障人工智能安全稳定发展是“数字中国”建设重要环节，也是健全国家安全体系，保障新发展格局的必然要求。

　　一、人工智能安全发展是国家安全体系建设的重要环节

　　人工智能是推动技术革命与工业革命的核心动力，正深刻改变经济和社会发展格局，深度融入政治安全、经济安全、军事安全、文化安全、社会安全等各个领域。然而，人工智能因其内生的脆弱性、不稳定性，安全发展也面临诸多挑战，如系统决策偏差、价值导向偏移等问题，在社会运用过程中或可引发国家层面的安全风险。因此加强人工智能安全能力建设，推动人工智能安全稳定发展，是健全国家安全体系的重要环节。

　　二、落实“人工智能＋”行动，明确安全发展方向

　　全面实施“人工智能+”行动，将战略蓝图转化为具体的产业行动、技术突破和场景应用，指明人工智能实施路径，确保其发展安全、可靠、可控。一是坚持统筹布局，为人工智能安全稳定发展提供基础支撑。以“强化前瞻谋划、系统布局、分业施策、开放共享、安全可控”为原则，利用人工智能赋能各行各业，加强人工智能同科学研究、产业发展、文化建设、民生保障、社会治理相结合，驱动产业变革，加快培育发展新质生产力，成为提高国家竞争力的核心力量。由国家发展改革委统筹协调“人工智能＋”行动落实，会同有关部门制定实施方案，凝聚工作合力；各地区技术运用根据地区发展情况因地制宜，确保行动落实，政策见效。二是加强人工智能与重点领域重点融合。以人工智能驱动科学技术创新为国家全面发展提供技术源泉和理论支撑、以人工智能推动产业发展助力经济增长、以人工智能牵引消费，从需求侧拉动技术创新和产业升级、以人工智能完善社会服务体系增进民生福祉，以人工智能推动国家治理能力提高。发挥人工智能重点融合领域示范引领作用，检验人工智能技术可行性，为后续人工技术实施与推广积累经验。落实“人工智能＋”行动部署，为人工智能安全稳定发展提供实践依据，并以稳健的安全框架促进人工智能发展。

　　三、创新数智技术，提升安全发展韧性

　　必须加快数智技术创新，构建具备“内生安全”属性的人工智能系统。数智技术作为数字化与智能化的有机融合，将安全能力深度融入基础开发、运行、演进的全周期各方面，做到源头上识别逻辑缺陷、配置错误的风险，执行中深度挖掘系统脆弱点，通过构建安全监控系统，实现威胁的自动化研判，不断提高风险预警能力，使人工智能系统能够像免疫系统一样，具备自我防护、自我修复与自我进化的能力。此外，为确保人工智能安全稳定发展，人工智能运行模型也需从依托算力、算法、数据“技术驱动”转向确保人工智能内容可靠、可控“需求向导”，这需要创新得到监察与修正的人工智能模型。

　　四、完善法律法规、伦理准则，构筑安全发展底线

　　法律是保障人工智能安全稳定发展的准绳。坚持立法先行，建立依托《网络安全法》《个人信息保护法》《数据安全法》的人工智能法律治理体系，通过法律为人工智能技术探索划红线，明确技术平台人工智能系统构建标准，明确企业与个人侵犯个人隐私，碰触公共数据安全，危害国家利益应承担的责任归属问题与责任承担方式，通过法律的威慑力保障人工智能合法设计、合法运行、合法使用。加快推动人工智能专门性法律法规制定，关键在于建立风险管理机制。根据人工智能应用场景风险不同建立风险级别划分，对医疗、司法、关键基础设施等高风险领域实施严格的市场准入和持续监管，提供特定场景与其对应的人工智能风险解决方案。依法构建监管执法与社会监督制度，全方位、多层次监管人工智能发展，减少监管盲区，确保人工智能始终为国家利益与人民群众权益服务。

　　伦理是人工智能安全稳定发展内在引领。必须将伦理考量置于人工智能研发和应用的全过程，人工智能运用需产生符合社会价值观的正面影响。人工智能产品开发者应培养社会责任感和人文关怀，坚持科技向善，主动修正系统不符合伦理的错误行为指引。行政部门积极开展伦理审查，建立问责机制，推动企业践行伦理准则。政府媒体通过不同途径定期开展伦理教育活动，引导人民群众正确运用人工智能技术，增强全民人工智能安全发展意识。伦理准则内化于全社会各主体，治理模式向协同共治演进，才能推动人工智能安全稳定不断发展。

　　随着人工智能技术的不断突破，人工智能应用横向上实现多模态融合推进，纵向上做到专业认知深化，其正以强大的代码生成、智能运维和分析能力影响社会产业发展形式与发展质量。然而人工智能技术缺陷是制约人工智能安全稳定发展不可忽视的因素。一是其构建基础理论与核心技术具有局限性，二是其运行基础模型受算力、算法、数据的制约。当人工智能对现有的运行模型产生依赖，一旦大数据内容出现错误，人工智能基于数据模型产出内容就会随之出现偏差，并随着逻辑运算偏差越来越大。或因算力不足，难以对动态、变化的信息内容进行分析理解，不能够理解内容的本质，生成错误内容。为了防范这种风险，现行人工智能系统多采取“外挂补丁”这种“事后”的补救措施，然而这种被动的补救措施是滞后且不安全的，尤其当人工智能运算结果错误的场景发生在医疗或司法这类专业领域，其严重后果往往难以补救。因此有必要通过推动安全能力从外围附加走向核心内生，从静态防护走向动态免疫，提高人工智能系统安全发展稳定性。

　　推动人工智能安全稳定发展，是一项关乎长远、牵动全局的系统性工程，我们要将安全发展、可控、可靠根植于人工智能技术基因，贯穿于人工智能生命周期。推动人工智能走安全发展道路，要求我们以战略布局为引领方向，以法律与伦理为行动底线，辅之以技术的不断创新，我们必定能让这项颠覆性技术真正成为驱动社会高质量发展的引擎，为中国式现代化建设注入安全而持久的智能动能，构筑起坚实可靠的国家安全屏障。