点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:构建生成式人工智能分层治理体系
首页> 网安频道> 网安科普 > 正文

构建生成式人工智能分层治理体系

来源:科技日报2024-08-01 11:25

  生成式人工智能的通用性、交互性、深度合成性等技术特征和传播模式对传统网络空间治理体系提出了挑战,应构建符合生成式人工智能产业链分布规律、产业形态并能嵌入现有网络空间治理体系的人工智能治理体系。

  生成式人工智能改变了信息生产方式和主体关系,使以规制网络应用服务提供者的传统网络空间治理模式难以发挥预期作用。

  在技术方法层面,生成式人工智能的信息生成本质是模型和数据替代人类直接生成概率答案的过程,其已成为新型网络信息生产者。生成式人工智能还能提供情绪识别、分析及反馈等深层服务,这改变了信息服务模式,同时也容易引发新型信息内容风险。

  在应用角度层面,生成式人工智能采用“用户提问—系统回答”的模式,信息生产内容实际上也由用户参与生成,用户从单纯的信息接受者变为信息生产的参与者。这改变了传统信息模式下作者与用户的生产和应用关系,对既有内容与生产者主体责任认定规则体系产生挑战。

  在产业链层面,生成式人工智能的产业主体由基础模型层、专业模型层和应用服务层组成,突破了传统的网络空间技术支持者、服务提供者和内容生产者的逻辑关系,使得通过规制信息聚合和分发角色的平台治理逻辑难以规制生成式人工智能生态。

  为此,构建生成式人工智能治理体系需要兼顾科学规律和立法规律,需要平衡生成式人工智能的创新性与法律体系的稳定性,需要在传统网络空间治理体系的总体框架下创设适应技术变革的治理规则,需要明确基础模型层和应用服务层在生成式人工智能产业链的定位,分层分类予以规制。

  一是基础模型层需要承担作为网络设施运营者和网络信息生产者的法律责任。基础模型层是生成式人工智能的基础设施,客观上控制着生成式人工智能生态的信息供给,是生成式人工智能治理的关键抓手,需要承担作为网络设施运营者和网络信息生产者的法律责任。

  二是基础模型层还要承担作为网络设施运营者的安全保护义务。作为人工智能的技术底座和基础设施的基础模型,基础模型层面临系统、数据和生态安全等新型风险。基础模型层提供者的首要义务是保障基础模型稳定运行,确保训练数据不被滥用,以及发挥对应用服务层影响作用、维护上下游共治逻辑下的生态安全。

  三是基础模型层需要承担作为网络信息生成者的信息安全审核义务。基础模型层具备比个体人类更强大的信息生产能力,生成的巨量内容能影响网络用户的知识来源、价值观。基础模型层需要协助监管机构从数据、训练、产品等全链路设计对生成内容进行安全性检测,确保生成的信息合规。

  四是应用服务层需要承担作为网络服务提供者的信息披露义务。应用服务层是直接向终端用户提供信息的渠道,是基础模型层与终端用户的枢纽。应用服务层应当履行个人信息收集、信息性质等告知提醒义务,缩小用户与人工智能间的信息落差或信息沟壑,强化用户信息掌控力和自决力。

  总之,应当遵循科学立法的指导方针,按照客观规律,分类分层规制产业链中各参与主体,形成定位明确、衔接紧密的生成式人工智能产业治理体系。(作者:周祥军、邓矜婷 单位:中国人民大学)

[ 责编:刘昊 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 天安门下半旗悼念朱镕基同志

  • 浙江诸暨:乡村传统建筑变身特色文化空间

独家策划

推荐阅读
场秋雨过后,甘肃省敦煌市鸣沙山月牙泉景区云景如画,美不胜收
2026-08-18 15:06
暑假期间,江苏省泰州市开展形式多样的夏令营活动,让孩子们在实践中增长知识,充实丰富多彩的假期生活
2026-08-18 15:06
安徽省芜湖市公安局繁昌分局交管大队开展辖区校车安全检查。民警辅警重点检查校车整车运行状况、应急逃生装置、车载灭火器等安全设施配备及完好情况,从源头防范校车安全事故,全力护航学生平安出行
2026-08-18 15:06
西藏自治区那曲市班戈县,色林错如一块巨大碧玉镶嵌在羌塘草原,澄澈湖面在阳光下熠熠生辉
2026-08-18 15:05
湖南省常宁市庙前镇泉井村,许广高速公路穿村而过,沿途田园,与青山、绿树、村庄交相辉映,勾勒出一幅美丽的乡村画卷。
2026-08-18 15:05