点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:探索共享与监管动态平衡
首页> 网安频道> 技术前沿 > 正文

探索共享与监管动态平衡

来源:经济日报2024-01-04 20:49

  以ChatGPT为代表的生成式人工智能掀起新一轮热潮。与此同时,数据泄露、隐私窃取、算法歧视等数字安全风险不断显现,迫切需要寻找共享与监管并重的动态平衡范式,守住人工智能时代的数字安全底线。

  纵观全球,中国、美国和欧盟作为探索数字安全和数字治理的先行者,无论是技术创新还是立法规范都走在世界前列,同时也存在差异。在相同点方面,均高度重视算法治理,将算法安全嵌套在数据安全中,实行数据与算法协同治理;在差异性方面,虽然同样强调个人隐私安全,美国以鼓励创新为核心,更注重数据自由流动,倾向于以行业自律进行治理。欧盟注重个人隐私保护和立法,探索和引入人工智能监管沙盒机制,并发布首部人工智能监管法案。这些经验做法,对我国数字安全治理具有一定参考价值。

  我国加快推动人工智能发展,需形成政府、企业、社会组织和个人合力,在协同数据和算法治理、保障生成式人工智能安全等方面实现重点突破。

  第一,启动国家人工智能数据和算法工程。建立安全标准,分门别类对数据和算法进行管理,提升数据互操作性以及算法透明度,改变过去个人或企业单打独斗的局面。

  自动检索风险指标。开发针对人工智能应用网络的早期预警系统,对网络资源进行常规监控和过滤,对于不符合政策要求的危险因素、劣质数据和不良信息,及时清除或屏蔽。通过该预警系统自动检索关键风险指标,及时补救,防止再出现类似安全漏洞。

  甄别人工智能生成内容。从源头上,为人工智能生成内容打上标记。深度合成服务提供者提供深度合成服务,可能导致公众混淆或者误认的,应在生成或编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。

  加大人工智能生成内容检测工具开发和优化。目前针对人工智能生成的图像、文本等已出现相应检测工具,用于区分人工智能生成的内容和人类创造的内容,但准确率不高。亟需加大对数据、算法、模型的研究,开发精准的生成式人工智能检测工具,真正实现“以AI测AI”。

  加强人工智能数据共享。数据、算法、算力是驱动人工智能发展的“三驾马车”,其中数据是人工智能发展的养料,例如仅GPT-4的训练数据集就包含约13万亿个词元。如果缺乏足够的数据,人工智能发展无异于“无米之炊”。

  推动中文数据集共享。由于语言特点、获取成本、开源程度以及数据集质量要求等原因,相较于英文数据,目前中文数据集规模较小。基于中文的人工智能开发,可通过国家人工智能数据工程汇总高质量中文数据集,并促进数据分类分级有序共享,使安全性和服务质量得到大幅提升。

  第二,加强生成式人工智能监管。推进全球沟通和探讨,通过网络数据安全管理、个人信息保护、数据审计等法律法规进一步完善生成式人工智能监管。统筹数据安全与算法治理,针对金融、医疗等不同行业领域以及算法歧视、算法黑箱等问题,开展多层次和精细化监管。开展多模态智能分析,在大模型领域引入文本、图像、语音等,在训练和应用过程中细化对不同元素的监管,通过功能模块设计,及时发现问题并防范风险。

  切实保障数据安全。使用生成式人工智能产品过程中,也在同步收集用户数据和信息,可能引发潜在隐私安全问题。对此,应扩大安全使用指南宣传。例如,不主动分享敏感信息、关闭聊天记录等,基于专门的云服务运行,从访问控制、数据加密、网络连接等方面加强保护。对于数据敏感度较高的用户,通过敏感信息过滤一体机进行识别筛选,可有效避免大模型产品在提供服务时产生不可控信息。

  构建特定知识库。基于特定知识库提供人工智能服务,可在一定程度上避免虚假错误信息,提升准确性和安全性。建议借助大模型训练推理一体机,通过本地化训练和推理,在保护用户数据隐私的前提下构建特定知识库。

  第三,在国际层面,积极与联合国及主要国家沟通交流,达成全球规避人工智能风险共识,推动对所有大型人工智能科研项目实施备案和风险评估制度。在国家层面,组织专家团队潜心进行人工智能风险评估和研究相关立法,加强网络安全关键技术研发,加快人工智能安全技术创新,提升网络安全产业综合竞争力。

  (作者:刘 鹏,系中国大数据应用联盟人工智能专家委员会主任)

[ 责编:孔繁鑫 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见泰国总理佩通坦

  • 习近平会见新加坡总理黄循财

独家策划

推荐阅读
11月12日至13日,浏阳市委常委、组织部部长、市家居建材产业链链长唐安石带队,市人大常委会党组副书记、副主任、市家居建材产业链副链长张葵红,市人民政府党组成员、副市长、市家居建材产业链副链长谢波等同志参加,赴广东省佛山市开展家居建材产业链招商考察活动。
2024-11-15 17:20
2024年11月12日,江苏省苏州市荷塘月色湿地公园内向日葵竞相绽放,吸引众多游客前来观赏,乐享秋日美景
2024-11-13 15:29
2024年11月12日,湖南省怀化市通道侗族自治县双江镇的烂阳村,山林色彩斑斓,红叶似火,黄叶如金,松柏常青,宛如大自然的调色盘
2024-11-13 15:28
南泥湾是中国军垦、农垦事业的发祥地,是“自力更生、艰苦奋斗”创业精神的发源地。
2024-10-27 17:37
延安地区拥有丰富的煤炭资源,在采矿井约40家,年开采量约5000万吨,但煤质坚硬、自动化程度低等难题严重制约着煤炭产业的发展。
2024-10-27 17:18
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,洛川青怡庄园生物科技有限公司副总裁肖小杰介绍,他们企业的苹果按个卖,一个可以卖到10元。
2024-10-25 18:49
堆积起来的生菌木材冒着热气儿,菌种生产厂房里机器轰鸣,滑子菇大棚里农民忙着收“金疙瘩”。
2024-10-25 18:43
你以为的农村是雨天泥泞,还是道路整洁?爬高上低,还是风景无限?高家原则将山体沟道治理作为城市有机更新和创建文明典范城市抓手,让山体沟道,环境大改善。
2024-10-24 18:11
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安大学经济与管理学院副教授、数字经济专业负责人王珊珊介绍,从卖苹果到卖服务,这是数字技术非常好的一个创新,和产业结合的非常有深度。通过消费者与大自然以及果树的亲密视觉接触,可以提升他们的体验感,增加对苹果这种产品的客户粘性和客户忠诚度。
2024-10-24 18:08
当陕北说书遇到延安美食,碰撞出延安独特的人文魅力。
2024-10-24 18:06
激昂的旋律回荡在空气中,豪迈的歌声飞扬于天地间。壮丽的情怀澎湃在心田里,不朽的精神传承于岁月中……
2024-10-24 17:59
小孩哥小孩姐把安塞腰鼓课间操跳得超燃!
2024-10-24 17:59
青山环绕、绿水蜿蜒,这是吴起南沟村给记者们留下的第一印象。谁能想到,这个位于陕西省延安市吴起县的小村庄,曾经风沙肆虐、植被稀疏。经过二十多年艰辛努力,光秃秃的黄土高坡绿意盎然。
2024-10-24 17:50
在宝塔区河庄坪镇政府的扶持下,延安菌舰生物科技有限公司采用“企业+合作社+农民”模式,带动400余人家门口就业,人均增收2000元。食用菌产业的蓬勃发展,不仅为农民带来稳定收入,更为乡村振兴注入活力。点赞延安菌舰,为农民增收,为乡村添彩!
2024-10-24 17:48
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了延安新材料产业园,亲身体验石墨烯发热背心,感受科技的温暖拥抱。
2024-10-24 11:18
近期,延安市薛张小流域水土保持项目碳汇交易成功!这不仅是一次生态保护与经济发展的双赢,更为延安乡村振兴注入了新的活力!
2024-10-24 11:16
10月22日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了位于延安市安塞区南沟村的苹果基地,在这里记者们亲身体验苹果采摘,倾听果农的心声。同时,记者团还开展了一场特别的直播带货活动,助力果农销售苹果。此次活动不仅展现了果农的辛勤付出,也让更多人了解到延安苹果的魅力,为乡村振兴贡献了一份力量。
2024-10-24 11:07
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传“逐梦之路”媒体采访团走进延安宜川县,追寻“悬崖造林队”的故事。
2024-10-24 10:27
陕北说书最近火爆出圈,董宇辉在直播中表示向往陕北文化,想成为一个陕北说书人。这一段陕北说书,带你行走在延安的绿水青山间。
2024-10-24 10:21
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安数据(集团)有限责任公司董事长高延宏介绍,延安的地域特点适宜建立算力中心,要把平台搭建好,把更多的企业引到延安,建立归属在延安的算力中心,更好的服务延安、服务陕西。
2024-10-24 10:18
加载更多