点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:ChatGPT引发哪些安全新隐患?这个问题竟把周鸿祎委员“问倒了”
首页> 网安频道> 要闻 > 正文

ChatGPT引发哪些安全新隐患?这个问题竟把周鸿祎委员“问倒了”

来源:光明网2023-03-04 08:00

  网络强国·百人谈——2023年全国两会特别篇

  “GPT(大语言模型)代表了人工智能的重要里程碑,它是通用人工智能的奇点,也是强人工智能的拐点,会带来一场以强人工智能或通用人工智能为驱动力的‘工业革命’。”2023年全国两会期间,全国政协委员、360集团创始人周鸿祎关注大语言模型技术创新发展问题,及其所引发新安全隐患的应对。

ChatGPT引发哪些安全新隐患?这个问题竟把周鸿祎委员“问倒了”

  周鸿祎表示,ChatGPT是一种强大的生产力再造工具,众多行业的软件、网站、应用如果受到GPT的加持,其能力将被重塑。“过去说大数据像‘石油’,但大数据不能直接应用,ChatGPT像一座‘发电厂’,烧了‘石油’就可以产生‘电力’,用API的方式、用云服务的方式,把‘电力’接入到千家万户、千行百业,对整个产业都会发生巨大的影响。”周鸿祎说。

  面对ChatGPT为代表的大语言模型技术快速发展,我国不断弥补与国际上领先科技之间的差距。在关注GPT技术、算法与模型等具体问题的同时,周鸿祎认为,更要关注技术突破背后的产业发展规律,建议通过政策引导,推动相关高校、科研机构及产业公司的结合,使产学研协同引领大语言模型创新。

  以“微软+Open AI”组合引领GPT技术攻关为例,周鸿祎提到,在优势互补的产业协同组合中,可以发挥Open AI等科研机构在技术上的学术研究优势,也要使微软等大型科技企业做好产品化、工程化、场景化、商业化等方面的探索。

  同时,还要支持创造良好的产学研模式,通过开源、合作、生态和众包,推动GPT的能力与众多行业应用相结合,为行业应用插上人工智能的“翅膀”。

  作为网络安全从业者,周鸿祎认为,在发展的同时要研究安全问题,要把不安全的可能性想到前面。针对ChatGPT可能引发的新安全隐患,他坦言,“安全问题原来问不倒我,但现在把我问倒了。因为ChatGPT的安全问题,已经从一个技术问题变成了一个社会伦理问题,甚至成了一个不可预知的问题。”

  周鸿祎介绍,从传统而言,ChatGPT是一个软件系统,是用数据训练的,所以,对它的数据污染或软件系统内部存在的漏洞,是每个人工智能系统都面临的传统数字化安全问题。如今,ChatGPT作为一个工具,掌握了大量编程知识,以及关于系统漏洞和网络安全的知识,有可能成为网络黑客作恶的有力工具。已有一些黑客演示了利用ChatGPT写钓鱼邮件、写攻击代码,可谓降低了网络攻击的成本和难度。而反过来看,借助GPT大模型对网络安全大数据进行自动化的分析、处理,形成对攻击的自动侦测、发现,或建立知识库,此类安全防护手段也在探索之中,ChatGPT或也可扮演正义助手的角色。

ChatGPT引发哪些安全新隐患?这个问题竟把周鸿祎委员“问倒了”

网络强国·百人谈”更多内容欢迎扫码关注专栏

  监制:张宁

  策划:李政葳

  后期:刘昊

  撰文:孔繁鑫

  设计:王灿

  光明网要闻采访部出品

[ 责编:王一涵 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平同巴西总统卢拉共同签署联合声明

  • 习近平同巴西总统卢拉共见记者

独家策划

推荐阅读
11月12日至13日,浏阳市委常委、组织部部长、市家居建材产业链链长唐安石带队,市人大常委会党组副书记、副主任、市家居建材产业链副链长张葵红,市人民政府党组成员、副市长、市家居建材产业链副链长谢波等同志参加,赴广东省佛山市开展家居建材产业链招商考察活动。
2024-11-15 17:20
2024年11月12日,江苏省苏州市荷塘月色湿地公园内向日葵竞相绽放,吸引众多游客前来观赏,乐享秋日美景
2024-11-13 15:29
2024年11月12日,湖南省怀化市通道侗族自治县双江镇的烂阳村,山林色彩斑斓,红叶似火,黄叶如金,松柏常青,宛如大自然的调色盘
2024-11-13 15:28
南泥湾是中国军垦、农垦事业的发祥地,是“自力更生、艰苦奋斗”创业精神的发源地。
2024-10-27 17:37
延安地区拥有丰富的煤炭资源,在采矿井约40家,年开采量约5000万吨,但煤质坚硬、自动化程度低等难题严重制约着煤炭产业的发展。
2024-10-27 17:18
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,洛川青怡庄园生物科技有限公司副总裁肖小杰介绍,他们企业的苹果按个卖,一个可以卖到10元。
2024-10-25 18:49
堆积起来的生菌木材冒着热气儿,菌种生产厂房里机器轰鸣,滑子菇大棚里农民忙着收“金疙瘩”。
2024-10-25 18:43
你以为的农村是雨天泥泞,还是道路整洁?爬高上低,还是风景无限?高家原则将山体沟道治理作为城市有机更新和创建文明典范城市抓手,让山体沟道,环境大改善。
2024-10-24 18:11
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安大学经济与管理学院副教授、数字经济专业负责人王珊珊介绍,从卖苹果到卖服务,这是数字技术非常好的一个创新,和产业结合的非常有深度。通过消费者与大自然以及果树的亲密视觉接触,可以提升他们的体验感,增加对苹果这种产品的客户粘性和客户忠诚度。
2024-10-24 18:08
当陕北说书遇到延安美食,碰撞出延安独特的人文魅力。
2024-10-24 18:06
激昂的旋律回荡在空气中,豪迈的歌声飞扬于天地间。壮丽的情怀澎湃在心田里,不朽的精神传承于岁月中……
2024-10-24 17:59
小孩哥小孩姐把安塞腰鼓课间操跳得超燃!
2024-10-24 17:59
青山环绕、绿水蜿蜒,这是吴起南沟村给记者们留下的第一印象。谁能想到,这个位于陕西省延安市吴起县的小村庄,曾经风沙肆虐、植被稀疏。经过二十多年艰辛努力,光秃秃的黄土高坡绿意盎然。
2024-10-24 17:50
在宝塔区河庄坪镇政府的扶持下,延安菌舰生物科技有限公司采用“企业+合作社+农民”模式,带动400余人家门口就业,人均增收2000元。食用菌产业的蓬勃发展,不仅为农民带来稳定收入,更为乡村振兴注入活力。点赞延安菌舰,为农民增收,为乡村添彩!
2024-10-24 17:48
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了延安新材料产业园,亲身体验石墨烯发热背心,感受科技的温暖拥抱。
2024-10-24 11:18
近期,延安市薛张小流域水土保持项目碳汇交易成功!这不仅是一次生态保护与经济发展的双赢,更为延安乡村振兴注入了新的活力!
2024-10-24 11:16
10月22日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了位于延安市安塞区南沟村的苹果基地,在这里记者们亲身体验苹果采摘,倾听果农的心声。同时,记者团还开展了一场特别的直播带货活动,助力果农销售苹果。此次活动不仅展现了果农的辛勤付出,也让更多人了解到延安苹果的魅力,为乡村振兴贡献了一份力量。
2024-10-24 11:07
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传“逐梦之路”媒体采访团走进延安宜川县,追寻“悬崖造林队”的故事。
2024-10-24 10:27
陕北说书最近火爆出圈,董宇辉在直播中表示向往陕北文化,想成为一个陕北说书人。这一段陕北说书,带你行走在延安的绿水青山间。
2024-10-24 10:21
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安数据(集团)有限责任公司董事长高延宏介绍,延安的地域特点适宜建立算力中心,要把平台搭建好,把更多的企业引到延安,建立归属在延安的算力中心,更好的服务延安、服务陕西。
2024-10-24 10:18
加载更多