点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:当技术越来越智能,我们如何守护安全?
首页> 网安频道> 要闻 > 正文

当技术越来越智能,我们如何守护安全?

来源:潮新闻2023-11-09 21:41

  潮新闻 记者 尉洁婷

  11月9日,2023年世界互联网大会乌镇峰会前沿数字技术创新与安全论坛在浙江乌镇举行。论坛以“技术引领变革数字开创未来”为主题,依托前沿数字技术发展浪潮,共议数字技术创新与安全。

  技术的发展必然带来新的风险,如何发现、甄别、处理、预防风险成为了一项重要课题。在论坛上,与会专家与嘉宾都谈到了前沿科技发展可能带来的风险,也探讨了一些相应的应对之法。

  潮新闻记者 杨一凡 摄

  “区别于一般的产业技术,网络空间安全有明显的对抗性的特点,也就是说一方的胜利代表另一方的失败。”中关村实验室主任助理、首席科学家卿昱在主旨演讲中谈到,作为2015年正式设立的一级学科,“网络空间安全是一门年轻但不简单的学科。”

  在网络安全领域,新技术的发展会使已有的技术面临安全风险,比如说量子计算,它很可能会给经典密码带来严重的挑战,“各种新技术的出现同时也带来了安全威胁。”

  中关村实验室主任助理、首席科学家卿昱在前沿数字技术创新与安全论坛发表主旨演讲。潮新闻记者 杨一凡 摄

  哪些新技术需要我们重点关注?

  卿昱分享了从2019年到2023年整个顶级会议期刊的一些热词分析:这5年来,研究者从对隐私计算、恶意软件、数字取证、异常检测技术的关注,到最近3年又扩展到了人工智能、深度学习和隐私保护的相关的技术上。

  “随着人工智能的发展,我们已经很重视相关的安全问题,比如像人工智能算法可能会在对抗攻击的情况下被误导。”清华大学人工智能研究院副院长、计算机系教授朱军在论坛的主旨演讲中举例,监控摄像头的人脸识别验证的安全,其实在之前应用之前,就已经开始做很多的学术研究和应用,“一方面去发现漏洞,另一方面就是去做保密。”

  伦理风险、算法风险、数据风险、技术滥用,在朱军看来,生成式人工智能的新型安全风险正在显现。

  清华大学人工智能研究院副院长、计算机系教授朱军发表主旨演讲。潮新闻记者 杨一凡 摄

  如何去应对这些风险?

  “在清华大学人工智能研究院成立的时候,我们当时讨论就设定叫发展第三代人工智能的公司,我们实际上是想将大数据驱动和知识相融合地去发展新型的人工智能的方法和理论。”论坛现场,朱军演示了人工智能安全评测平台、人脸人工智能安全防火墙、数据安全产品及人工智能内容检测平台等人工智能治理的有效工具。

  “关于大模型的一些最新的结果,我们可以从各个维度去评测我们的模型算法;针对人脸验证这种最广泛的应用场景,我们专门做了称之为人脸识别的自动防火墙;关于数据安全,我们发展的分布式机器学习,或者用加密数据下的机器学习的技术来综合来去解决这个问题。而对于人工智能发展之后创造的内容,“我们最基本的就是想判断哪些是人生成,哪些是人工智能生成的,这背后就需要算法模型来去帮我们自动去检测识别”。

  本次论坛由国家互联网信息办公室发起,工业和信息化部、中国科学院、世界知识产权组织、中关村实验室主办,国家工业信息安全发展研究中心、中国科学院计算技术研究所、百度公司协办,来自中央和国家机关、中央新闻网站、国内外知名专家及互联网企业等各界代表共120余位嘉宾参加论坛。

  “转载请注明出处”

[ 责编:李伯玺 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 武汉大学测绘遥感信息工程国家重点实验室

  • 邕江引水工程建设进展顺利

独家策划

推荐阅读
2024年11月30日,初冬时节,河南省南阳卧龙岗文化园内,树木换上"新装",宛如一幅五彩斑斓的画卷,吸引不少市民、游客前往赏景。
2024-11-30 18:34
民以食为天,一日三餐承载着居民的幸福感。
2024-11-27 18:59
政协协商与基层社会治理的衔接,可实现协商于民协商为民,让全过程人民民主更好的在基层体现。
2024-11-24 22:51
11月12日至13日,浏阳市委常委、组织部部长、市家居建材产业链链长唐安石带队,市人大常委会党组副书记、副主任、市家居建材产业链副链长张葵红,市人民政府党组成员、副市长、市家居建材产业链副链长谢波等同志参加,赴广东省佛山市开展家居建材产业链招商考察活动。
2024-11-15 17:20
2024年11月12日,江苏省苏州市荷塘月色湿地公园内向日葵竞相绽放,吸引众多游客前来观赏,乐享秋日美景
2024-11-13 15:29
2024年11月12日,湖南省怀化市通道侗族自治县双江镇的烂阳村,山林色彩斑斓,红叶似火,黄叶如金,松柏常青,宛如大自然的调色盘
2024-11-13 15:28
南泥湾是中国军垦、农垦事业的发祥地,是“自力更生、艰苦奋斗”创业精神的发源地。
2024-10-27 17:37
延安地区拥有丰富的煤炭资源,在采矿井约40家,年开采量约5000万吨,但煤质坚硬、自动化程度低等难题严重制约着煤炭产业的发展。
2024-10-27 17:18
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,洛川青怡庄园生物科技有限公司副总裁肖小杰介绍,他们企业的苹果按个卖,一个可以卖到10元。
2024-10-25 18:49
堆积起来的生菌木材冒着热气儿,菌种生产厂房里机器轰鸣,滑子菇大棚里农民忙着收“金疙瘩”。
2024-10-25 18:43
你以为的农村是雨天泥泞,还是道路整洁?爬高上低,还是风景无限?高家原则将山体沟道治理作为城市有机更新和创建文明典范城市抓手,让山体沟道,环境大改善。
2024-10-24 18:11
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安大学经济与管理学院副教授、数字经济专业负责人王珊珊介绍,从卖苹果到卖服务,这是数字技术非常好的一个创新,和产业结合的非常有深度。通过消费者与大自然以及果树的亲密视觉接触,可以提升他们的体验感,增加对苹果这种产品的客户粘性和客户忠诚度。
2024-10-24 18:08
当陕北说书遇到延安美食,碰撞出延安独特的人文魅力。
2024-10-24 18:06
激昂的旋律回荡在空气中,豪迈的歌声飞扬于天地间。壮丽的情怀澎湃在心田里,不朽的精神传承于岁月中……
2024-10-24 17:59
小孩哥小孩姐把安塞腰鼓课间操跳得超燃!
2024-10-24 17:59
青山环绕、绿水蜿蜒,这是吴起南沟村给记者们留下的第一印象。谁能想到,这个位于陕西省延安市吴起县的小村庄,曾经风沙肆虐、植被稀疏。经过二十多年艰辛努力,光秃秃的黄土高坡绿意盎然。
2024-10-24 17:50
在宝塔区河庄坪镇政府的扶持下,延安菌舰生物科技有限公司采用“企业+合作社+农民”模式,带动400余人家门口就业,人均增收2000元。食用菌产业的蓬勃发展,不仅为农民带来稳定收入,更为乡村振兴注入活力。点赞延安菌舰,为农民增收,为乡村添彩!
2024-10-24 17:48
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了延安新材料产业园,亲身体验石墨烯发热背心,感受科技的温暖拥抱。
2024-10-24 11:18
近期,延安市薛张小流域水土保持项目碳汇交易成功!这不仅是一次生态保护与经济发展的双赢,更为延安乡村振兴注入了新的活力!
2024-10-24 11:16
10月22日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了位于延安市安塞区南沟村的苹果基地,在这里记者们亲身体验苹果采摘,倾听果农的心声。同时,记者团还开展了一场特别的直播带货活动,助力果农销售苹果。此次活动不仅展现了果农的辛勤付出,也让更多人了解到延安苹果的魅力,为乡村振兴贡献了一份力量。
2024-10-24 11:07
加载更多