点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:对AI技术滥用风险要提高警惕
首页> 网安频道> 技术前沿 > 正文

对AI技术滥用风险要提高警惕

来源:法治日报2024-04-01 17:25

  最近,多位已逝明星的AI视频出现在短视频平台上,引发众多关注,这些视频同时也引起了逝者家属的反对,有明星家属要求立即停止侵权行为,表示严厉谴责并坚决抵制该行为。

  从法律上看,对于未经许可利用AI技术“复活”逝者的行为,可能会造成对逝者肖像、名誉、荣誉、隐私、个人信息等人格利益的侵害。因为AI以可视化的方式重现逝者形象,势必会生成、使用他人的肖像、声音。行为人如果是出于悼念目的,“复活”自己的亲人原则上不构成侵权;如果未经逝者近亲属同意,擅自“复活”逝者将构成对肖像、声音的侵害;如果以丑化、污损等方式使用他人肖像、声音,将构成对逝者肖像、声音的恶意侵害;如果是出于炒作、博取流量、诈骗等违法目的,则可能构成侵权甚至是刑事犯罪。

  事实上,近年来利用AI技术侵犯他人合法权益的案件时有发生。比如有App运营者,为谋取利益,在网络中盗用含有他人肖像的图片或视频作为模板,利用AI换脸技术为用户提供人脸替换的服务;有游戏运营商,未经明星本人许可,提取明星的声纹信息,利用AI合成技术将随意的文字内容转化为与明星声音高度一致的音频内容,在游戏中使用;有AI技术开发者非法开发所谓的“脱衣”软件,行为人在公共场所拍摄他人照片后,利用前述软件生成伪造他人的裸体照片传播等等。这些案件虽然形式不同,但都明显逾越了法律的底线,揭示了人工智能存在被滥用恶用的风险,这些行为轻则构成民事侵权,重则构成行政违法乃至刑事犯罪。

  从司法实践看,利用AI侵害他人权益的案件往往具有侵害对象素材易于获取、AI技术使用门槛低、侵权手段较隐蔽、侵权内容传播速度快、受侵害主体不特定且波及面广等特点,存在侵权行为主体难以锁定、损害后果一旦造成难以挽回、损失赔偿金额难以量化、平台责任边界较模糊等难点。比如笔者就曾审理过一起AI换脸的民事公益诉讼案。在该案中,行为人在国外网络论坛下载了AI换脸的开源程序,通过自学掌握了AI换脸软件的使用方法,并向网友提供“换脸”服务。只要提供他人面部肖像照片就可以进行人脸的任意替换。这也就意味着仅凭几张照片,任何人都可能成为受害者。鉴于这种AI技术滥用造成的普遍性风险,司法机关不仅对行为人判处了刑罚,而且要求其承担公益损害赔偿等民事责任。

  此外,笔者还曾审理过多起利用AI技术将他人面部肖像制作成恶意搞笑表情包,通过微信群进行传播,以此对他人进行侮辱的案件。在此类案件中,表情包经过多个微信群辗转传播,有时难以锁定最初的制作者,使得权利人维权产生障碍。不过法院认为即便行为人不是表情包的制作者,只要在明知的情况下参与了侵权内容的传播、扩散,就应承担一定的侵权责任。这些案例都充分说明,利用“AI”技术侵害他人权益必然要受到法律惩处。

  当前,AI技术已经深度融入诸多领域。AI技术本身是中立无害的,技术本身也不应当直接受到法律的负面评价,但技术中立并不意味着价值中立,特别是开发、应用者的价值中立,更不等于AI的参与者不应当受到来自法律的规制、道德伦理的约束。

  技术的运用是把双刃剑,用之为善可以造福社会,不当滥用则会造成社会风险和损害。对此,需要有关方面不断完善法律法规,进一步细化AI技术滥用的侵权类型,明确各个环节的主体责任,确立媒介平台的技术检测义务和过滤删除责任,以法律为AI技术应用框定红线;同时,引导技术开发、应用者自觉遵守法律规定和科技伦理道德,培育积极健康、向上向善的研发、应用环境,保护和鼓励新兴智能技术的有益探索。作为社会公众,对疑似AI生成的信息内容应保持警惕,不要对此类生成信息进行盲目传播、扩散,在利用AI技术生成相关内容时要获得权利人同意,尊重社会公德和伦理道德。

  (作者:肖芄,系杭州互联网法院互联网审判第一庭庭长)

[ 责编:孔繁鑫 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

独家策划

推荐阅读
11月12日至13日,浏阳市委常委、组织部部长、市家居建材产业链链长唐安石带队,市人大常委会党组副书记、副主任、市家居建材产业链副链长张葵红,市人民政府党组成员、副市长、市家居建材产业链副链长谢波等同志参加,赴广东省佛山市开展家居建材产业链招商考察活动。
2024-11-15 17:20
2024年11月12日,江苏省苏州市荷塘月色湿地公园内向日葵竞相绽放,吸引众多游客前来观赏,乐享秋日美景
2024-11-13 15:29
2024年11月12日,湖南省怀化市通道侗族自治县双江镇的烂阳村,山林色彩斑斓,红叶似火,黄叶如金,松柏常青,宛如大自然的调色盘
2024-11-13 15:28
南泥湾是中国军垦、农垦事业的发祥地,是“自力更生、艰苦奋斗”创业精神的发源地。
2024-10-27 17:37
延安地区拥有丰富的煤炭资源,在采矿井约40家,年开采量约5000万吨,但煤质坚硬、自动化程度低等难题严重制约着煤炭产业的发展。
2024-10-27 17:18
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,洛川青怡庄园生物科技有限公司副总裁肖小杰介绍,他们企业的苹果按个卖,一个可以卖到10元。
2024-10-25 18:49
堆积起来的生菌木材冒着热气儿,菌种生产厂房里机器轰鸣,滑子菇大棚里农民忙着收“金疙瘩”。
2024-10-25 18:43
你以为的农村是雨天泥泞,还是道路整洁?爬高上低,还是风景无限?高家原则将山体沟道治理作为城市有机更新和创建文明典范城市抓手,让山体沟道,环境大改善。
2024-10-24 18:11
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安大学经济与管理学院副教授、数字经济专业负责人王珊珊介绍,从卖苹果到卖服务,这是数字技术非常好的一个创新,和产业结合的非常有深度。通过消费者与大自然以及果树的亲密视觉接触,可以提升他们的体验感,增加对苹果这种产品的客户粘性和客户忠诚度。
2024-10-24 18:08
当陕北说书遇到延安美食,碰撞出延安独特的人文魅力。
2024-10-24 18:06
激昂的旋律回荡在空气中,豪迈的歌声飞扬于天地间。壮丽的情怀澎湃在心田里,不朽的精神传承于岁月中……
2024-10-24 17:59
小孩哥小孩姐把安塞腰鼓课间操跳得超燃!
2024-10-24 17:59
青山环绕、绿水蜿蜒,这是吴起南沟村给记者们留下的第一印象。谁能想到,这个位于陕西省延安市吴起县的小村庄,曾经风沙肆虐、植被稀疏。经过二十多年艰辛努力,光秃秃的黄土高坡绿意盎然。
2024-10-24 17:50
在宝塔区河庄坪镇政府的扶持下,延安菌舰生物科技有限公司采用“企业+合作社+农民”模式,带动400余人家门口就业,人均增收2000元。食用菌产业的蓬勃发展,不仅为农民带来稳定收入,更为乡村振兴注入活力。点赞延安菌舰,为农民增收,为乡村添彩!
2024-10-24 17:48
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了延安新材料产业园,亲身体验石墨烯发热背心,感受科技的温暖拥抱。
2024-10-24 11:18
近期,延安市薛张小流域水土保持项目碳汇交易成功!这不仅是一次生态保护与经济发展的双赢,更为延安乡村振兴注入了新的活力!
2024-10-24 11:16
10月22日,“弘扬延安精神 奋进伟大时代”网上主题宣传媒体团来到了位于延安市安塞区南沟村的苹果基地,在这里记者们亲身体验苹果采摘,倾听果农的心声。同时,记者团还开展了一场特别的直播带货活动,助力果农销售苹果。此次活动不仅展现了果农的辛勤付出,也让更多人了解到延安苹果的魅力,为乡村振兴贡献了一份力量。
2024-10-24 11:07
10月23日,“弘扬延安精神 奋进伟大时代”网上主题宣传“逐梦之路”媒体采访团走进延安宜川县,追寻“悬崖造林队”的故事。
2024-10-24 10:27
陕北说书最近火爆出圈,董宇辉在直播中表示向往陕北文化,想成为一个陕北说书人。这一段陕北说书,带你行走在延安的绿水青山间。
2024-10-24 10:21
近日,在陕西延安举行的“弘扬延安精神,奋进伟大时代” 网上主题宣传系列访谈中,延安数据(集团)有限责任公司董事长高延宏介绍,延安的地域特点适宜建立算力中心,要把平台搭建好,把更多的企业引到延安,建立归属在延安的算力中心,更好的服务延安、服务陕西。
2024-10-24 10:18
加载更多