点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:大模型领域需应对数据造假和算法歧视等挑战
首页> 网安频道> 评论观察 > 正文

大模型领域需应对数据造假和算法歧视等挑战

来源:人民邮电报2024-11-15 15:55

  当前,人工智能(AI)和大型机器学习模型(大模型)在金融、医疗、教育等多个领域引发了一场技术革命。这些技术以其强大的数据处理能力和模式识别功能,正在重塑行业的运作方式。

  然而,随着AI技术的火热发展,也带来了一些隐忧。微众银行首席人工智能官、香港科技大学计算机与工程系荣休教授与前系主任杨强在接受采访时表示,目前,全球AI领域最活跃的两个地区是美国和中国。“我个人的看法是,两国在AI领域的发展是犬牙交错、各有优势。美国在多模态大模型等方面确实领先了一段时间,但中国正在迅速迎头赶上。中国在某些领域,如多模态大模型的应用场景,以及长文本处理等方面已经处于全球领先地位。此外,美国在GPT-4和GPT-5等技术上取得了显著进展,但我相信中国的科学家也会很快跟上。”杨强说。

  对于AI在金融领域的应用,杨强表示,AI技术主要分为两大类:判别式AI和生成式AI。判别式AI,如深度学习技术,是模仿Alpha Go这样的智能系统,它通过分析数据来做出决策。生成式AI则能够创造新的内容,如文本或图像。目前,判别式AI在实际应用中更为广泛,尤其是在人脸识别、反欺诈、防伪以及营销推荐算法等领域。尽管生成式AI在某些特定场景下也展现出潜力,但真正能够实现高效投入产出的应用案例仍然不多。

  以微众银行为例,杨强介绍,微众银行成功在客户服务对话中应用生成式AI。AI系统能够自动理解客户与客服人员的对话内容,分析用户的意图,并提供相应的文本理解支持。这不仅帮助客服人员更好地关注用户关心的问题,还提高了服务的质量和效率。

  但他同时提示,在大模型应用过程中,还存在多种风险,包括数据造假和算法歧视。算法歧视通常源于模型训练数据的偏差,导致模型对某些未见过的数据类型产生不公正的处理。数据造假,尤其是在金融领域,已经成为一个严重问题。随着技术的发展,甚至可能出现伪造的实时视频,这对现有的安全措施提出了挑战。

  “为了应对这些挑战,我们正在进行相关研究,并且已经取得了一些有效的成果。在这个领域,技术进步和安全措施总是在不断地相互竞争和提升。”杨强表示,法律也需要不断更新,以适应技术发展带来的新挑战,确保数据安全和AI应用的健康发展。总体来说,这是一个“道高一尺、魔高一丈”的动态过程。(马梅若)

  (文章来源:中国金融新闻网)

[ 责编:曾震宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 2026世界人形机器人运动会赛况

  • 第二十一届中国长春电影节开幕

独家策划

推荐阅读
重庆市垫江县沙坪镇李白村制种水稻示范基地,农机穿梭在稻田里收割水稻,工人在厂房抓紧烘干,一派丰收的景象。
2026-08-24 14:43
第二届世界人形机器人运动会在北京国家速滑馆"冰丝带"继续开赛。本届赛程共5天,来自16个国家的666支队伍、2056台机器人将展开1301场硬核科技对决赛事。
2026-08-24 14:26
广西南宁市南宁之夜文旅街区灯火璀璨,游客漫步流光街巷,赏夜景、看演艺、逛特色商铺,沉浸式感受热闹的夜间文旅氛围。
2026-08-24 14:19
大家忙着打扫清洁、创设环境、制作教具,为孩子们准备好了一个安全、有趣、温馨、有爱的成长环境,以崭新姿态迎接秋季新学年的到来。
2026-08-24 14:15
各中学开展高一新生军训,通过队列、方阵、站姿、军体拳等训练内容,增强学生体质,磨砺坚强意志,增强国防观念和爱国情怀,为新学期开学上好“第一课”。
2026-08-24 14:08