大模型领域需应对数据造假和算法歧视等挑战

　　当前，人工智能（AI）和大型机器学习模型（大模型）在金融、医疗、教育等多个领域引发了一场技术革命。这些技术以其强大的数据处理能力和模式识别功能，正在重塑行业的运作方式。

　　然而，随着AI技术的火热发展，也带来了一些隐忧。微众银行首席人工智能官、香港科技大学计算机与工程系荣休教授与前系主任杨强在接受采访时表示，目前，全球AI领域最活跃的两个地区是美国和中国。“我个人的看法是，两国在AI领域的发展是犬牙交错、各有优势。美国在多模态大模型等方面确实领先了一段时间，但中国正在迅速迎头赶上。中国在某些领域，如多模态大模型的应用场景，以及长文本处理等方面已经处于全球领先地位。此外，美国在GPT-4和GPT-5等技术上取得了显著进展，但我相信中国的科学家也会很快跟上。”杨强说。

　　对于AI在金融领域的应用，杨强表示，AI技术主要分为两大类：判别式AI和生成式AI。判别式AI，如深度学习技术，是模仿Alpha Go这样的智能系统，它通过分析数据来做出决策。生成式AI则能够创造新的内容，如文本或图像。目前，判别式AI在实际应用中更为广泛，尤其是在人脸识别、反欺诈、防伪以及营销推荐算法等领域。尽管生成式AI在某些特定场景下也展现出潜力，但真正能够实现高效投入产出的应用案例仍然不多。

　　以微众银行为例，杨强介绍，微众银行成功在客户服务对话中应用生成式AI。AI系统能够自动理解客户与客服人员的对话内容，分析用户的意图，并提供相应的文本理解支持。这不仅帮助客服人员更好地关注用户关心的问题，还提高了服务的质量和效率。

　　但他同时提示，在大模型应用过程中，还存在多种风险，包括数据造假和算法歧视。算法歧视通常源于模型训练数据的偏差，导致模型对某些未见过的数据类型产生不公正的处理。数据造假，尤其是在金融领域，已经成为一个严重问题。随着技术的发展，甚至可能出现伪造的实时视频，这对现有的安全措施提出了挑战。

　　“为了应对这些挑战，我们正在进行相关研究，并且已经取得了一些有效的成果。在这个领域，技术进步和安全措施总是在不断地相互竞争和提升。”杨强表示，法律也需要不断更新，以适应技术发展带来的新挑战，确保数据安全和AI应用的健康发展。总体来说，这是一个“道高一尺、魔高一丈”的动态过程。（马梅若）

　　（文章来源：中国金融新闻网）