ChatGPT引发哪些安全新隐患？这个问题竟把周鸿祎委员“问倒了”

来源：光明网2023-03-04 08:00

　　【网络强国·百人谈——2023年全国两会特别篇】

　　“GPT（大语言模型）代表了人工智能的重要里程碑，它是通用人工智能的奇点，也是强人工智能的拐点，会带来一场以强人工智能或通用人工智能为驱动力的‘工业革命’。”2023年全国两会期间，全国政协委员、360集团创始人周鸿祎关注大语言模型技术创新发展问题，及其所引发新安全隐患的应对。

　　周鸿祎表示，ChatGPT是一种强大的生产力再造工具，众多行业的软件、网站、应用如果受到GPT的加持，其能力将被重塑。“过去说大数据像‘石油’，但大数据不能直接应用，ChatGPT像一座‘发电厂’，烧了‘石油’就可以产生‘电力’，用API的方式、用云服务的方式，把‘电力’接入到千家万户、千行百业，对整个产业都会发生巨大的影响。”周鸿祎说。

　　面对ChatGPT为代表的大语言模型技术快速发展，我国不断弥补与国际上领先科技之间的差距。在关注GPT技术、算法与模型等具体问题的同时，周鸿祎认为，更要关注技术突破背后的产业发展规律，建议通过政策引导，推动相关高校、科研机构及产业公司的结合，使产学研协同引领大语言模型创新。

　　以“微软+Open AI”组合引领GPT技术攻关为例，周鸿祎提到，在优势互补的产业协同组合中，可以发挥Open AI等科研机构在技术上的学术研究优势，也要使微软等大型科技企业做好产品化、工程化、场景化、商业化等方面的探索。

　　同时，还要支持创造良好的产学研模式，通过开源、合作、生态和众包，推动GPT的能力与众多行业应用相结合，为行业应用插上人工智能的“翅膀”。

　　作为网络安全从业者，周鸿祎认为，在发展的同时要研究安全问题，要把不安全的可能性想到前面。针对ChatGPT可能引发的新安全隐患，他坦言，“安全问题原来问不倒我，但现在把我问倒了。因为ChatGPT的安全问题，已经从一个技术问题变成了一个社会伦理问题，甚至成了一个不可预知的问题。”

　　周鸿祎介绍，从传统而言，ChatGPT是一个软件系统，是用数据训练的，所以，对它的数据污染或软件系统内部存在的漏洞，是每个人工智能系统都面临的传统数字化安全问题。如今，ChatGPT作为一个工具，掌握了大量编程知识，以及关于系统漏洞和网络安全的知识，有可能成为网络黑客作恶的有力工具。已有一些黑客演示了利用ChatGPT写钓鱼邮件、写攻击代码，可谓降低了网络攻击的成本和难度。而反过来看，借助GPT大模型对网络安全大数据进行自动化的分析、处理，形成对攻击的自动侦测、发现，或建立知识库，此类安全防护手段也在探索之中，ChatGPT或也可扮演正义助手的角色。

ChatGPT引发哪些安全新隐患？这个问题竟把周鸿祎委员“问倒了”