点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
为促进人工智能
拟人化互动服务
健康发展和规范应用
近日国家互联网信息办公室
起草了
《人工智能拟人化互动服务
管理暂行办法（征求意见稿）》
并向全社会公开征求意见
如何提升
模型生成内容的安全性？
如何防范“数据投毒”？
一起来看！
拟人化互动服务提供者
开展预训练、优化训练等
数据处理活动时
应当加强训练数据管理
遵守以下规定
使用符合社会主义核心价值观
体现中华优秀传统文化的数据集
对训练数据
开展清洗、标注
增强训练数据的
透明度、可靠性
防范数据投毒、数据篡改等行为
提高训练数据的多样性
通过负向采样、对抗训练等手段
提升模型生成内容安全性
利用合成数据
进行模型训练和关键能力优化时
应当评估合成数据安全性
加强对训练数据的日常检查
定期对数据进行迭代升级
持续优化产品和服务的性能
保障训练数据来源
合法、可追溯
采取必要措施保障数据安全
防范数据泄露风险
图片、视频由AI生成
光明网数字化频道＆网络安全频道出品
策划：李政葳 制作：赵鹏超
参考来源：“网信中国”微信公众号、央视新闻、新华社
“网络强国·AI说”更多内容
欢迎扫码关注专栏
相关阅读：
国家互联网信息办公室就《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开征求意见
千年石像生“守望”丰收
探访川金丝猴的快乐老家
