本次人工智能为儿童项目在中国网络社会组织联合会、联合国儿童基金会的指导支持下，课题组查阅了国内外大量相关政策法规、文献资料，整理分析了征集的40份有效案例，调研了北京、上海、深圳、杭州和南京等地的6家社会组织、9家高校和科研院所及16家企业，召开了两次专家研讨和案例评审会，并征求了有关部门的意见，最终形成了《人工智能为儿童——面向儿童群体的人工智能应用调研》报告和《人工智能为儿童案例汇编》。

　　中国有句古话叫做：天时、地利、人和。现如今中国从中央政府到地方政府、从科研院所到企业、从社会团体到普通老百姓，都已经开始全面拥抱人工智能。在儿童群体中，人工智能也得到了广泛的应用，几乎全面融入儿童成长的各个阶段。如今，正是需要探讨如何加深对人工智能的信任，从而让人工智能在中国的儿童群体的健康成长中发挥更大作用的时机。在抓住机遇的同时，承担相应的责任。

　　人工智能技术和应用能够为儿童成长带来多种有益帮助。一是更广泛的教育资源。人工智能教育是一个强大的计算机教育系统，相当于拥有渊博教育知识的机器人，可以集合几十、上百、上千个特级教师的智慧、教学知识、教育经验为一体的机器人。个人的智慧终究有限，远不能提供儿童成长足够的知识，而人工智能技术几乎拥有无限的数据库与知识储备，使儿童能够接触到更宽阔的世界。近年来，早教机器人、绘本机器人、智能儿童手表等相对成熟的产品不断出现，它们成为儿童的“玩伴”和“老师”，寓教于乐，让儿童通过不同途径获取知识。

　　二是更高的教学效率与质量。人工智能可以自动化各种管理任务，为教育工作者腾出大量时间。目前，人工智能技术在教育中的应用主要体现在图像识别、语义识别、语音识别等方面，可以帮助教师批改家庭作业作业、评分测试和考试、拍照搜题、在线答疑等。这些应用不仅提高了儿童的学习效率，也将教师从繁重低效的工作中解放出来，使他们可以把更多的时间集中在与学生的互动上，为学生提供即时反馈，进行一对一的教学。也有更多的精力关注儿童的德智体美等更高层次的教学问题，促进儿童全面成长。未来，随着人工智能在技术和应用场景中的更多探索，可以进一步提高教与学的针对性、有效性和科学性。

　　三是降低网络对儿童的危害。随着互联网和智能设备的高速发展与全面普及，当代儿童正以前所未有的方式接触互联网。网络上各类信息纷繁混杂，保护儿童免遭有害网络信息“毒害”至关重要。网络中的不良内容和行为，可能正在父母看不到的地方侵害着儿童。而通过深度学习算法，则可以识别和预测有害内容，在儿童可能涉及到的各类网站、网络游戏中保护他们，过滤有害信息和预测有害行为的发生。由此可以预见，未来通过人工智能算法的不断升级，互联网将变成一个更加安全的地方，更有益于儿童的成长。

　　与此同时，人工智能技术应用也会在儿童群体中形成衍生问题。一是公平性问题。人工智能的发展可能造成新的不公平。由于机器学习和深度学习的训练数据集和测试数据集均集中在已经能够深度接触人工智能技术的群体范围内，将会造成数据集缺少边远山区、少数民族或残障弱势等少数群体数据，算法无法兼顾公平性，带来性别歧视、弱势群体接入障碍等问题，最终加剧少数群体与普通群体之间的数字鸿沟。

　　二是隐私问题。人工智能算法的准确度依赖于机器学习所使用的数据集，数据收集和使用的过程中如果不能得到有效的监管，必然会导致用户隐私泄露等问题。儿童作为弱势群体，他们的数据应得到最高程度的保护。在满足人工智能系统需求的基础上，应该设计相关的隐私保护措施，同时尽量减少数据收集，以确保隐私问题得到有效解决。

　　三是泛人工智能乱象。人工智能已经在所有领域得到广泛应用，并被社会热捧。但我们必须认识到，目前人工智能的部分应用仅仅是浅层应用，家长不应被企业营造的氛围和噱头引导。尤其是人工智能教育的风靡，学校和家长不宜盲目追捧，对儿童进行人工智能教育应以帮助儿童适应数字化时代的到来为目的，以教授底层逻辑为主，充分考虑儿童在各年龄段的接受能力和特点，以及技术更迭的速度。

　　四是过度依赖人工智能。人工智能虽然可以在儿童教育、陪伴等各方面提供很多帮助，但并不能完全替代家长和学校的教育陪伴。如人工智能过多的参与导致儿童真实社交的减少，造成儿童社交障碍难以融入社会；社会盲目信赖人工智能等技术对游戏娱乐等应用采取的青少年模式或防沉迷系统，由于隐私保护需要或家长疏忽甚至家长主动帮助，被儿童破解轻而易举。

　　五是伦理道德问题。在运用新技术赋能教育的同时，最根本的伦理道德、公序良俗要遵守，教育教学的规律应遵循。技术发展到一定程度，常常不再是科学的问题，而是上升到哲学的考量，伦理道德即其中之一。随着市场的快速扩张，一些人工智能产品出现遭明令禁止的有害内容，严重影响教学秩序、助长学习焦虑、传播有害思想，不利于青少年身心发育和健康成长。除此之外，当人工智能深度参与人类社会的许多重要活动、让系统从事决策性事务时，能否服从社会公认的准则和人类的价值观也是人工智能的一大挑战。教育工作的一项重要任务就是帮助人们树立善良、正直、公平、公正等正确的价值道德标准。现在的人工智能技术水平，我们还不可能对人工智能程序进行道德教育，但是在我们开展人工智能教育时，绝不能忽视人工智能教育中的伦理教育。

　　如何带动人工智能技术应用在儿童群体中的良性发展？首先，要加强政府监管和引导。为了最大限度地发挥人工智能在儿童群体中的作用，同时减少风险、尽量避免意外后果，建议在政府引导下，组织相关企业、社会组织、科研院所、学校、家长和儿童代表举行公开讨论。通过各方共同努力，我们可以识别具有明显社会和经济后果的问题，优先制定保护儿童群体的解决方案，同时避免不必要地限制未来的创新。

　　中国政府为新一代人工智能发展做了具体规划，也出台了《国家新一代人工智能标准体系建设指南》。面对快速发展的各种人工智能技术，建议政府在企业科技创新和具体技术路线上，督促企业秉承技术向善原则。同时站高一步，从国家利益、社会进步和人权保障的高度，去制定相应的法规和标准，以此作为判断技术先进性的唯一依据，促进各种技术快速进步，优胜劣汰。同时营造人工智能技术发展良好产业环境，让市场和用户去选择最好、最合适、最有竞争力的技术和产品。

　　要解决人工智能在儿童群体中的问题，助力儿童更好地成长，一项有益的措施就是评选和分享创新的最佳实践案例，以指导负责任的人工智能为儿童的创造和应用。行业领导组织，例如中国网络社会组织联合会，将行业内的参与各方组织联合起来，征集并挑选发布典型的人工智能应用。通过鼓励开诚布公的讨论，协助分享典型实践案例，政府还可以帮助在人工智能应用开发者、用户和大众之间创造一种合作、信任和开放的文化。这些工作可以作为未来制定的法律和法规的基础。

　　同时，要提高企业履行社会责任的意识。企业在人工智能技术发展中应遵循科技向善原则。人工智能是深刻影响未来的战略性科技，在针对和涉及儿童的技术、产品研发中心，应恪守社会责任，制定相应的准则。面对人工智能对人类提出的的哲学、道德和实践方面的挑战，应尽快出台人工智能的相关政策和规划。科技创新本无好坏之分，关键在于使用科技的人。只有进一步加强科技伦理对科技活动的引导和规范，才能促使科技活动朝着更加有利于人类和人类社会的方向发展，通过技术资源为人类社会可持续发展创造福祉。

　　要提升相关产品和应用安全性。随着儿童智能产品市场爆发，国内外很多中小厂商进入市场，他们或许尚未具备完善的安全设计研发能力，在产品设计和生产中都存在些许漏洞，自身也不能进行及时而完善的修复，导致其生产出来的儿童智能产品或存在各类安全风险。

　　因此需要更加重视面向儿童群体的人工智能安全应用，确保全面保障儿童智能设备安全而健康地运行，进而保障儿童的人身安全和信息安全，让家长和孩子都能够放心地享受儿童智能设备带来的陪伴、便利和教育。提倡通过制定法律法规、标准规范等手段，降低人工智能在儿童群体中应用可能产生的安全隐私、伦理道德、身心危害等问题。

　　要重视家长的深度参与。要保障儿童在数字环境中的权利，充分享受人工智能为儿童带来的福利和权益，家长必须深度参与，才能与政府、企业和学校形成合力。面对飞速发展的人工智能，家长对儿童的教育需要进行调整。利用人工智能这一有力工具，为儿童提供优质的教育，是当下家长们最应该关注的事。多让儿童接触人工智能的实际应用，并对儿童进行正确引导，才能利用人工智能更好地辅助儿童的学习与生活。家长们可以、也应该将人工智能相关知识教授给儿童，与儿童、与人工智能一同成长，迎接一个更美好的世界。

　　此外，要加强国际交流合作。据有关机构预测，2030年，人工智能将带动全球GDP增长14%；其中，最大的收益将来自中国与北美，总计高达10.7万亿美元，占全球经济影响的近70%。由此可见，在如此巨大的经济体量、重大创新领域中取得革命性突破与颠覆性技术是至关重要的。加强国际技术交流，开拓视野，看到全球，从国际上吸取营养，借鉴国际上的经验，有助于加快实现我国科技自立自强发展，将创新主动权、发展主动权牢牢掌握在自己手中。

　　自2017年7月国务院发布《新一代人工智能发展规划》及2018年4月教育部发布《教育信息化2.0行动计划》以来，“人工智能+教育”逐渐成为教育工作者关注的热点。近年来，我国也多次参与并联合世界各国各组织举办人工智能教育相关国际论坛，各社会组织、企业也与国外开展了丰富多样的国际交流合作，积极探索人工智能在教育领域的新发展。但是我国目前与国际上的交流合作仍停留在研讨、意见交流阶段，实际的技术合作交流较少。全球的人工智能教育技术目前也主要停留在辅助阶段，还需要时间才能触及到教育的核心。

　　因此，迫切需要加强国际合作。可以从以下几个方面做起：从参与到创办权威国际会议，建立国际合作关系，提升我国人工智能教育技术国际影响力；与国际组织或机构开展项目合作，借鉴国际上的经验，加强技术交流，进一步推进我国人工智能技术基础设施搭建、人才队伍培养、信息化建设等；建立海外研发中心，与海外优秀的技术、产品、服务结合，进一步落实到国内。更积极在海外设立分、子公司，推动优质产品走向国际市场。（孔繁鑫整理）