人工智能对于孩子们来说T O O K L I TM R C H 2 0 2 2 图片:盖蒂图片社内容介绍361 最高管理层和企业决策者清单公司可以低于在哪里行动78大的回报2产品团队的指导方针基本原则所面临的挑战91011131314141515171921242931313335儿童和青少年的定义社交网络包罗万象的局限性先把儿童和青少年公平包容负责任的安全透明的3人工智能标签系统4指导家长和监护人利益和风险贡献者尾注免责声明本文发表的世界经济论坛是一个贡献一个项目,了解区域或交互。结果,解释和结论表示这是一个结果的帮助和协作过程了世界经济论坛的支持但其结果不一定代表世界经济的观点论坛,也不是其成员的整体,合作伙伴或其他利益相关者。©2022世界经济论坛。所有权利保留。没有这个出版物的一部分被复制或以任何形式传播或通过任何方式,包括复印和记录,或任何信息存储和检索系统。人工智能的儿童2 2022年3月人工智能的儿童介绍此工具包旨在帮助公司人工智能发展值得信赖儿童和青少年。历史上第一次，一代儿童在人工智能塑造的世界中成长（人工智能）。AI 是一组强大的算法，旨在收集和解释数据以做出基于预测在数据中发现模式。可访问性。AI必须设计在内地尊重儿童用户的权利。以儿童为中心设计可以保护儿童和青少年这项技术带来的潜在风险。人工智能技术必须创建既创新与负责。负责任的人工智能是安全的，合乎道德、透明、公平、无障碍和包容。设计责任和信任AI来说是个不错的选择消费者、企业和社会。父母,监护人和成年人都有责任精心挑选合乎道德设计的人工智能产品，以及帮助孩子们安全地使用它们。儿童和青少年在许多AI包围在他们日常生活中使用的产品中，从社交媒体到教育技术、视频游戏、智能玩具和扬声器。人工智能决定了视频孩子们在线观看，他们的课程在学习，和他们玩游戏并与他人互动的方式。该工具包由多元化的青年团队制作，技术专家、学者和商界领袖旨在帮助企业开发值得信赖面向儿童和青少年的人工智能 （AI） 和帮助父母,监护人,儿童和青少年负责购买和安全地使用人工智能产品。利益攸关的是什么?AI将决定未来的游戏、童年、教育和社会。孩子青春代表着未来，所以一切都必须支持他们以负责任的方式使用人工智能和应对未来的挑战。人工智能可以用来教育和授权儿童和青少年有积极的影响对社会的影响。但儿童和青少年特别容易受到潜在风险的影响通过人工智能,包括偏见,网络安全以及缺乏此工具包旨在帮助负责任的设计,消费和使用人工智能。它的目的是帮助公司、设计师、父母、监护人、儿童青年确保人工智能尊重孩子，对他们的生活产生积极影响。人工智能的儿童3 儿童和青少年第一清单F空气我nclusiveResponsible年代afeTransparent你是谁?公司决策者、产品团队成员还是家长或监护人？企业用户的清单高层管理人员和指导方针为产品团队包含可操作的框架和实际的指导来帮助您的公司为孩子设计创新和负责任的人工智能和青春。通过使用这些准则，您可以领导作为一家值得信赖的公司，让您的儿童用户满意。最高管理层负责设定文化在人工智能和策略负责投资人工智能产品。清单设计帮助管理人员了解更多的好处和风险的儿童和青少年,这样你就可以人工智能更好的领导,创新和成长。公司应该记住,孩子经常使用非专门设计的 AI 产品对他们来说。有时很难预测产品以后可能会被儿童或青少年使用。因此，您应该仔细考虑是否儿童或青年可能是该技术的用户你正在发展。如果是，您应该仔细考虑如何提高福利和帮助减轻该技术带来的潜在风险儿童和青少年。阅读更多关于管理层检查表。公司应保持在记住,孩子经常使用人工智能的产品,没有设计具体地说产品团队设计、开发和部署儿童和青少年的人工智能技术使用。设计从产品负责团队和仍然是持续的的责任。设计的指导方针工程师,开发人员、产品经理和产品团队的其他成员使用整个产品生命周期。对他们来说。人工智能的儿童4 人工智能标签系统AI标签系统旨在包含在所有AI产品中他们的物理包装和在线访问通过二维码。喜欢食品包装上的营养信息，标签系统设计简明扼要地告诉消费者——包括父母和监护人，以及儿童和青少年 – 它是如何工作的以及用户可用的选项。鼓励所有公司采用此工具，以帮助建立更大的信任以及对其产品的购买者和儿童用户的透明度。学习人工智能标签系统消费者:父母和监护人家长和监护人决定买AI-powered技术为了他们的孩子。通过自我教育并更好地了解技术带来的好处和风险，你可以故意和明智的决定可以保护您的孩子并确保 AI 具有对他们的生活产生积极的影响。了解有关家长和监护人指南的更多信息父母和监护人的工具是基于AI标签设计的系统（图1）来了解这六个重要的AI类别。图 1人工智能标签系统年龄数据使用传感器可访问性人工授精技术网络来源:世界经济论坛人工智能的儿童5 管理层和1公司决定,制造商的检查表可操作的框架和现实世界指导帮助企业设计创新儿童和青少年的和负责任的人工智能。此清单适用于公司的最高管理层提供产品和服务的整合供儿童使用的人工智能 （AI）和青年。许多公司使用AI来区分通过合并他们的品牌和产品它变成玩具、互动游戏、扩展的现实应用程序、社交媒体、流媒体平台和教育产品。用多一点的法规来引导他们,和人工智能的培训和使用模型。执行领导人必须实现之间取得平衡人工智能,帮助减少风险的潜力伤害的儿童和青少年,最终他们的品牌。的基础上建立了基础在世界经济论坛”让AI领导:AI管理层工具包”,检查表旨在帮助高层管理人员和其他企业决策者反思和行动创建和支持负责任的人工智能脆弱的人口。组织必须导航的隐私数据捕获和伦理问题为儿童和青少年提供值得信赖和负责任的 AI：一个清单管理非凡的机会所吸引与人工智能创新,公司在移动将AI融入玩具，广播的创纪录步伐和社交媒体,聪明的人,教育技术、虚拟世界和更多。专家和伦理学家,AI会阻碍发展和侵犯弱势群体用户的权利。与清单,甚至领导人可以学习那些意味着忽视潜在问题的公司以及如何减轻与人工智能相关的风险采用。高管们应该追求的最高关于可能的伦理和社会标准儿童发展,是否适合目的,非偏见、可访问性和隐私。这样做可以提供巨大的潜在机会好。它可以提升你的品牌,让你你的公司是值得信赖的管家位置向您的主要产品提供抢手的产品和服务买家：父母、祖父母、教师、教育工作者和其他保健提供者。人工智能在复杂性和影响范围从简单的推荐和定制引擎模仿的深深身临其境的体验模拟人类行为、情绪交互。实现沉思着,这些系统可以高兴的是,教和唤起交互与他们的年轻用户,使他们能够成长和开发按照自己的节奏和根据他们的学习方式。但实现不小心深谋远虑,儿童发展的指导人工智能的儿童6 公司可以低于在哪里执行鉴于人工智能采用的加速和滞后广泛接受的标准和指导,领导可能会措手不及。有什么风险行为,你的团队应该避免吗?目的在设计和原型阶段可以减少的潜在价值人工智能和造成伤害。领导人应该创建一个文化的责任支持的资源,使负责任人工智能从设计到end-of-product使用甚至更远。–离开隐私和安全缺口:数据安全性、隐私和同意收集和使用数据是复杂的网络安全威胁和拼凑不同地理位置的规定。这些问题达到使用寿命的产品:未成年人,父母提供的同意,但是他们的孩子可能索赔他们对他们的数据被遗忘随着年龄的增长。–没有透露如何使用人工智能:公司认为买家可能会反对AI可能掩盖或淡化其使用。是透明的使用人工智能和你为什么使用它。–放大和延续偏见:人工智能造型可以包含不准确简单化,导致无法理解和对边缘群体的偏见,例如残疾人社区和用户从不同文化和社会经济背景。考虑到这些潜在的绊脚石,企业领导人可以采取什么步骤来保护和提高他们的品牌,而利用AI的非凡的潜力?–跳过更加验证:绕过用户和专家的验证是否适合人工智能的儿童7 行动行政领导人应该创造的文化责任由资源支持负责从设计到end-of-product AI使用甚至更远。这些步骤建议:他们获得的技能、工具和时间他们需要执行你的视力。有开放的对话的意想不到的后果,可能的最坏的情况和原因为确保您的团队正在考虑的五个人工智能特征对儿童和青年第一(图2)。1. 知道法律职责和监管约束:利用现有的指导,比如研究所电气和电子工程师协会(IEEE)有关更多信息,请参考产品团队指南,提供了详细的指导五个领域。道德规范,人工智能的儿童指导,以及包含的指导1联合国儿童基金会的政策指导2和世界经济论坛3在这个工具包和产品指南团队,人工智能标签系统和资源为父母和儿童和监护人青年。提交内部,如果可能的话,外部AI监督。报告合规和领导措施公开和简单所以买家可以理解的语言。4. 通知的发展提供经验规定、标准和指南:为公共论坛AI是如何作出贡献使用你的产品或服务。分享你的经验提出指导和需求。5. 受欢迎的原则努力标签产品和服务:2. 建立一个多样化的和有能力的团队:包括伦理学家、研究人员、隐私这些应该根据潜力人工智能对用户的影响。支持和参与制定标签和评级标准的活动。标签你帮助消费者做出的产品基于推荐的明智的选择关于，例如，用户年龄、可访问性因素和一个摄像头和麦克风是否使用。关于标签的额外信息建议,看人工智能标签系统。专家、教育家、儿童发展专家、心理学家、用户体验(UX)设计师和数据科学家。与敌人合作非营利组织和教育研究机构更多的专业知识。3.培养你的团队,并提供参考资料成功与此清单:培养团队成员的重要性负责任的和值得信赖的AI和提供图 2儿童和青少年第一清单公司文化和流程解决了有关道德和偏见的问题人们如何开发AI模型以及AI模型在使用中的影响。人工智能模型与来自不同文化和不同文化的用户公平交互能力;产品测试包括不同的用户。产品反映了最新的学习科学，以实现健康的认知、社交、情感和/或物理的发展。该技术保护和保护用户和购买者数据，以及公司披露其如何收集和使用数据并保护数据隐私;用户可以随时选择退出并删除或删除其数据。该公司以非技术术语向买家和用户解释了为什么人工智能是使用，它如何工作以及如何解释其决策。该公司还承认人工智能的局限性和潜在风险，并欢迎监督和审计。来源:世界经济论坛人工智能的儿童8 大的回报当您提供负责任的基于 AI 的产品并参与开发标准，您可以做的不仅仅是影响您的底线。你帮助年轻人用户成长为最好的自己——人工智能赋予权力的一代。参考文献–便雅悯Ruha,技术竞赛：新吉姆代码的废奴主义工具2019年,政治书,,https://academic.oup.com/sf/article-abstract/98/4/1/5681679?redirectedFrom=fulltext––Coeckelbergh,马克,AI伦理，麻省理工学院出版社，2020，https://mitpress.mit.edu/books/ai-ethicsDubber，Markus D.，Frank Pasquale和Sunit Das（编辑），人工智能的牛津手册的道德牛津大学,出版社， 2020， https://www.oxfordhandbooks.com/view/10.1093/oxfordhb/9780190067397.001.0001/oxfordhb - 9780190067397–奥尼尔,凯西,数学毁灭武器：大数据如何加剧不平等并威胁民主,皇冠出版集团， 2016， http://www.governance40.com/wp-content/uploads/2019/03/Weapons-of-Math-Destruction-Cathy-ONeil.pdf––罗素,斯图尔特,人类兼容：人工智能和控制问题企鹅出版集团,2019， https://books.google.ch/books/about/Human_Compatible.html?id=8vm0DwAAQBAJ&redir_esc=y联合国，“年轻人帮助制定联合国数字保护建议”，联合国新闻，2021年3月24日，https://news.un.org/en/story/2021/03/1088182人工智能的儿童9