计算机行业：全面实现可信赖的AI治理

1 18.6%IDC预测，2022-2026年AI市场的年复合增长率将达到18.6%。1 62%对于能够恪守道德使用AI的企业更加信任。3 1340亿美元 人工智能伦理道德的商业需求 Gartner预计的2025年AI软件市场规模。2 如今AI被广泛应用于诸多领域。从帮助医生及早诊断病情，助力研究人员开发创新药物，到更有效地保护濒危物种和栖息地，AI彻底改变了人们的生活，为人类开启了创新的大门。随着AI的日益普及，从我们的职业到个人生活，将会给人类社会带来全方位的影响。 那些能在AI的使用中展现道德和责任感的企业可能取得更大成功。消费者和员工希望企业恪守道德、展现能力，为他们提供支持。63%4的消费者会选择符合自己信仰和价值观的品牌。这同样适用于企业对AI的使用。62%的3消费者更加信任能够恪守道德使用AI的企业。其中59%3会对企业更加忠诚，55%3会购买更多产品，并在社交媒体上给予好评和正面反馈。因此，让消费者相信企业能够负责任地使用AI对于企业的持续发展至关重要。 但是，如果在创建、部署和管理AI的过程中缺乏目的性，不够规范，也有可能造成巨大风险。例如，如果数据存在偏见，训练出来的AI系统可能有样学样，对妇女、有色人种或弱势群体产生歧视。如果在部署和使用AI系统前不能识别并消除系统偏见，那么一旦部署，其所承袭的社会偏见可能造成意想不到的严重后果。 最新研究表明4，就能力和道德而言，消费者对政府和社会机构的信任度极低，而只相信企业。如今，为了维持消费者信任，企业需要确保负责任地使用AI。 这就需要可信赖的人工智能，即一个能够确保安全可靠、恪守道德的人工智能系统。 2 为什么要拥抱可信赖的AI？ 可信赖的AI是指与不同的利益干系人合作，以人为本设计、开发和部署的AI系统。系统中包含适当的问责机制，其具有出色的包容性、透明性、完整性、稳健性，可以提高人类能动性，并防止人类受到伤害。可信赖的AI旨在确保安全、可靠和合乎道德的商业实践。 拥抱可信赖AI的企业不仅更有可能取得商业成功，也更有可能满足人们的善念，应对外部压力，满足市场期望和特定法律要求。下面我们就来逐一阐述，了解企业要如何做到这一点。 2 与生俱来的善念 行动 确定您拥抱可信赖AI的内在动机。 在引入AI技术之前，请思考如何根据贵企业的价值观实施可信赖的AI。尽早开展内部对话。思考以下问题： 很少有企业是为了制造伤害而存在。那些部署AI解决方案的领导者通常是为了践行企业价值观，实现企业目标，而不是为了伤害他人。然而，由于缺乏认识、不够专业、规划不足，导致意外伤害经常发生。例如，AI的创造者和使用者如果不能认真识别并最大限度减少伤害，可能导致歧视和剥削问题贻害无穷。 贵企业的主要价值观是什么？ 要如何根据这些价值观实施可信赖的AI？ 企业要想形成合力，贯彻可信赖的AI，需要确保可信赖的AI与企业的现有价值观相互统一。企业需要阐明实施可信赖的AI背后的价值观。 2 但行善举的外部压力 行动 评估外部市场。 与客户和合作伙伴沟通，了解他们对AI的担忧和看法。了解行业实施可信赖的AI的必要性。要想有效制定和推行负责任的可信赖AI创新战略，与客户和潜在客户保持一致是关键。思考以下问题： 通过共同努力，我们可以打造可信赖的AI和负责任的创新环境，惠及每一个人。 来自外部的压力也不容忽视。2021年的一项研究发现，69%的消费者认为企业必须积极改变世界。消费者更愿意选择那些恪守道德、但行善举的企业。 您的行业对可信赖的AI有哪些独特需求？如何确定并满足这些需求？ 可信赖的AI可以帮助企业展现但行善举的承诺，通常包括避免伤害和公开问责。此外，企业还需要营造良好的环境，以促进负责任的创新，支持开发和部署可信赖的AI，满足消费者的期望和社会需要。正如开篇的调查数据所示，如今这比以往任何时候都更加重要。 如何与客户和合作伙伴有效沟通实施可信赖AI的必要性？客户如何看待AI的使用？ 客户和合作伙伴对AI有哪些担忧和看法？如何更好地了解他们的担忧和看法？ 企业要想生存，就必须思考如何提升创新能力，如何利用数据和AI，同时又不对社会造成危害。 PREETI SHIVPURI -德勤可信赖的AI和道德部负责人 2 日益严格的监管 行动 确定相关法规。 积极主动！如果贵企业考虑购买或采用AI解决方案，可能会面临更多监管挑战。应当积极熟悉相关市场即将出台的法律法规，并确保企业战略符合法规走向。这可避免您在法规颁布后措手不及，手忙脚乱。首先思考以下问题： 世界各国政府都努力在利用AI和保护公民免受AI负面影响之间寻求平衡。随着各国纷纷发布最佳实践、法律法规和非约束性建议，围绕AI的全球监管格局正在快速变化。 哪些即将出台的AI法规可能会影响贵企业或您的客户？ 例如，拟议的《欧盟人工智能法》(EU AI Act)被公认为首个全面的AI法律框架，其将AI系统分为多个风险等级，并根据使用类别为每个等级设定了规范要求。而其他国家/地区则是依靠咨询框架指导AI解决方案的开发和使用，规范性欠佳。 为应对即将出台的新规，贵企业的业务运营需要做出哪些改变？ 还有一些监管机构则更加放任，允许行业自行监管AI解决方案。如果不了解相关法规和准则，企业或将难以确保合规性。 您可以采取哪些策略来跟上快速演变的AI监管形势？ 3 “实现可信赖的AI治理 数据伦理是指将数据相关决策植根于企业的品牌价值观，并清楚认识到数据失误可能带来的财务和声誉损失。” 在确定内部动机、评估外部压力和明确监管要求之后，企业即可着手建立可信赖的AI治理。 在企业内部营造可信赖的AI环境需要制定全面战略，以便建立监督、确保合规性、实现一致运营、开发统一基础结构，并打造可信赖的AI的文化。 数据伦理日益重要-德勤 3 监督 第一步是建立监督体系，包括AI治理框架、AI战略和政策制定。在建立监督体系的同时，需要深入挖掘推动企业发展的内在动机。这些内在动机有助于企业找到适合自己的负责任创新方法，并为制定可信赖的AI战略提供依据。 因此企业应当明确模型的预定范围和预期结果，识别潜在偏差，增加用户信任。企业需要阐明数据驱动系统的工作内容、工作原理和工作方式。例如，采用AI聊天机器人的企业可告知客户所有聊天机器人都是基于AI技术。或者，采用AI决策的企业可在常见问题解答向客户说明这一点，并随时更新AI决策的逻辑和输入。 行动 着手规划AI治理。 AI治理、制定AI战略和实施AI可遵循以下三个基本步骤： 一些企业还发现，基于风险的AI开发方法卓有成效。了解企业的风险偏好、风险容忍度和风险阈值或有助于制定企业战略、政策和监督AI系统的设计、开发、部署和使用。 企业还应评估当前的治理政策，并考虑做出必要改变，将可信赖的AI列为优先事项。评估和调整政策有助建立适当的制衡机制，监控和规范企业内部使用的AI系统。不必完全推翻现有政策，只需对现有政策进行微调，使之与可信赖的AI原则和战略保持一致。 根据贵企业的动机，确立与之一致的可信赖的AI原则。 制定符合整体业务战略的可信赖的AI战略。 在协调可信赖的AI战略与总体业务战略的过程中，企业应当考虑可能由此造成的潜在影响，以及作出哪些必要调整来确保成功。例如，如果一家企业将透明度作为可信赖的AI战略的一部分，就需要清晰明确的沟通。透明度有助于人们了解决策过程， 调整并实施治理和问责政策，以适应新战略。 3 合规 此外，企业还需要制定应急和缓解计划，并建立质量管理体系。虽然大多数企业都希望稳健创新，赢得信赖，但错误在所难免。通过制定积极的应急和缓解计划，企业可以有效处理意外情况。这可使企业保持主动，避免被动，有助保持利益干系人的信任和信心，从容应对挑战。企业需要根据自身的风险容忍度，确定最适合的风险缓解方法。 建立监督框架后，企业可评估自身的合规需求。首先，需要评估和监测自身的监管准备情况。企业可利用对本行业监管环境的评估，审视自己是否已做好合规准备。 行动 建立健全的合规体系可遵循以下三个基本步骤：着手制定合规计划。 其次，需要识别监管合规之外的风险。这些风险因行业或客群而异，可能包括声誉和财务损失风险。随着AI的日益普及，有效的风险管理系统可帮助企业主动识别风险因素。 评估监测贵企业的监管准备情况。 识别风险并部署实施风险管理系统。 制定应急和缓解计划。 3 运营 除了合规和风险管理，企业还应考虑自身的AI和数据管理操作程序。领导层应根据监督框架确立的治理战略，制定有效的操作程序。例如，如果企业决定成立AI监督委员会，领导层应就委员会审查AI系统和为利益干系人分配审查角色的情况制定相应程序。这些程序应当切实可行、易于实施。 制定程序后，需将其嵌入AI的部署和运行。这可能需要修改现有程序或制定全新程序。 行动 随着企业数据和AI进程的发展，可能会面临多种工具、软件、供应商及其他因素的影响。企业应评估AI供应商是否符合自身的组织原则。整个生态系统的一致性有助于企业协调统一地实施可信赖的AI。 评估生态系统参与者的一致性。 要评估AI供应商是否符合您的组织原则，可以遵循以下三个基本步骤： 制定AI和数据管理程序。 将程序嵌入AI部署和运行。 分析基础结构，确保程序的一致性。 3 文化 要全面实现可信赖的AI，需要建立一个AI治理、合规、运营和企业文化框架，该框架应符合企业实施可信赖的AI的动机。 员工是打造可信赖的AI环境的重要一环。随着企业逐渐适应可信赖的AI系统，社会规范将自然而然地形成。建立符合组织原则和战略的共同规范是关键。这将有助于营造积极的企业文化，即使没有领导监督，员工也能积极主动地践行可信赖的AI实践。 行动 打造可信赖的AI环境。 要打造可信赖的AI文化，可以遵循以下三个基本步骤： 最后，培养韧性文化至关重要。企业需要紧跟技术发展的步伐。通过培养韧性文化，可以提升团队适应能力，随时应对全新挑战。这有助于保持利益干系人的信任，并清晰展现企业对于长期负责任创新的承诺。 形成负责任的创新实践意识。 通过拥抱可信赖的AI，有助于企业可以打造负责、问责和韧性文化，增加利益干系人的信任，并展现长期负责任创新的承诺。 建立共同规范，培养员工能力。 打造韧性文化。 4 SAS可信赖的AI 我们的“初衷” 我们以提供洞见、把握关键时刻为使命，我们认为增加技术可信度对我们的未来乃至我们行业的未来至关重要，为此我们尽情拥抱可信赖的AI。 了解SAS如何拥抱可信赖的AI。SAS认为AI技术本身没有善恶之分，而是风险与回报并存。 我们面临的外部压力 作为AI和分析技术的先驱之一，我们深知技术并非存在于真空之中。我们认为，供应商和客户都应发挥作用，确保以道德和负责任的方式利用技术。我们为客户提供可靠、值得信赖的技术方案，帮助他们推动各自行业的发展。 相关法规 从我们的技术到企业政策，SAS与多个第三方和监管框架合作，始终与行业标准和法规保持同步。 我们的愿景是创造数据助力人员成长的世界。我们通过值得信赖和负责任的创新来追求这一愿景。 SAS数据伦理实践副总裁REGGIE TOWNSEND 4 SAS可信赖的AI 我们的“初衷”、外部压力和相关法规促使我们制定了六项原则，指导我们可信赖的AI战略： 以人为本：造福人类、促进公平、提升人类能动性。 这些原则帮助SAS以最有效的可行方式引导、管理和化解道德压力，最大程度减少伤害。此外，其还为我们的全面AI治理提供指导。辅以我们的数据道德实践(DEP)，我们制定了统一的可信赖AI战略，集思广益打造可信赖的AI。我们注重通过跨领域的全球参与，广泛收集各类观点，确保我们的平台、流程和服务始终以人为本，并在整个产品开发和市场战略中始终确保符合道德规范。 包容：确保可用性，融入不同观点和经验。 问责：积极识别和化解不利影响。 透明：公开预期用途、潜在风险和决策方