麻省理工学院技术评论见解：人类是生成人工智能的核心

人类是生成式AI的核心 出品联合 关键要点 生成式人工智能的许多新兴应用案例，如果能够关注技术的优势和局限性，对商业变革具有革命性的潜力。 生成式AI可以通过自动化处理常规和重复性的询问来提升客户和员工体验，同时为负责更复杂问题的员工提供背景支持。 您可能以为这意味着您将要在航空客服那里等待半小时。但这次，流程看起来有些不同：您会与航空公司的AI聊天机器人进行简短的文字交流，它会快速评估您的状况并将您放入优先队列。不久后，一名人类客服代表接手，确认详情，并帮您重新预订了更早的航班，以便您顺利转机。您将能及时赶回家，享受妈妈的炖牛肉。 这些技术在人类能力，如判断力、创造力和同理心，用于塑造和监督生成式AI输出时，能够带来最大的商业价值。 生成式AI正成为当今企业运营和客户服务互动的关键组成部分。据Salesforce研究三个劳动者中的五人（61%）目前在或打算在他们所扮演的角色中使用生成式AI。其中68%的员工有信心，这项技术——几乎可以瞬间生成文本、视频、图像和音频内容——将使他们能够提供更丰富的客户体验。 但这并不是一个完整的解决方案——也不能替代人类工人。60%的被调查员工认为，人类监督对于有效且值得信赖的生成式AI是不可或缺的。 生成式人工智能具有革命化企业运营的巨大潜力，但公司如何决定采用它将决定一切。只有当它被审慎地使用，与人类的同理心和创造力相结合时，才能实现其全部商业价值。 生成式AI具有颠覆商业运营的巨大潜力，但公司如何决定使用它将决定一切。 在客户体验方面，生成式人工智能提供了多种功能，包括情感分析、语言翻译、文本分类和摘要，这些功能都可以用于提供高度个性化、具有上下文意识的客户互动。生成式人工智能可以驱动先进的客户服务聊天机器人，例如，它可以将您紧急的航班问题自动分流给相应的航空公司。此外，它还可以为后台的客服人员提供支持，为他们提供上下文信息、可能的回复以及建议的下一步操作，从而帮助他们更好地处理您的改签事宜。 生成式AI在各行业试点 尽管这项技术仍处于起步阶段，但许多生成式AI的应用场景开始出现。在销售和营销领域，生成式AI可以帮助创建针对性的广告内容、识别潜在客户、促销、交叉销售，并提供实时销售分析。当用于IT、人力资源和财务等内部职能时，生成式AI可以提高客服服务、简化招聘流程、生成职位描述、协助入职和离职流程，甚至编写代码。 尽管聊天机器人并不新鲜，但过去一年中生成式人工智能技术的公开发布意味着它们在短时间内得到了显著提升。“聊天机器人以前就存在，但生成式人工智能进一步提高了它们的效率，以及输出质量，”Everest Group副总裁Vishal Gupta指出。“现在的聊天机器人更加会聊天，并且能够回答更加复杂和困难的问题。” 人工智能对员工的巨大好处之一是其能够接管枯燥、机械且耗时的工作任务。“任何重复性低级的工作都可以外包给人工智能，”南加州大学马歇尔商学院数据科学和运营教授拉曼迪普·兰达瓦说。他表示，这可以提高员工满意度，因为人们不会因为繁忙的工作而束缚。 生成式AI增强人类联系 人工智能为客户提供绕过特定元素或采取替代对话路径的建议，以应对愤怒或失望的客户。 客户支持专家可以创建向人物过渡，人工智能可提供帮助。当需要提供相关客户数据和到目前为止的互动总结时，进行对话。由AI提供的对话总结和互动历史让客户支持代表不必让客户再次解释他们的情况。 共同努力，生成式AI与全面客户体验，满足客户需求，培养更强关系。在理想伙伴关系中，AI轻松地将简单和重复性的支持工作分配给处理更复杂案例的人类。 客户支持团队也可以利用生成式AI工具以更直观的方式访问公司知识库——不再需要翻阅厚达100页的操作手册，同时对照三份不同的电子表格，他们只需输入一个简单的查询，就像在搜索引擎中一样，即可获得解决客户查询所需的针对性答案。结果是减少了处理时间，提高了首次接触的解决方案的准确性。换句话说，为双方带来了更加完善的服务体验。 工作，同时无缝接管电话，无需 兰德普·兰达瓦，南加州大学马歇尔商学院数据科学和运营学教授，举了一个高级AI可以独立完成的任务的例子：一位银行客户与一个AI机器人进行聊天，询问客户需要什么。当客户说“滞纳金”时，AI查看账户，发现这是客户第一次滞纳金，并立即将金额退还到客户的账户中。 生成式AI还可以实现多语言客户支持和协助代理，通过提供音调和情感检测工具以及在通话结束时创建对话摘要。 “许多客户互动都是按照脚本进行的，以标准化服务，”兰达瓦解释道。“当每个人都说出同样的话时，这可能会让人感到沮丧。”语音分析AI工具将允许客户支持团队保留他们的脚本，同时实现 “没有哪个行业未受到生成式AI的影响，”古普塔补充道。“我认为在日常工作中，任何组织、任何行业的每一位员工都可以使用这些工具来提高他们工作的质量，同时提升他们的工作效率。” 工人对生成式人工智能的看法 许多员工渴望使用生成式AI... 61%他们说他们在工作场合使用或打算使用生成式人工智能。 AI的生成式挑战 生成式AI的变革力量不容否认。然而，正如任何在其相对幼年期中的技术一样，它也面临着重大的挑战。古普塔概述了四个主要领域，这些问题往往会出现：数据安全和隐私；可解释性（理解AI如何得出某些输出）；所有权（谁拥有在大规模抓取的数据集上训练的模型生成的输出）；以及伦理性和偏见。 训练数据存在偏见或不完整的问题是一个明显的问题——如果一个数据集缺乏多样性或包含偏见信息，AI模型可能会传播这些偏见，这可能会带来灾难性的现实世界后果。“在AI界有一句话：垃圾输入，垃圾输出，”古普塔说。“这意味着你的AI系统的好坏取决于训练它的数据。如果你的数据有偏见，输出也将有偏见。” 也存在一个问题，令人不安——当生成式AI模型提供事实错误或完全虚构的信息时。这些不准确之处可能会严重影响AI系统及其使用企业的信誉，尤其是在如医疗保健或法律咨询等敏感应用中。 同情心、常识和直觉。这需要平衡：尽管人工智能可以处理繁重的计算任务，在毫秒内筛选大量数据集，并在许多情况下提供即时解决方案，但人类必须准备在技术失灵的地方介入——提供机器无法复制的情绪智慧和创造力。 此外，尽管人工智能在模式识别方面表现出色，但在需要细微理解人类情感或复杂决策的领域却明显不足。因此，它并不适合执行需要 每位组织、任何行业中的员工都可以使用这些工具来提高他们工作的质量，并提升他们的生产力。 首席执行官对人工智能持乐观态度 这在紧张或有争议的客户互动中尤为重要——例如，当银行客户正在处理一系列复杂的欺诈交易时。在这些压力之下，客户不想与聊天机器人互动。他们需要人类的同理心和创造力，以感到被听到和受到关怀。 人类喜欢有人参与其中，”兰达瓦说道。尽管像语音和声音分析这样的AI功能可以帮助代理人提供更快、更全面的服务，但通往幸福客户的真正道路是用同理心和联系铺就的。 这种人类对引导和监督人工智能工具的需求正是古普塔认为关于生成式人工智能消除人类工作的最极端担忧被夸大——类似于过去对新兴技术的恐惧。“人们总是问，‘人工智能会取代很多工作吗？’10到15年前，当围绕机器人流程自动化的整个讨论开始时，就提出了同样的问题，”他说。“但如今，这个行业已经导致了市场中新工作的净增加。我认为生成式人工智能也会发生同样的事情。” 尽管如此，帮助员工学习和与新技术的协作对于顺利过渡劳动力至关重要。未来，使用AI工具的基本技能和经验可能成为客户支持角色的期望。 最佳人机交互实践 对于寻求将生成式人工智能整合到其工作流程中的公司来说，采用深思熟虑且以人为本的方法是必要的。以下建议将有助于确保生成式人工智能技术成为员工和客户的得力助手。 实施人为安全措施以保证训练数据和输出的准确性。人为审查者在评估生成式AI训练数据和核实其输出方面不可或缺，并且要对两者进行定期审计。古普塔指出，现在一些公司正在开发“知识包”，或经过审核、注释和标注的数据集，由人类领域专家负责。 “数据正在不断产生，但如果你没有采取正确的保护措施，就可能被黑客攻击，”Randhawa说，“公司收集数据也存在很多风险。” 为了防止灾难，AI的实践应遵守所有相关的法律和隐私法规。封闭的数据循环——使用匿名或难以识别的数据——也可能是确保使用生成式AI平台的公司不泄露专有信息的策略。 确保人工智能和网络安全工作相辅相成。生成式人工智能仍处于草创时期，但公司必须将客户个人信息和自身专有数据视为神圣不可侵犯。“有许多 我们希望利用人工智能的进步，但只有在人类能够舒适地将技术作为副驾驶员使用，使其更高效时，我们才能从中受益。 关注员工的定期和持续教育。帮助员工停止担忧人工智能会取代他们的工作，转而专注于学习如何将人工智能应用于日常工作中，这将是重要的。组织应确保员工了解人工智能能做什么，包括基本的提示工程基础。未来，生成式人工智能可能在帮助新员工快速上手，更快地弥补知识差距方面特别有用。 系统一旦创建，并非一劳永逸，”古普塔说。“生成式AI系统需要持续的反馈——这正是可解释性部分将变得更好的地方。” 在与第三方和内部专家咨询后实施生成式人工智能系统。引入与特定人工智能模型无关的第三方顾问有助于确保采用的技术与公司的使命、愿景和价值观相符。由AI专家、开发者、内容创作者和客户服务代表组成的内部跨职能团队有助于提供关于如何采用和改进人工智能系统的多元视角。 也很关键的是在公司内部政策中培养对AI正确使用的理解。“在这个环境中，对员工进行培训非常重要，因为能否检测出AI是否失控至关重要，”兰达瓦说。“员工需要能够有这些界限来解决这个问题。” 虽然生成式人工智能将在许多方面帮助企业运营，但人类的输入仍然是技术长期成功的关键基石。“大多数企业都在追求高科技与高接触的完美平衡，”Teleperformance的首席数字官Sidharth Mukherjee说。“我们想利用AI的进步，但我们只有当人类能够舒适地使用这项技术作为辅助驾驶员，使其更加高效时，才能从中受益。” 实施结构化、迭代的反馈机制。 客户和员工的反馈对于改进生成式AI工具至关重要。反馈循环有助于确保AI系统尽可能有效、道德和用户友好。它们还有助于组织将AI工具定制化，以适应其行业和公司的特定用例和术语。调查、Beta测试、试点会议和专属沟通渠道应包含在此过程中。“一旦完成... “生成式AI的核心是人类”是麻省理工学院技术评论洞察力部门的一份高管简报。我们感谢所有参与者和赞助商Teleperformance。无论参与与否，麻省理工学院技术评论洞察力部门均独立收集并报告了本论文中包含的所有发现。Teresa Elsey是该报告的编辑，Nicola Crepaldi是该报告的出版者。 关于麻省理工学院科技评论洞察 麻省理工学院《技术评论》洞察力是世界上最悠久的技术杂志《麻省理工学院《技术评论》》的定制出版部门，由世界领先的技术机构支持——举办现场活动和关于当今领先技术和商业挑战的研究。洞察力在美国和国外进行定性和定量研究与分析，并出版各种内容，包括文章、报告、信息图表、视频和播客。通过其不断发展的麻省理工学院《技术评论》全球洞察力调研小组，洞察力为全球高级管理人员、创新者和企业家提供无与伦比的调查和深入访谈的访问权限。 从赞助商那里 远距离绩效是一家全球数字商务服务公司。拥有超过41万名充满激情和灵感的人，他们能说300多种语言，我们的全球规模和本地影响力使我们能够成为支持我们的社区、客户和环境的积极力量。我们提供最先进、数字化赋能的商业服务，帮助世界顶级品牌以有意义和可持续的方式优化业务。我们通过以下方式帮助组织适应变化并掌握未来： • 一系列全面的、基于人工智能的服务，涵盖从前台客户服务到后台职能的各个方面。• 功能包括信任与安全服务，旨在保护在线用户和品牌声誉。• 采用一种平衡的高科技与高互动相结合的方法，并结合深厚的行业和地域专业知识，旨在让人们的生活更简单、更快速、更安全。•