生成时代的繁荣

在生成 AI 时代蓬勃发展 ： 来自各个行业的高级领导人齐聚伦敦Mercer酒店，参加了一场由Hexaware合作伙伴举办的专属晚宴和圆桌讨论会。该活动由Hexaware主办。Tech Monitor Greg Noone 特征编辑员，他在遵循邱塔姆房屋规则（Chatham House Rules）的前提下主持了一场讨论，围绕利用生成性AI最大化商业价值展开。 Introduction 虽然人工智能及其潜力可以追溯到20世纪50年代至60年代，但2023年见证了其在企业领域的真正成熟，促使各行业展开相关讨论，并推动了更多的数字化转型以促进生成式AI模型的发展。这一生成式AI能力的爆发源于数据可用性的增加、计算能力的进步以及新算法的出现，从而解锁了以前从未有过的高精度和高真实感的内容生成方式。 充分发挥其潜力。从不信任到网络安全，高级领导层准备质疑和分析生成式AI的潜在价值，以提高业务效率和生产力并降低成本。 Tech Monitor,Noone编辑Greg邀请来自各个行业的高级领导者分享他们对生成式AI最大化商业价值能力的看法，讨论了信任水平、网络安全、数据保护和风险管理等方面的需求，帮助企业寻找生成式AI成功优化其业务的新途径。 然而 ， 一些企业已经迅速采用生成 AI 并大量使用它 ， 而另一些企业尚未 使用创成式 AI 企业如何利用生成式 AI 来改善工作流程并提高运营效率 ？ 大多数发言者都谨慎地避免过度依赖生成式AI，因为对基于聊天的公开解决方案（如ChatGPT）缺乏信任。一家法律管理公司的首席信息安全官在讨论生成式AI技术的普及情况时承认，他们发现许多员工都在使用这种技术。“今年的情人节那天，我们将其进行了封锁。”他们表示。这使他们能够为重新引入生成式AI技术设置安全的护栏。“我们建立了一个中央AI加速功能，以评估安全、风险、合规性和法律影响。”首席信息安全官说。该公司现在是Bing Chat Enterprise的积极用户，并且“非常高兴能参与M365早期采用者计划”，该计划遵循微软的责任AI标准和原则。 作为代表们讨论生成式AI最有效的应用场景时，文档组织与处理、会议摘要以及流程优化被列为最受欢迎的建议。首席信息安全官强调了在使用生成式AI时应采取谨慎的态度，并指出该软件能够比人工操作更快地完成任务：“我们一天内就产生了20篇安全意识文章，而通常情况下，每篇都需要我们花费一天时间。” 我们在某些领域说“不”。因此，目前我们仍然坚持“绝不让个人 identifiable 信息（PII）接近人工智能（AI）”。但我认为，在接下来的一个月左右，这些立场将会有所缓和。 又一位大型零售银行的安全负责人讨论了其企业正在调查的生成式AI的应用案例，从书面内容到提高安全团队的效率，特别是在事件响应方面，能够迅速找到他们正在调查案件的相关术语将成为提高效率的关键领域。“我们还研究了监测负面媒体报道的应用案例。我们在英国拥有较大的零售业务规模，”他们说，“我们从社交媒体渠道收到大量的内部沟通请求，而像生成模型这样的工具……可以进行情感分析，这极具价值。” 然而，最大的挑战，正如发言者强调的，是确定应该优先考虑哪些生成式AI的使用案例。“关键是要识别那些容易实施且具有高价值的应用场景，”他们说。“并不是有很多这样的应用场景。” ” 它得到了正确的平衡。和任何新技术一样 ，如果你太谨慎它 ， 你失去了市场份额 ， 你失去地面 ” 。 - 法律管理公司的 CISO 信任生成式 AI 生成 AI 的局限性是什么 ？ 为什么必须我们小心翼翼吗 ？ 一位保险 executives 强调了对生成式AI结果的信任度保持高度警惕的必要性，并指出了在审计中使用开源AI模型时所需的关注和责任。他承认，关键相关方和员工被雇用以履行特定职责，而非仅仅因为软件本身。 即使您准备进行大量提示工程工作以尝试减少幻觉的发生，它们仍然会发生，而且还会发生。这就是该工具的性质——它们是概率性的，而非确定性的。 当讨论幻觉的可能性时，一家大型银行的IT部门负责人指出，在缺乏对生成式AI初步了解的情况下，很难承认和理解这类模型在实际生产中所能创造的细微差异。 - 一家主要银行的安全架构师 当演讲者要求模型编写一个工具演示报告时，生成式AI工具在方法论中提到了一个尚未使用过的网络安全性分析工具，因此在报告中提供了关于该过程的虚假信息。“如果将这些信息呈现给利益相关方，他们可能会对此提出质疑。即使他们没有意识到这一点，这也会影响报告的有效性，因此仍然需要人类专家来审核模型生成的内容。” 图 1:明亮和黑暗AI 的一面网络安全 生成性AI工具在提高网络安全能力方面具有无限的可能性，但我们也必须了解AI带来的威胁。 保护企业 与生成 AI 相关的网络攻击场景是什么 ？这些场景在未来可能如何发展 ？ 能够更密切地识别这些威胁。 一位全球银行首席执行官表示，他们每天都会收到这样的钓鱼邮件。“有人 hacking 电子邮件地址，然后生成——整封电子邮件的内容和风格与你原本写的完全相同。”演讲者说，“当我们的人员拨打电话时，电话会被转接到一个使用与你相同的语气进行交流的 AI ‘机器人’。”这凸显了随着人工智能工具和技术日益 sophisticated，它们将成为越来越严重的网络安全风险，不仅对银行业，还将影响所有管理敏感数据的行业。 在讨论生成式AI在网络安全领域的潜在应用时，法律 firms的安全负责人表示，邮件网关和DLP（数据丢失预防）解决方案的工具供应商称他们正在将其解决方案中嵌入AI技术，但有些供应商更多地提及的是机器学习。“我们收到大量的DLP警报报告，其中95%都是误报，”演讲者说道。“重点在于找出那5%。” 演讲者强调了网络安全威胁可以通过测试生成式AI工具的画像能力来实现，评估这些工具能够揭示关于个人的哪些信息。安全团队可以据此了解钓鱼邮件如何利用个人信息变得更加有针对性。因此，更加严密的网络安全解决方案可以被开发出来。 一个代表提到一个关于深度假信息的场景，在市场开盘前有一段可信的高级领导人的视频在网上发布，宣布一项剥离计划，导致有人进行卖空操作，提出了在这种情况下应如何应对的问题。一位发言者建议可以通过二次信息验证的方式来更广泛地检测深度假信息，例如，在任何重大公告周围的新闻发布会上进行比对。然而，这里的关键难点在于确定哪些内容是深度假信息所需的时间，这可能产生严重的广泛影响的金融后果，即使反应时间仅为一小时。响应越慢，企业面临的成本损失风险就越大。 “用户群分析总是要成长; 你越多了解您的用户行为 ， 更好的保护你可以当涉及到基于用户行为的攻击。 “ 来自技能开发平台的 CEO 2022 年全球生成 AI 市场规模评估为 107.9 亿美元 ， 预计到 2032 年将达到约 1180.6 亿美元 企业如何确保在使用生成 AI 时处于领先地位 ？ 企业领导者采用哪些策略来保护其业务免受与生成式AI相关的网络攻击？ 生成式AI的一个关键局限性在一家法律管理公司的安全负责人提出讨论中被提及。他描述了当要求生成式AI工具在其内部网络中搜索特定政策时，该工具因公司未从内部网络中移除过时的政策而返回过时政策的情况，这促使企业需要清理其 CORPORATE 数据并确保数据及时更新，以便将其用于模型训练。“当我们要求生成式AI工具展示我们的内部网络并找到我们所需的某项政策时，有一半时间会返回过时的政策，因为我们没有进行清理工作，”发言者说道。“这将是一项巨大的任务。” delegates 强调了各种工具和平台（如 Github Copilot 和 CodeWhisperer）带来的好处，其中利用某些工具而非其他工具所需的努力变得反作用明显。这些工具的一个积极方面是显著提高了生产力，有助于初级到中级程序员。尽管高级程序员经验丰富，但这些工具可以作为一种方法来提升技能，并在不同层级的角色中提高生产力和质量。 另一个代表提供了一个开源威胁建模系统的例子，他们构建该系统以帮助提高效率并节省时间。“它所做的只是试图将一名普通的安全专业人士引入房间，并为特定的应用程序脚本生成初步的威胁模型。”安全负责人说。该模型接受应用程序的自然语言描述，并相应地提供一种方法论。虽然这还不是最终产品，但它为安全团队提供了通过节省时间和提高效率来集中精力解决更复杂问题的机会。 针对数据质量与相关性的问题，一位代表建议“不良数据”指的是那些不“当前”的数据。在某些情况下，如果数据不够及时，就不能基于这些数据做出决策，尤其是在涉及税法规则和规定、或在欧洲宣布的法律案例及其与其他地区的差异时，演讲者列举了这一点。因此，如果要正确使用生成式AI，公司应更新其数据的准确性和效率，这是一个巨大的任务。 Hexaware 对采用生成 AI 的看法如何 ？ 生成式AI是一个迅速发展的领域，具有 transformative 各方面业务、科学和社会的潜力。 Hexaware �正以谨慎乐观的态度稳步前行，并引导客户采用生成式 AI。公司观察到，组织目前主要处于评估阶段。他们正在探索各种技术解决方案路径，力求在确保数据安全性和可靠性的前提下，明确识别出能够实现可衡量 ROI 的机会。Hexaware 的生成式 AI 咨询与实施框架旨在在整个生命周期中引导客户完成这一旅程。 在关于生成 AI 的讨论中 ， 企业应该考虑什么 ？ ■生成式AI有潜力通过推动创新、提升运营效率和个性化体验来彻底改变企业。 ■它可以生成多样化的内容、自动化任务，并通过聊天机器人和精准广告等功能针对性地个性化互动。 ■生成式AI还可以通过提供数据驱动的洞察帮助 Businesses 提高决策能力，从而使企业能够基于明智的视角优化策略和运营。 ■然而，生成式AI给企业带来了挑战，包括内容不准确、伦理困境以及社会影响等问题。 ■这些挑战涉及数据质量 ， 道德 ， 法律风险以及潜在的人类工人流离失所。 研究估计，生成式AI在63个应用场景中可能带来每年2.6万亿美元至4.4万亿美元的经济益处。 ■为了应对这些问题，企业应采用负责任的人工智能实践，确保数据质量、促进透明度并与利益相关者和监管机构进行互动。 来源 ： 麦肯锡 海威特是一家全球性的技术与业务流程服务公司，致力于连接优秀的人才与技术。公司在19个国家拥有45多个办事处，旨在通过与其合作，帮助全球企业实现大规模和快速的数字化转型，从而构建、转型、运行并优化其技术和业务流程。 您可以在 www. hexaware. com 上了解有关 Hexaware 的更多信息。