2025年人工智能与数据展望报告：AI加速的未来

我们加速发展的⼈⼯智能未来已经来临，这意味着实现⼈⼯智能的操作化，重塑领导者的技能结构，并利⽤下⼀个杀⼿级应⽤程序 目录 重要新闻: 人工智能依然是重点 .................................. . . . . . . . . . . . . . . . . . . . 3相信炒作没问题，但要保持专注。 开源加速人工智能创新 . 17合作伙伴使开发⼈员更加快乐和⾼效; 冰⼭前⽅！ 人工智能走进生产: 价值和可观察性 ........................................................... . . . . . . 4⼈⼯智能商业化成为下⼀个重⼤挑战; ⼈⼯智能观测 在⽣产中将⾄关重要; 上下⽂为王。 GEN人工智能和LLMS: 保护新攻击面 . 19这个模型是⽬标；形式化⽅法崛起；模块化很重要。 专注向前运动22不要舒适；享受旅程。 杀手级应用：变革的代理人7⼈⼯智能不需要杀⼿级应⽤。但⽆论如何，我们已经拥有⼀个。 关注关键产业23深⼊探讨⾦融、媒体、医疗保健、制造业、公共部⻔、零售和电信。 好的、坏的和引起幻觉的10成功击败抵制；RAG将消除幻觉；不要担⼼芯⽚；担⼼道德问题。 贡献者 .38 在人工智能世界中工作 - 以及领导 - ................................................ . . . . . . . . . . . . . 14领导者必须跟上; ⼈⼯智能过劳不会消失. 重大新闻:人工智能（仍在） 2025年企业技术中最重要的事情将是⾃2022年底以来⼀直在发⽣的最重要的事情：先进的⼈⼯智能，特别是LLM和⽣成式⼈⼯智能。但在2023年是惊慌和惊奇的⼀年，2024年是实验的⼀年，⽽2025年则是企业开始认真思考⼈⼯智能对其组织能做什么的真正起步年。 Snowflake⾸席执⾏官Sridhar Ramaswamy同意《连线》的观点，该观点提出了令⼈沮丧的标题：“⽣成式⼈⼯智能的不那么性感的未来。”企业应⽤将会是重点。 “炒作周期将继续，但对我来说这是⼀个两极分化的故事——⼀个是炒作，另⼀个是让我们开始⼲活，”他说。“⽽我们坚定地站在后者这⼀边。” 企业已经开始将他们的⼈⼯智能概念验证从实验转移到全⾯投⼊⽣产，同时⼀些⼈⼯智能最⼤的⽀持者开始有点黯然神伤。 投资者可能认为我们有些⼈属于⽜市，有些⼈则是瓷器店，企业⾯临的挑战在于区分障碍和机遇。让我们试试吧。将近⼆⼗四位Snowflake领导者和技术专家共同为本报告作出贡献，试图描述⼈⼯智能变⾰性承诺将如何在即将到来的⼀年内实现及实现多少。 “ROI在哪⾥？”华尔街的⼤佬们喊道（⾼盛发表了题为“智能引擎：花费过多，收益过少？”的⽂章），“这种快速致富计划不会让我们所有⼈都迅速致富！”硅⾕的领主们喘不过⽓来（红杉资本则说，许多⼈最终会受益）。 我们看到以⾸席信息官为重点的新闻⽹站宣扬2025年的⼈⼯智能预算不断增加，⽽以⾸席财务官为重点的⽹站表⽰⾸席财务官将对⼈⼯智能⽀出变得更加谨慎。（这些⽂章都是同⼀位记者撰写的！）这些⽭盾的情绪反映了每位权威、顾问和专业专家在炒作需求新观点时是如此不稳定。 AI转入生产:价值和可观测性 在2023年和2024年，董事会似乎有⼀个反复出现的噩梦:他们在码头跑步，⼀艘名为AI的⼤轮船正要启航。⽣怕在现实⽣活中错过船，他们醒来要求C级管理⼈员⽴即制定围绕⽣成式AI和LLM的战略，并着⼿⾏动。朝某个⽬标迈进。 “您需要安全和治理的新⽀持性基础架构层，”Snowflake机器学习总监Mona Attariyan说。“您需要⼀个新的可观测性顶层，在试点阶段的静态数据集中并不真正需要。但这对可靠性、透明度和可解释性⾄关重要，特别是随着时间的推移。” “在2023-24年，”Snowflake⼯程⾼级副总裁Vivek Raghunathan说，“投资者会打电话给董事会，问到'关于AI，您在做些什么？' 董事会问CEO，'关于AI，您在做些什么？' CEO问CDO或CIO，然后资⾦花在了⼤量的原型和演⽰上。” Raghunathan表⽰，这很好，因为2025年是CFO开始询问ROI的年份。 “AI项⽬的关注点将放在哪些项⽬能够使公司在价格、治理和实际结果⽅⾯表现良好上，拉古纳坦说。“进⼊⽣产的驱动因素始终是企业需求的关键：⾼质量、低成本、安全可靠。” “组织确实被夹击了，”Snowflake⾸席数据战略师詹妮弗·⻉利森特表⽰。“从上⾯施加了‘找出⼈⼯智能的⽤处’的压⼒，从下⾯却出现了对开放⼈⼯智能⼯具如ChatGPT的⾮法使⽤。” 下⼀个⼈⼯智能策略的重点将是操作化LLMs，需要进化的观察⼒、治理和安全⽅法。 下一个AI战略的重点将是对LLMs进行操作化，需要进化的观测、治理和安全性方法。 前福雷斯特研究员表⽰，那种实验⾮常重要，有助于探索可能性并确定可⾏性。因此，“组织已经夯实了他们的数据策略，并在追求⼈⼯智能价值时变得更加系统化。” 将⼈⼯智能从沙盒带⼊⽣产引发了新问题——或者说，围绕安全、治理和可观察性的熟悉关注点。 平台将推出人工智能可观察性解决方案作为将人工智能引入生产的核心要素。 虽然LLMs和⽣成式⼈⼯智能⼯具是提出新担忧的新技术，但CIOs值得信赖来管理推出。 ⾄少，这是我们的CIO告诉我们的。 “IT知道如何推出应⽤程序，”Snowflake的CIO兼CDO Sunny Bedi说。他表⽰，⼈⼯智能⼀直在逐步发展，⽽不是突然出现。“⼏年前，我们在学习如何利⽤机器学习来驱动⾃动化并解决业务挑战。在过去⼀年左右，我们开始推出基于⼈⼯智能的应⽤。” 在企业系统中，可观察性通常指的是能够查看和理解系统状态的能⼒。这是⼀种性能管理的学科。新兴的⼈⼯智能可观察性领域不仅检查了系统的性能，还包括了LLM的输出质量，包括准确性、伦理/偏⻅问题，以及数据泄漏等安全问题。它有助于确保围绕模型设置的防护栏仍然有效。 首席数据官如何成功应对人工智能 在2024年，詹妮弗·⻉理森特与全球各⾏业和地理区域的⼗⼏位⾸席数据官讨论了他们如何应对先进⼈⼯智能的到来。她在《数据执⾏官有效应对⼈⼯智能指南》中详细描述了他们的集体⻅解。他们的第⼀⼿经验涵盖了从最初实验到运营再到转型的整个增⻓周期。在充满⼈⼯智能激动与焦虑的浪潮中，他们始终专注于效⽤和价值。 他说，整体上理解了围绕管治、安全和合规性的种种挑战，虽然⼈⼯智能带来了新的技术和监管挑战。他补充说，复杂度的程度与您的数据质量和⼈⼯智能策略直接相关。 “⼀旦您的应⽤程序处于⽣产状态，⽤于真正的⽤例并且接收新数据，您需要能够评估性能并检测、诊断和解决任何问题。” AI的操作化起初会更加困难，然后会变得更容易。 Attariyan表⽰。“没有观察能⼒，您就是盲⽬⾏动。” 虽然有许多AI可观察性初创公司和开源倡议正在崭露头⻆，Snowflake AI负责⼈Baris Gultekin表⽰，可观察性最终将落⼊数据平台和⼤型云服务提供商⼿中。 “操作化AI确实需要⼀个数据平台和⾯向AI的⼯具，”他说。“如果您有统⼀的数据策略，通过汇集所有数据，您解决了⼀半问题。 “公司正在回归基础，真正思考他们想要实现什么。” 然后使⽤AI⼯具，您可以解决另⼀半问题：安全性、合规性和治理挑战。您需要两者来保护并赋予您的AI部署能⼒，并减轻将所有内容杂乱⽆章拼接在⼀起的压⼒。” “独⽴创业做观察能⼒是很困难的，”他说。“采⽤LLMs的公司将需要AI可观察性解决⽅案，所以⼤型云服务提供商将增加这⼀能⼒。” 除了为您的IT团队配备合适的平台和⼯具，AI前企业必须铺开⼤蓬。 Raghunathan表⽰，在操作化和整合AI⽅⾯的主要失败轨迹可能是没有整合所有正确的利益相关者。 “采⽤新平台和技术既是社会结构，⼜是技术结构，”他说。“组织如果不带上所有应该发⾔的利益相关者，特别是在治理、安全和伦理⽅⾯，它们将会失败。” “他说：“在不久的将来，数据将更加符合AI的需求，因此AI可以轻松安全地将其插⼊现有的代理和应⽤程序中。” 数据平台的演进对于AI的演进⾄关重要，Snowflake联合创始⼈兼产品总裁Benoit Dageville表⽰。他预测，在使LLMs更好地理解它们处理的数据⽅⾯将取得突破。 如果将 AI引⼊到⽣产中似乎很困难，Raghunathan⽤未来的话语给出了安慰：“从⻓远来看，成功的AI供应商将使AI强⼤、简单、安全可靠。许多组织今天可能遇到的问题将作为实施细节消失在背景中。” “今天的数据平台中缺少的是语义层，对数据含义的理解，”他说。“当你在⼀个表格中有财务数据时，理解这些数据的来源、如何计算、代表什么，这是开发⼈员和分析师的⼯作。” 数据平台的下一个演进不仅关注格式化、存储和访问数据，还关注将其置于上下文中。 他说：“在每个应⽤程序中构建这种理解将会太过繁重。” “语义层是⼀个关键⽅⾯，需要靠近数据层推动，以便AI可以更好地理解数据的特性并做得更好，”他说。“你不想为每个应⽤重新发明语义概念。你想推动到数据层 - 这是下⼀个演进。” 取得成功不仅取决于这些⼈⼯智能供应商提供的神奇进展 企业将需要继续使他们的数据为这些先进系统做好准备 Gultekin表⽰数据平台将继续帮助组织优化他们的数据 杀手级应用程序:变革之人 什么是⼈⼯智能的最佳⽤途？在众多颠覆性通⽤⼈⼯智能和LLM能⼒的承诺中找到杀⼿级应⽤程序可能会很困难，因为潜⼒如此巨⼤。 “我们⿎励客⼾专注于创造价值，⾸席执⾏官Sridhar Ramaswamy表⽰。“您的客⼾是否可以更快地获得所需信息？您的决策是否更快？您是否能够完成更多⼯作？您是否能够在没有⼤量中间⼈和浪费时间的情况下获取信息的效率如何？ “不是每个应⽤都会得到⼈⼯智能的帮助，”Ramaswamy同意说。“但是许多应⽤程序将以各种⽅式结合⼤型语⾔模型、知识库和⼈类输⼊，随着时间的推移变得越来越聪明。这是⾮常令⼈兴奋的，因为您将看到许多出⼈意料的实际应⽤。” “组织正在研究LLM可以取代复杂流程或过时⼯具的案例，”ML主管Mona Attariyan表⽰。“评估权衡需要时间，并且应该包含相当严密的程序。LLM⾮常惊⼈，但它们并不适⽤于可能能够做的每⼀件事情。” ⼀个观点是，⼴泛的能⼒使LLM和通⽤⼈⼯智能超越了那种单⼀的主导⽤例。换句话说，先进的⼈⼯智能并不需要⼀个“杀⼿级应⽤程序。” 所以，总的来说，并不需要考虑⼈⼯智能的杀⼿级应⽤，因为它是——哇，等⼀下，关于副驾驶成为⻜⾏员那⼀点是什么意思? “LLM本⾝就是杀⼿级应⽤，”⼯程SVP维⻙克·拉古纳坦说。 “看，如果你问我电⼦表格的原始杀⼿级应⽤是什么，也许是财务。但这只占到整个企业⽤例的10%。电⼦表格的杀⼿级应⽤就是电⼦表格。 人工智能的“杀手级应用”将是自主代理。 这是⼈们提⾼⽣产⼒的⼀种新⽅式，我向你保证，现在有些⾏业离开了电⼦表格就⽆法⽣存。同样，LLM的杀⼿级应⽤就是LLM本⾝。这是⼈们提⾼⽣产⼒的⼀种新⽅式，⼈们每天都在发现它的新使⽤情况。 聊天机器⼈和助⼿在为相对专注的任务或信息语料库构建时效果最佳。这种⽅法往往更具成本效益和资源效率，错误率显著降低。但这意味着这些⼯具在功能上相当有限。 他指出现已经存在并稳步改进的LLM的⼏个强⼤应⽤，如编码、写作和信息检索助⼿。但这并不仅限于“副驾驶员。” 直到你让它们开始彼此交流。 “我们正处于这个过程的开端 - 构建组成代理的层和能⼒，” Snowflake联合创始⼈Benoit Dageville说。 他说，结果将是⼀个能够将⼀个⼴泛的提⽰转化为复杂⾏动（“围绕我们的新产品制定营销活动”，“计划并预订我在温哥华周末度假的⼀切”）的界⾯，并将其分解为⼀组离散的⼦任务，这些⼦任务将被分配给⼀系列专注的助⼿。 这样⼀个强⼤的应⽤程序并不遥