2024年人工智能生成预测

释放生成AI革命 深入了解生成AI公司、投资者和市场见解的宝库。通过独家软件购买者访谈提升您的决策，以了解产品定价、CSAT和部署后体验。 CB Insights -通往生成AI的门户 注册访问权限 你总是在AI驱动的研究分析师 少做搜索，得到更多的答案 加入等待列表以便提前访问 预测 1 生成的AI基础设施 5121722275561下一个iPhone：AI的硬件革命67自治代理人：从炒作到有点有用74 32374379AI与AI：GenAI推动了新一波攻击和防御8794 多模式AI成为桌面赌注 生成的AI基础设施 耗电的AI数据中心激增 生成的AI基础设施 生成的AI基础设施 传统数据中心尚未为此做好准备 “据估计，在未来15年内，80%的数据中心电力将被人工智能消耗。.所以，在一天结束的时候，获得电力是一个关键的差异化因素。“ DigitalBridge集团首席执行官Marc Ganzi，第二季度23财报电话会议 生成的AI基础设施 对大功率AI数据中心的需求巨大 在财报电话会议上提到AI和数据中心技术的数量激增 生成的AI基础设施 大笔资金将用于实现液体冷却等技术 高功率和高热量的AI数据中心将推动对冷却技术的需求 支持JetCool通过23年第四季度的风险投资部门 收购CoolIT系统对于$2.7亿在23年第二季度 收购CoolTera在23年第四季度 生成的AI基础设施 随着公用事业努力应对，对可再生能源的需求正在增加 “数据中心已经占我们美国积压工作的一半，而生成AI的增长只会加速他们对更多可再生能源的需求。 “人工智能驱动的数据中心建设为可再生电力创造了巨大的增量需求。 首席执行官安德烈斯·格卢斯基，第四季度'23财报电话会议 首席执行官JeffLipson，第四季度'23收益电话会议 生成的AI基础设施 核可能是可持续AI运营的未来 最近资助的小型模块化反应堆和聚变技术公司 生成的AI基础设施 数据稀缺推动了对新资源的搜索 生成的AI基础设施 我们正在耗尽用于训练LLM的高质量数据 研究人员估计，到2026年，我们将耗尽高质量的文本数据*用于训练LLM-这种趋势可以减慢AI的进度。 生成的AI基础设施 免费的互联网文本不再是护城河-抓取专有资源变得越来越困难 生成的AI基础设施 拥有专有内容的供应商将成为热门许可和收购目标 生成的AI基础设施 生成的AI基础设施 Nvidia的敌人：在GPU短缺的情况下，芯片竞争加剧 生成的AI基础设施 GPU短缺严重打击行业 “在这一点上，GPU比药物更难获得。 埃隆·马斯克在《华尔街日报》首席执行官理事会峰会上 生成的AI基础设施 大科技是最大的买家，囤积了成千上万的H100 预计2023年将向部分买家交付H100 GPU 生成的AI基础设施 面对飙升的需求，英伟达最大的客户也在推自己的芯片 “要获得每个人都想要的GPU数量真的很难 “在我们运营的规模上，优化和集成基础 。所以它只是[亚马逊芯片] Trainium和Inferentia对人们如此有吸引力的另一个原因。 设施堆栈的每一层以最大限度地提高性能对我们来说非常重要。使我们的供应链多样化 ，并为客户提供基础设施选择.” Scott Guthrie，微软云和AI集团执行副总裁 首席执行官AndrewJassy，第四季度'23财报电话会议 生成的AI基础设施 生成的AI基础设施 不良行为者目标语言模型 生成的AI基础设施 顶级LLM可能永远不会完全安全 “也许最令人担忧的是，目前尚不清楚LLM提供商是否可以完全修补此类行为。 在过去的10年里，类似的对抗性攻击已被证明是计算机视觉中一个非常难以解决的问题。 生成的AI基础设施 随着机密数据泄漏，数据中毒和其他安全问题的增长，企业陷入困境 “……[LLM]存在许多风险，特别是在企业中 用例。我们已经看到了一些示例，其中数据被馈送到大型语言模型中，而不了解数据将如何使用，并且数据已...公开提供，即使它是机密的。从安全的角度来看，即时注射攻击、数据中毒等也有敏感性…” 首席产品官LeeKlarich，23年第二季度财报电话会议 生成的AI基础设施 高管们在LLM安全上花费高达600K美元 采购金额:$600K /年 “我们对模型安全性有两个主要要求：首先，我们想知道我们的模型在哪里脆弱Aishield提供了良好的攻击媒介来识别这些漏洞。 “我们认为最接近TrojAI的替代方案是ArthurAI，但由于其生成AI安全解决方案的设计和架构不安全，他们的安全规则集依赖于基于OpenAI的GPT3.5模型做出安全决策，这增加了FinOps的开销。此外，它引入了安全问题，因为组织的知识产权可能会泄露给大型语言模型服务提供商。 第二,我们希望能够在运行时推理期间检测到任何攻击AIShield能够很好地检测到他们支持的数据类型的攻击。” 财富500强公司的TrojAI客户和副总裁 AIShield全球2000公司的客户和董事 生成的AI基础设施 生成的AI基础设施 MLOps整合 生成的AI基础设施 机器学习操作(MLOps)是碎片化的 130+公司跨越 12个不同类别帮助企业从开始到结束带来 LLM项目 生成的AI基础设施 买家希望为他们的AI需求提供一站式服务 “我认为有很多工具和竞争对手，可能会有一场重组，一些球员，尤其是较小的玩家可能会离开...” “在审查Databricks的产品时，我们注意到了几个优势。第一个是它的统一的数据平台，它允许我们在单一平台上执行数据工程和数据科学机器学习这增加了跨职能团队之间的协作和效率。” H20. ai客户财富500强公司的AI主管 Databricks客户Fintech公司副总裁 生成的AI基础设施 公司已经在人满为患的市场中感受到了痛苦 生成的AI基础设施 端到端平台将占主导地位 Databricks正在积极收购以扩展产品功能 提供端到端MLOps平台的云公司 收购自2020年以来 基础模型 多 模 式AI成为桌面赌注 基础模型 基础模型 谷歌正在挑战竞争对手，第一个商业模式采取不同的投入 Google的Gemini Ultra在MMMU基准测试中优于GPT - 4（Vision） 基础模型 基础模型 基础模型 企业使用袖珍模型做得更多 基础模型 企业在大型模型上的支出可以达到数百万美元 “[GPT - 4]是可用的最大，最昂贵的AI模型之一。使用它来总结电子邮件就像让兰博基尼送披萨一样。” –Tom Dotan，WSJ $2- 3M $720K $500万 自定义GPT-4的起始价格 估计GPT -4（32K）成本汇总6M维基百科文章的一半大小 财富500强医疗保健公司在OpenAI上的年度支出 基础模型 模型现在正在缩小，使它们的训练速度更快，运行成本更低 小型语言模型的参数大小比GPT-3.5小88X 基础模型 尽管规模庞大，但小型语言模型在通用基准测试中表现强劲 较小的模型在斯坦福HELM基础模型评估框架中排名前6位 “...和微小的大小，你可以把你的手机和你的电脑等等......这似乎令人惊讶，但他们都可以做同样的事情。但很明显...最大的一个[大型模型]用途更加广泛，它可以做更多令人惊叹的事情。大的会教小的如何成为好的AI。 首席执行官JensenHuang，第二季度'23财报电话会议 基础模型 具有敏感数据的部门将在LLM的边缘选择小型模型 “我们看到企业对使用GPT或PaLM等模型的 担忧因为它们非常大，必须由模型提供商托管。从某种意义上说，您的数据确实要通过这些提供商。” “……我们真正专注于我们所谓的小语言模型，它允许算法生活在CDP中，只看到他们的数据和Zeta数据云，并在他们的产品上获得真正的智能不允许他们的数据离开生态系统。这是我从未见过的共鸣.” 首席执行官ArvindJain，接受Computerworld采访 首席执行官大卫·斯坦伯格，23年第三季度财报电话会议 基础模型 基础模型 开源对封闭式LLM提出了挑战 基础模型 开源LLM开发人员看到投资者和商业兴趣不断上升 开源模型开发人员的总资金 “我们还在建造像Llama2这样的基础模型，我们相信现在是领先的开源模式，上个月Llama下载量超过3000万次。" 首席执行官马克·扎克伯格，23年第三季度财报电话会议 基础模型 2024年将有创纪录数量的AI项目建立在开源模型上 基础模型 性能差距将迅速缩小 基础模型 企业将越来越多地考虑开放的替代品 “我们采用了Llama2并在我们的数据集上对其进行了微调，然后将其部署在Replicate上的A100GPU上。这几乎是主要的工作流程这是我们使用的副本的主要部分……” “从我的角度来看，三大巨头是OpenAI，Llama2，然后是Anthropic正如我与该领域的人们交谈过的那样，这是最受欢迎的，在人们实施工具方面最被采用的顺序。” “GPT Turbo更便宜。这通常是我们大多数产品的默认电源，尽管这可能很快就会转移到Llama，因为Llama如果实施的话成本更低。“ 个人客户FP＆A负责人，估值为$1B以上的技术公司 复制客户高级经理，数据科学在$1B+估值技术公司 OpenAI客户早期VC公司的合伙人 基础模型 超越变压器：新架构挑战现状 基础模型 基础模型 但是基于变压器的模型留下了巨大的碳足迹 2022年部分机器学习模型和实际案例的二氧化碳当量排放量（吨） 基础模型 用户想要更高的令牌限制-今天的LLM有限制 采购金额:$300K /年 “变压器的计算要求随着序列长度的二次增加， 这限制了这些模型可以从可用数据集中捕获的知识范围。 “如果你考虑进行诊断性睡眠测试的医疗咨询，这可能需要24小时......你真的不可能从许多这样的模型中得到四个小时的价值。“ 我们对新的、次二次的方法感兴趣。" 财富500强公司高级研究工程师 研究作者：DanFu，SimranArora，ChrisRé 基础模型 十亿令牌？新的变压器变体试图打破天花板 微软在2023年7月发表了关于“LongNet ”的研究，以扩展变压器 基础模型 顶级研究公司正在超越变压器 基础模型 人机交互 AI女友杀死人类浪漫 人机交互 年轻人的性生活减少了 人机交互 无尽的滑动不起作用 人机交互 约会公司正在转向genAI，使约会变得不那么尴尬，并让用户着迷 “...使用生成式AI真正成为Bumble口袋里最好的朋友，帮助你约会，建立信心，感觉良好你永远不会删除这个应用程序因为这并没有让你自我感觉良好。” “到今年年底，我们预计将启动一系列举措，将使用生成式AI消除尴尬，使约会更有价值，让用户感到惊讶和愉悦..." 首席执行官伯纳德·金，23年第三季度财报电话会议 首席执行官惠特尼·沃尔夫·赫德，第四季度业绩电话会议 人机交互 AI女友初创公司正在孤独，无性的男人中寻找市场 人机交互 人机交互 孤独的Z世代与AI交朋友 人机交互 我们正在经历孤独的流行病 人机交互 在智能手机时代，Z世代与朋友在一起的时间要少得多 人机交互 但是，当您的AI机器人可以像人类一样风度翩翩时，谁需要真正的朋友呢？ 超过一半的Character.AI 400万用户年龄在24岁以下 人机交互 开放式对话和AI角色生成技术正在迅速发展 游戏行业的进步将带来更身临其境的在线社交体验 人机交互 新兴的AI伴侣应用程序 人机交互 下一部iPhone：AI的硬件革命 人机交互 iPhone发布15年后，销量停滞不前。苹果因触及创新高原而受到批评