ICONIQ Capital 于 2025 年 4 月发布的《人工智能现状报告》调查了 300 名软件公司高管，重点关注构建和扩展人工智能产品的策略和实践。报告的核心观点包括：
人工智能产品类型和阶段： 大多数 SaaS 公司正在增加人工智能功能，分为人工智能赋能（创建新的非核心产品）、人工智能原生（核心产品由人工智能驱动）和传统软件即服务。人工智能原生公司在产品开发周期中走得更远，约 47% 的产品已达到临界规模。
模型使用和训练技术： 受访者主要依赖第三方人工智能应用程序接口，但高增长公司更倾向于开发专有模型或微调现有基础模型。检索增强生成 (RAG) 和微调是最常见的模型训练技术，高增长公司更积极使用基于提示的技术。
人工智能基础设施： 大多数公司使用基于云的解决方案和 AI API 提供商进行训练和推理，以最大限度地减少前期资本支出和运营复杂性。然而，这也意味着供应商选择、服务水平协议 (SLA) 谈判和每次呼叫成本管理成为战略优先事项。
模型部署挑战： 幻觉、可解释性/信任度以及证明投资回报率 (ROI) 是部署模型时面临的主要挑战。随着人工智能产品的扩展，性能监控变得越来越重要，许多扩展的产品都提供了某种高级性能监控功能。
代理工作流： 大量公司正在评估代理工作流，高增长的人工智能公司更积极地在生产中部署人工智能代理。
上市战略与合规性： 人工智能产品路线图中约有 20%-35% 专注于人工智能驱动的功能，而高增长公司则将其产品路线图的 30%-45% 专注于人工智能驱动的功能。许多公司使用混合定价模式，包括基于订阅/计划的定价与基于使用或结果的定价的组合。人工智能的可解释性和透明度变得越来越重要，大多数公司都制定了人工智能道德和治理政策，并采用“人在回路中”的监督方式。
组织结构： 许多公司在营收达到 1 亿美元时，已经拥有专门的人工智能领导层。大多数公司目前都有专门的 AI/ML 工程师、数据科学家和 AI 产品经理，其中 AI/ML 工程师的平均招聘时间最长。
人工智能成本： 平均而言，公司将其研发预算的 ~10-20% 用于人工智能开发，大多数公司计划在 2025 年增加人工智能方面的支出。人才成本在总支出中所占比例趋于下降；相反，随着产品开始受到市场青睐，基础设施和计算成本趋于增加。
内部生产力： 2025 年，所有收入层级的内部人工智能生产力预算都将增加近一倍，公司支出将占总收入的 1-8%。研发预算仍然是企业公司最常见的人工智能内部生产力预算来源；但是，我们也开始看到人头预算被用于内部生产力支出。约 70% 的员工可以使用各种人工智能工具提高内部生产力，但只有约 50% 的员工在持续使用人工智能工具。
人工智能获取和使用： 虽然约 70% 的员工可以使用各种人工智能工具提高内部生产力，但只有约 50% 的员工在持续使用人工智能工具，成熟企业（收入超过 10 亿美元）更难采用人工智能工具。
主要采购考虑因素： 为内部用例选择基础模型时，成本是最重要的考虑因素，其次是准确性和隐私性。为内部用例部署人工智能的组织所面临的最大挑战通常是战略挑战（即找到正确的用例并证明投资回报率）与技术挑战。
用例数量： 公司通常会在各个职能部门探索多个 GenAI 用例，员工采用率高的公司会在 7 个以上的用例中使用 GenAI。
热门使用案例： 研发和 S&M 用例受欢迎程度领先，而 G&A 用例相比之下仍然落后。编码辅助远远超过其他用例，对生产力的影响最大。
对内部采用人工智能的态度： 高增长公司往往更积极地尝试和采用新的人工智能工具，这表明领先公司将人工智能视为一种战略杠杆，并更快地将其整合到内部工作流程中。
跟踪投资回报率： 大多数公司都在衡量内部使用人工智能所带来的生产率提高和成本节约情况。
AI 生成器技术栈： 报告还探讨了构建生成式人工智能产品时最常用的工具，包括模型训练和微调、LLM 与 AI 应用开发、监测和可观测性、推理优化、模型托管、模型评估、数据处理与特征工程、矢量数据库、合成数据与数据增强、编码辅助、DevOps 与 MLOps、产品与设计等。
