Gen AI 对各行业的重要性日益凸显,多数组织正积极开发或部署 Gen AI,其中科技行业 adoption 率最高。Gen AI 主要应用于数据分析、客户服务自动化和内部流程自动化,其中数据分析是首要任务。组织在 Gen AI 采用中面临的主要挑战是安全风险、数据隐私和监管问题,数据可用性和质量是 Gen AI 实施的关键因素。成本效益是选择 Gen AI 基础设施解决方案的重要考量,组织需通过优化资源配置、利用 AI 优化软硬件堆栈和实施智能资源管理来降低成本。Gen AI 平台需具备创新性、动态性和集成性,以支持多角色用户和 evolving 架构。边缘计算在 Gen AI 应用中愈发重要,制造业和医疗行业尤为关注。混合云是 Gen AI 工作负载的首选基础设施方法,提供灵活性、数据驻留和合规性优势。组织更倾向于利用专有模型(如 Gemini、Claude 和 AI21)而非自建模型,并依赖云服务提供商的托管服务来简化 Gen AI 基础设施的运营和管理。