CNCF技术雷达：AI推理、机器学习编排与代理型AI工具及平台

核心观点与关键数据

• 人工智能推理工具和引擎：英伟达Triton在成熟度和实用性方面获得最高评分，DeepSpeed、TensorFlow Serving和BentoML被开发者置于“采用”位置。Kubeflow和Adlik被置于“试用”位置。
• 机器学习（ML）编排工具：Airflow和Metaflow被开发者置于“采用”位置，BentoML被置于“试用”位置。Feast在成熟度方面表现突出，但用户群相对较小。
• 智能代理AI平台、项目和系统：模型上下文协议（MCP）和Llama Stack被开发者置于“采用”位置，Agent2Agent获得最高推荐率（94%）。

研究结论

• 云原生开发中的AI/ML工具呈现成熟度梯度，NVIDIA Triton、Airflow和模型上下文协议等成熟技术已达到“应用”状态，而新兴解决方案在代理架构等领域持续创新。
• CNCF项目在不同成熟阶段均表现出强劲表现，体现了该基金会在技术生命周期中的重要作用。
• 云原生模式已成为AI/ML开发的基础框架，组织应利用成熟解决方案构建核心基础设施，并探索有潜力的新工具。
• 目前41%的ML/AI开发人员采用云原生方法，这一比例有望继续增长。

方法论

• 研究采用李克特量表评估开发者对技术的成熟度和有用性认知，评分范围为1到5星。
• 受访者主要为云开发者，使用基础设施即代码、服务网格等技术。
• 研究数据来自第三方小组，排除基于内部一致性和调查行为指标的受访者。
• 行业分布涵盖软件产品、数据分析、人工智能、金融服务等多个领域。
• 开发项目类型包括网络应用、移动应用、数据科学、DevOps等。
• 开发者对新技术的采用方法多样，包括尝试最新技术、早期探索、已证实效用采用等。