前言
本白皮书针对AIaaS时代网络承载大模型与智能体业务的测试需求,定义了测试体系,包括场景、方法和指标,重点描述了网络对模型、智能体、业务调度、可靠性保障、安全等全生命周期支持能力测试,为承载大模型和智能体业务的网络提供技术验证、部署建议。
业务发展与现实挑战
随着AIaaS时代的到来,大模型推理、智能体协同与分布式智算正加速向千行百业渗透。用户对算力底座的诉求已从“能用”转向“好用”,对计算体验的确定性、低时延与高可靠性提出了更为严苛的要求。传统网络测试体系无法适配大模型与智能体的流量特征、传输要求与体验标准,行业面临测试环境与真实业务场景脱节的痛点,亟需构建一套能够精准评估网络对AI业务支撑能力的体系。
测试组网说明
测试业务范畴依托于基于AI业务的部署需求,对承载AI业务的网络展开标准化验证和评估,测试场景包括真实业务场景和模拟业务场景。测试组网主要分为用户域、网络承载域、算力业务域和测试观测域四部分。测试手段主要分为软件终端模拟与硬件测试仪表两类。
基础测试指标
建议大模型和智能体网络测试在现有网络测试评估指标基础上做维度扩充,形成基础网络性能、算网协同专属、安全可靠性、业务体验四类基础的测试指标集合。
3.1 基础网络性能指标
重新定义了涵盖时延、丢包、带宽、抖动四大维度的网络性能评估模型,侧重验证网络“能否稳定支撑计算”。
3.2 安全与可靠性指标
重点评估网络承载AI业务流量时的机密性、完整性和可靠性能力,包括加密传输、完整性测试和可靠性测试。
3.3 算网协同指标
聚焦网络对AI业务的深度感知与资源匹配能力,主要包括计算流量感知能力、RDMA确定性传输能力以及AI体验能力。
3.4 行业通测试场景
基于行业的需求,按照行业使用模型和智能体所需的具体业务指标实施测试,全面评估网络对行业特色应用的支持效果。
大模型和智能体专项测试指标
衡量网络承载大模型与智能体业务时的特色支撑能力,包括模型感知与支持能力、智能体感知与支持能力、模型+智能体协同联动支持能力。
4.1 模型感知与支持能力专项测试
采用真实环境业务流量与测试仪表模拟流量相结合的方式,分别构建训练与推理场景,全面评估网络对大模型应用的支持能力,包括模型流量识别能力、模型传输策略适配能力、模型跨域迁移与连续性、模型计算资源协同能力。
4.2 智能体感知与支持能力专项测试
聚焦对智能体通信的南北向和东西向的能力进行测试,测试网络对智能体通信的保障能力,包括智能体身份与会话感知、智能体东西向互联保障能力、智能体并发与扩容能力、智能体安全隔离与权限控制。
4.3 模型+智能体协同联动支持能力专项测试
验证终端经智能体调用模型、执行任务并返回结果的整体体验,包括端→智能体→模型全链路保障、多智能体调度多模型冲突处理、故障自愈与业务韧性。
测试实施与评估判定
模拟测试环境仅用于预测试与功能验证,而针对网络支撑AI能力的正式测试与综合评估,必须在真实环境中开展。测试实施主要采用仿真测试、现网测试、对比测试、长期稳定性测试四类手段。标准化执行按照完整流程依次推进。对网络的评估从五个维度开展:功能合规性、性能达标率、场景适配性、兼容演进性、算网原生性。结果划分为三个等级:优秀、合格、待优化。
产业价值
建立一套完整的测试体系,能够弥合实验室理想环境和真实公网业务环境的差距,填补算网协同领域测试标准空白,为设备研发迭代、运营商算网服务验收、企业智算网络部署提供统一标尺,有效校验跨公网传输过程的数据安全防护能力,支撑计算定义网络相关标准工作推进,加速AIaaS走向规模化商用。
总结与展望
本白皮书构建了面向AIaaS时代大模型与智能体完整测试体系,明确组网建设要求,扩充多维度测试指标集合,规范测试实施手段、执行流程与评估规则,厘清整套测试体系对于产业落地的关键作用。其发布不仅可为计算定义网络技术解决方案的设计研发、算网服务交付验收、企业智算网络规划部署以及产业标准制定提供权威参考,更致力于携手产业界同仁,凝聚行业共识,共同完善计算定义网络技术的测试评估标准体系,推动大模型、智能体等前沿业务在算网融合体系下实现高质量、规模化的商业落地。