联想算力基础设施第三卷

卷首语第一章AI战略制胜法则：智算基础设施重构商业价值1.1 大模型下半场，推动 AI 普惠并抢占战略制高点1.2 DeepSeek 技术矩阵，重构 AI 时代核心竞争力第二章企业AI大模型应用：从试水到规模化落地的全新挑战2.1 DeepSeek 普及阶段的多元挑战2.2 场景化应用实践，从技术到价值的跨越第三章联想AI基础设施九大技术优势，全面拥抱大模型2.0时代3.1 多层协同架构，筑牢 AI 运行基石3.2 全栈技术体系，构建企业级 AI 技术底座3.3 九大差异化技术，突破智算效率极限3.4 适配多场景的全周期方案，降低企业 AI 落地门槛3.5 联想万全 AI 一体机产品 , 大模型性能调优大师3.6 场景化方案推荐，个性化解决业务需求目录 13469101318192123293138 CONTENTS第四章技术突破与商业价值双轮驱动404.1 紧跟客户需求，首波适配 DeepSeek 的硬核实力414.2 软硬协同，破解 AI 落地最后一公里434.3 “可用” 到 “好用”，让创新技术紧贴业务需求454.4 一站式解决方案，全周期护航46第五章联想AI基础架构赋能不同产业，实现商业价值飞跃515.1 联想赋能联宝科技，驱动制造全链效能与成本双优化525.2 金融企业基于全栈方案简化运维流程，推动智能化转型54第六章未来征程：联想AI生态的全景蓝图与使命承诺56 1联想算力基础设施非凡箓――Al大模型算力解决方案手册算力为舟济沧海，智能作翼破长空。当AI大模型以70%的年增速重塑千行百业，当单月亿级用户涌入AI应用洪流，企业正面临算力效能与落地成本的双重考验。这场由DeepSeek等大模型驱动的技术革命，既需万卡集群的磅礴之力，更求单机部署的绣花功夫――唯有筑牢"算-存-网"协同之基，方能托举AI普惠九霄之志。联想以混合式基础设施为支点，撬动AI全场景落地：万全异构智算平台3.0携四大技术创新破局――AI推理加速算法集实现5-10倍性能跃升，编译优化器降低15%训练成本，慢节点自愈系统达成万卡十分钟级故障恢复，专家并行算法削减3倍推理延迟。这一技术底座更通过联想万全AI一体机实现端到端落地：基于联想自研的联想万全异构智算平台管理软件，深度适配问天WA7785a G3等服务器硬件，凭借调度层、算子层、推理引擎层三级调优技术，将异构算力利用率提升至行业标杆，为企业提供“开箱即用”的本地化AI解决方案，真正实现从技术突破到产业普惠的闭环。卷首语――迎接AI价值普惠的新纪元以「智」筑基，以「算」赋实1联想算力基础设施非凡箓――Al大模型算力解决方案手册 卷首语本册《非凡箓》浓缩联想智算实践精华：首章揭示DeepSeek技术矩阵如何重构企业竞争力；中篇以多维智能算力匹配、GPU内核态虚拟化、集合通信算法库、AI高效断点续训、AI与HPC异构集群调度等九大差异化技术拆解规模化落地密码，完整诠释联想在异构智算领域的创新成果；终章通过制造、金融等领域的成功案例，诠释软硬协同如何让AI从"可用"到"好用"。这既是技术手册，更是产业跃迁的路线图――以九层之台起于垒土的坚韧，成鲲鹏击浪从兹始的格局。"浩渺行无极，扬帆但信风。"面对AI服务器增速蓝海，联想愿与业界同仁共执算力之楫，在智能时代的沧海中直挂云帆。让我们以这本《非凡箓》为契，共赴"大模型赋实千行，新基建智领万业"的星辰之约！卷首语联想中国基础设施业务群 3联想算力基础设施非凡箓――Al大模型算力解决方案手册第一章AI战略制胜法则：智算基础设施重构商业价值智算基础设施重构商业价值 第一章AI战略制胜法则：智算基础设施重构商业价值在全球数字经济加速向智能化转型的浪潮中，生成式AI技术突破、大模型生态爆发与数据量指数级增长，正重塑企业竞争格局，使得算力需求呈现前所未有的增长态势。企业正站在从传统IT架构向智能决策体系转型的战略窗口。在这场智能革命中，算力集群的弹性扩展能力、算法框架的优化及数据资产的跨域融合，共同构成了数字化转型的坚实“数字底座”。IDC《2024全球AI基础设施报告》显示，中国企业AI算力支出达127亿美元，年增长率58%，但算力利用率中位数仅为34%，“高投入、低效能”的矛盾凸显。企业迫切需要突破算力孤岛、算法碎片化和数据质量瓶颈。构建全栈协同、自主可控的智能基础设施，成为企业实现战略转型的必选项，而这正是中国市场展现创新活力的关键所在。在此背景下，DeepSeek以“技术普惠+生态开放”为核心，成为推动AI产业变革的重要力量。随着市场需求的持续攀升，DeepSeek不仅实现了市场空间的显著扩张，积极促进了AI技术的广泛普及，更在深层次上推动了企业对AI大模型应用需求的激增，将智能体平台和生态从“封闭孤立”转变为“开放协同”，全力打造一个开放、安全且普惠的AI生态系统。通过这一生态系统，企业能够以较低的成本构建专属的智能中枢，推动AI技术的普惠发展。大模型下半场：推动AI普惠并抢占战略制高点1.1 4 5联想算力基础设施非凡箓――Al大模型算力解决方案手册此外，DeepSeek还通过全球化生态布局、开放API与工具等方式，不断降低成本和技术门槛，促进AI技术的广泛应用。值得一提的是，DeepSeek以较低成本训练出效果卓越的V3版本，并免费开放模型结构和权重，实现了技术和价格的双重普惠。这一进展不仅彰显了大模型发展的潜力，也强调了算法、系统化工程、芯片算力和软件栈深度融合的重要性，这也带来了新的需求与挑战：•在模型层面，强化学习和蒸馏技术的使用将进一步推动性能提升。•同时，AI算力基础设施优化和底层优化也至关重要，包括验证FP8精度的有效性、PD分离、通算融合等技术。•此外，CUDA底层的PTX虚拟汇编重构和DualPipe算法也将受到重视。这些优化措施将共同促进大模型的高效运行和发展，为AI普惠的未来奠定坚实基础。 第一章AI战略制胜法则：智算基础设施重构商业价值※从算法优化到架构迭代：DeepSeek V3与R1的技术突围DeepSeek V3训练模型与R1推理模型的技术突破，为企业智能化转型提供了关键支撑：R1模型在推理能力上超过了OpenAl o1，不仅擅长展示推理过程，还提供了“思维链”。值得一提的是，R1模型的技术是开源的，并使用MIT许可证，允许使用、复制、修改、发表、分发、再授权及销售软件，具有广泛的应用前景。DeepSeek技术矩阵：重构AI时代核心竞争力 6 第一章AI战略制胜法则：智算基础设施重构商业价值※AI基础设施建设，迈向高效低成本新时代DeepSeek为AI基础设施建设带来了显著变化：尽管DeepSeek通过技术创新大幅降低了AI应用门槛，但企业在实际落地过程中仍面临诸多挑战。从算力供给与需求的动态失衡，到技术架构与现有IT生态的兼容难题，再到模型性能与工程效率的权衡困境，这些矛盾成为阻碍AI规模化应用的关键瓶颈。在下一章中，我们将深入剖析企业在AI大模型落地过程中面临的核心挑战，并探讨如何破局。使用场景方面推理场景因其简单易部署的特点，正逐渐超越复杂的训练场景，受到更多关注。推理模型能够与智能体直接结合，在业务场景中迅速体现价值。建设成本方面AI基础设施建设成本大幅降低，AI智算中心的建设规模缩小，从成百上千节点变为仅需单个或几个节点即可部署相关业务，同时对配套设备和系统环境的要求也降低，减少了技术人员专业化和团队规模的需求。管理模式方面AI基础设施建设更趋于精细化管理，DeepSeek的特性决定了需要精细化管理资源，基础架构层也提供了更开放的管理和调度功能。 8 联想算力基础设施非凡箓――Al大模型算力解决方案手册第二章企业AI大模型应用：从试水到规模化落地的全新挑战在第一章我们探讨了DeepSeek技术矩阵如何通过算法创新与架构优化（如MoE动态路由、FP8全栈支持等）降低AI应用门槛，但技术的理论优势与企业实际落地效果之间仍存在巨大鸿沟。2024年中国企业AI大模型落地应用现状调研报告显示，AI大模型落地总体上仍处在探索孵化阶段，渗透率不足1%。用：从试水到规模化落地的全新挑战 9 第二章企业AI大模型应用：从试水到规模化落地的全新挑战落差背后折射出三大核心矛盾：算力供给与业务需求的动态失衡、技术架构与IT生态的兼容鸿沟，以及模型性能与工程效率的此消彼长。这些矛盾在企业落地DeepSeek技术的过程中，进一步衍生了全新的挑战。※资源效能定制与算力短缺困局企业在应用DeepSeek技术时，需根据不同模型应用场景定制方案，然而计算资源短缺成为横亘在前的首要难题。AI大模型训练与推理对算力需求呈指数级增长，不仅硬件采购、运维成本高昂，资源动态分配与调度逻辑复杂，且模型开发所需的基础环境搭建涉及软件适配、系统调试等大量工作。DeepSeek普及阶段的多元挑战2.1 10 11联想算力基础设施非凡箓――Al大模型算力解决方案手册※算存网协同与平台转型难题在网络/存储资源方面，为配合DeepSeek的高效传输需求，企业需要设计IB网络与RDMA网络，解决拥塞带宽问题，实现路径优化。在管理平台方面，为更好地融入DeepSeek的生态系统，企业需统一部署平台，构建异构GPU卡管理平台，开发可视化界面以简化管理操作，推动智能体平台与生态系统从“封闭隔离”向“开放协同”转型。※部署与算力挑战，亟需高效整合并打破性能瓶颈部署层面DeepSeek模型在通用基础架构平台中快速部署仍有较高门槛，客户需了解如何通过简单操作完成模型的分布式环境搭建，并思考如何与原有AI基础设施设备高效融合。算力层面DeepSeek在国产化环境中需进行性能调优，客户还需探索如何在模型推理或后训练过程中有效提升单节点算力效率，在集群环境下快速找到性能瓶颈，发挥系统整体算力。DeepSeek一体化平台快速搭建DeepSeek一体化平台也是企业关注的重点，企业希望在最短时间内实现业务响应，让DeepSeek与智能体快速适配并在一体化平台上进行模型微调。同时，DeepSeek基础算力平台如何与用户现有模型开发平台适配兼容，实现模型与业务系统的联调，也是亟待解决的问题。 第二章企业AI大模型应用：从试水到规模化落地的全新挑战※DeepSeek一体机性能考量：选型背后的多维博弈看 待DeepSeek一 体 机 的 性 能， 需 从 用 户 和 技 术 两 个 维 度 分 析。 从 用 户 角 度，DeepSeek一体机主要承载智能知识库、翻译、材料总结等应用，企业可根据自身场景需求选择满血版或蒸馏版，其输入/输出能力分别为输入128k tokens /输出512ktokens或输入2k tokens /输出256k tokens，文档处理上下文大小也可按需选择。从技术角度，需评估企业高峰时段的并发访问量，以100人为单位估算，通常同一时间提问的人数（并发）在10 - 20人左右。此外，未来若需微调，则需更高的算力支持，后期可通过来满足需求。 12 联想算力基础设施非凡箓――Al大模型算力解决方案手册场景化应用实践：从技术到价值的跨越明确DeepSeek普及阶段多元挑战后，如何让DeepSeek技术真正落地，转化为实际业务价值，是企业在实践环节将要面临的新一轮的挑战。接下来，我们一同探索DeepSeek在场景化应用中如何实现从技术到价值的跨越。 13 第二章企业AI大模型应用：从试水到规模化落地的全新挑战对应场景：通用知识处理――高效完成日常任务模型结合RAG（检索增强生成）模式，通过整合大语言模型（LLM）与外部知识库的动态检索能力，显著提升生成内容的准确性、时效性与领域适应性。技术优势抑制幻觉，提升生成可信度RAG通过实时检索权威知识库（如行业文档、实时数据库）为模型提供事实依据，大幅减少LLM因训练数据滞后或参数偏差导致的“虚构性输出”问题。※应用模式1：DeepSeek+知识库――模型能力外挂专业知识库动态知识更新，突破训练时效限制传统LLM依赖静态训练数据，而RAG允许通过更新外部知识库即时整合新信息（如政策法规变