昇腾计算产业发展白皮书

1.1AI011.1.1AI011.1.2AI021.2AI031.2.11.2.21.2. 3 AI1.2.403050809 2.12.21114 3.13.23.2.13.2.23.2.33.2.43.2.53.33.3.13.3.23.3. 3 AI 3.43.517212222232324242526272932 3.5.13.5.23.5.33.5. 4 AI3.5.53.5.6323334353637 4.1 AI394.2414.3434.4454.5474.6494.7514.8544.9564.1057 5.1595.2625.3645.4695.572 79 79 AI人工智能 EfficientNet Top5 98.7%96% RNN - T96.8%94.17%BERT90.9%82% AIAIAIAIAI AI2019 AI598.62020-202434.8% AI5G5GAI VR/AR 5GAIAI+ AIAI2025AI86%80% AI AIAIAIAIAIAI AIAI20126 AI30 BERT, GPT - 3TFLOPSPFLOPSEFLOPSAIAIAIAIAIAI AI AI AIAI AI AIAIAI AIAIAIAI AIDSA域特定体系结构 AIAIAI APIAIAPIAIAPI AIAIAIAIAI AIAIAIAIAIAIAIAIAIAIAI AIAIAI5001: 10 AI72%AIAI0.410.080,090.130.17 AIAIAIAI AI 神经网络的CANN计算架构网络AI OEMODMXaaSIHVC & SIISV AIAI AI AI CANNMindStudio AIMindSpore MindXModelArtsHiAI Iaas Paas，SaaSAI Atlas AI阿特拉斯阿特拉斯AIAIMindSporeAITensorFlow PyTorch CaffeMindSpore AIAIAIAI 3 AI 3 - 1 AI 阿特拉斯320 TFLOPS FP16阿特拉斯256P 1024P FLOPS FP16 ResNet - 50ImageNet25.9 s阿特拉斯88 TOPS INT8 80 阿特拉斯AIPUE (电源使用效率)<1.1E512 TOPS / W AIMindXModelArtsHiAIMindXSDK SDKSDK ISVAI AIMindSporeMindSpore CANNMindStudio上升CL上升计算语言CANN上升CLAIAIAPI上升CL AIAIMindXAIMindX DLMindX边缘ModelArtsHiAI服务MIndXModelZooSDK ModelZooSDKSDK ISVAI CANNAIAI MindSporeAIMindSpore AIAIAI 阿特拉斯AIAtlas 200 AIAtlas 200 DK AIAtlas 300 AI阿特拉斯500Atlas 800 AIAtlas 900 AI 阿特拉斯阿特拉斯Atlas 200 AIAI阿特拉斯300AIAIOEM / ODM AINPU神经处理单元NPUAI16*16*163D立方体409616MACIPAI 22TOPS INT811TFLOPS FP168WAIIT 320 TFLOPS FP16SoCAICPU核心DVPP任务计划程序主机CPU向上扩展HCCS PCIe 4.0RoCE v2横向扩展 ܳ㚫䃎ツƒܳƒহцѡᣕӈܳܳܳȠܳܳ͑ㆨܳ,ڣ͚ܳܳ䔅ᵦᢛҬ⩕ܳܳܳƒᣕ⤳ࣷܳƒܳܳ。 ●Atlas 200 AIܳ3000)䯳ܳ]ܳ㚫ᣕ⤳ධ⤳ܳ22TOPS INT8ツAIܳܳ 㚫ƒܳධ⤳88 TOPS INT8,ܳ80䌜倅⌲㻳ܳ2Ժ ●阿特拉斯300Iᣕ⤳3000/3010)ܳλ,जܳ∈ܳ⩕ܳܳλܳ”ܳܳϑ䕇ܳܳȠ䛾㲺ぶܳܳ。 ●阿 特 拉 斯300Tƒ9000)320 TFLOPS FP16 3/4ცPCIeܳAIВܳƒ倅ë㘪䃎ツ䶳ܳ⮱ツ 3.2.3ܳ ධ ܳ㚫䃎ツ”͇ƒܳƒহцѡᣕӈܳ]ܳλ㚫ᣕ⤳ධ⤳ܳ⮱ܳ㘪ᄼ阿特拉斯500,Xܳ䋠”ç3Ƞϑ䕇Ƞë➠Ƞë➠ȠܳܳȠ䊲”ぶධܳŠධ➠ܳ⮱ܳ⩕䰭Ⅿ。 3.2.4 ܳ㚫䃎ツƒܳƒহцѡᣕӈ阿特拉斯8003Atlas500Proܳܳ3 阿特拉斯8003000/3010/英特尔2UAI8AI704 TOPS INT8OCR 阿特拉斯8009000/9010英特尔4U82.24 P FLOPS FP16 Atlas 500 Pro30002UAI4AI352 TOPS INT8AI475mm600mm Atlas 900 AIHCCS PCIe 4.0100G RoCE256P 1024P FLOPS FP16 50PCAI CANN AIAICANN 10EMUI Andriod openEuler UOSUbuntu Debian Suse14AI CPU NPUAI CANN CANN4驱动程序HCCL华为集体通信库100GRoCE上升CL插件AI上升-IR (中级代表) CANNTBE - DSL张量提升工程域特定语言DSL70%TBE - TIK张量迭代器内核 MindStudioMindStudio MindStudio MindStudioMindStudioIntelliJ AI AIAIAIAIMindSpore MindSpore MindSpore自动并行MindSpore SCT源代码转换, AD自动分化,SCT MindSporeAI MindSpore MindSpore SCTAD MindSpore自动并行MindSpore MindSporeAIAI MindSpore 1 2 3 4MindSpore MindX2(MindX DLMindX Edge)1(模型动物园)SDK MindX DLMindX DLNPUAscend设备插件HCCL -控制器火山cAdvisor for Ascend AIMindX边缘AIMindX边缘代理 MindX边缘MindX边缘256M CPU3% MindX边缘AI Edge AgentDocker边缘核心边缘站点边缘集线器边缘站点 ModelZoo ModelZooAIMindSpore TensorFlow PyTorch Caffe AISDKAIAISDKSDK SDK SDKSDK5 AI0.510 SDK CPUGPU, NPU, FPGA// MindSporeMindSpore 2020328https: / / www. mindspore. cn https: / / gite. com / mindspore(TSC)圆锥AI伦敦帝国学院爱丁堡大学巴黎-萨克莱大学明斯特13//MindSpore LFAI LinuxTAC外展LFAIAcumos ONNXONNXOpenI-OpenIApache TVM 咨询委员会TOP102 安全安全 AI AI AI DVPP数字视觉预处理AIPP AI预处理AI NPU形状/AIDVPPAI核心AI核心/AIPP CANN1000 3 GPT - 317501TB 管道 On - DeviceHostCPU 立方体/向量/ CPU /SDMA UB L1 / L2 SuperKernel DDB/ 管道SIMD MindSpore 图灵-前起落架，GPT - 3 Cost模型成本模型 张量张量张量 管道 4 AI AIAIAIAIAI AIAIAIAI 1)AI L0 - L3 2)AI阿特拉斯HCSO ModelArtsAI50%~80%70%AI4.51.8 3) AIMindX DLWeb5~10 IIAtlas 900 AIAIAIEAIAI AIAIAI 阿特拉斯 AI 阿特拉斯BERT - LargeResNet5080% PUE < 1.1 阿特拉斯808640 阿特拉斯 ResNet50BERT - Large1TensorFlow3D+批处理2AIVR AIAI AI99% AI AIPCB印刷电路板 90%99.9%33 AI AI AI阿特拉斯500 AGV自动导引车AI AGV 阿特拉斯200985AI AIAIAI Atlas AI Atlas 200 AIAI1/1/ Atlas 500 Pro Atlas 200 AIAI 阿特拉斯500AI 20280 OCR 阿特拉斯 阿特拉斯OCROCR MindX DLAIAIAI OCR AI Atlas AI 阿特拉斯 阿特拉斯 Atlas AIAI ISVAtlas AI1:11 N 2.0 AIAI AI2B 2C2B 5G + AI2CAIAI AIVIP95%阿特拉斯50070%50% VIP60% 阿特拉斯CPU /GPU / NPUAIAIAIAI AIAI5G大规模MIMOiRayceNAIE AUTIN阿特拉斯20030%20% 5G阿特拉斯AI5GAI2B Atlas 800 AI AI5G5G + AI2B5G + AI 2019202020202020 Atlas 500 Pro99%AI ---AI2.5 AI98%20阿特拉斯15 AIAI AICT Atlas AI阿特拉斯800AIPACS图片存档和通信系统CTCTAI CTAI10-1510-1590%99% 5 AIAI+ AIAI+ AIAIAI FAE AI AI AIAI+ AI ISV AIIA AITISAGCCHAIAIHDCHC AI AIMindSporeAIAITe