英伟达斥资200亿美元获取AI芯片初创公司Groq的技术非独家许可并吸纳其核心团队。Groq的LPU(Large Processing Unit)专为LLM(大型语言模型)设计,在速度和内存方面满足其独特需求。LPU通过以下技术优势显著提升性能:
- 架构设计:LPU专为顺序处理任务设计,运行LLM速度更快,能源效率比GPU高出10倍。
- SRAM存储:集成数百兆片上SRAM作为主权重存储器,降低访问延迟,并通过张量并行提升效率。SRAM采用6T晶体管结构,无需周期性电荷刷新,目前架构正转向“3D垂直堆叠+分层存储管理”。
- 背面供电技术:采用背面供电网络(BPDN)直接从晶圆下方供电,提升性能、降低功耗,并通过嵌埋PCB提供稳定电气环境,应对AI场景的供电瞬态需求。
研究认为,LPU的应用将带动SRAM需求提升,建议关注SRAM相关标的;同时,LPU有望采用背面供电技术,带动嵌埋PCB需求,建议关注PCB厂商及上游材料。