服务器变革:先进封装解决算力瓶颈

智能计算芯世界

共 2960字,需浏览 6分钟

 ·

2024-07-08 07:39

本文参考自“从云到端,AI产业的新范式(2024)”,上、中篇请参考“服务器变革:存储从HBM到CXL”,“服务器变革:PCB层数、材质等技术升级

AI时代,先进封装成为算力芯片的关键技术突破方向。过去的发展历程中,先进封装沿着两大方向发展:

1、单芯片封装体积减小,密度提升。从传统的引线框架封装,到倒装芯片封装,到更先进的WLCSP封装,单芯片的封装体积逐渐减小,封装密度提升。该技术主要用于消费类产品。

2、多芯片集成。从传统的单芯片封装到chiplet技术下的2.5D/3D封装,芯片封装集成度逐步提升。该技术方向主要应用于算力类产品。

下载链接:
从云到端,AI产业的新范式(2024)
大模型时代,基于AI Agent的数据分析与决策新趋势
2024年AI发展状况
2024面向AI智算数据中心网络架构与连接技术的发展路线展望白皮书
先进封装大势所趋,国产供应链机遇大于挑战
《2024年中国空间计算行业概览合集》
1、2024年中国空间计算行业概览(1):空间计算先行,软硬件内容生态共振 2、2024年中国空间计算行业概览(Ⅱ):空间计算设备产业链拆解(摘要版)
干货分享:“人工智能+”引爆新质生产力革命(2024)
模型即服务:MaaS框架与应用研究报告(2024年)
《Computex 2024系列主题演讲合集》
1、Computex 2024系列AMD主题演讲:CPU+GPU+UA互联厂商 2、Computex 2024英伟达主题演讲:AI时代如何在全球范围内推动新的工业革命

算力芯片的COWOS封装+HBM显存已经成为主流方案。

Nvdia方面,当前主力产品H100采用台积电CoWoS封装,H100采用4nm制程,并配备最高80GB HBM3。

AMD方面,MI300 AI加速卡采用COWOS的后继升级版SOIC方案,拥有13个小芯片,共包括9个5nm的计算核心(6个GCD+3个CCD),4个6nm的I/O die兼Infinity Cache(同时起到中介层的作用,位于计算核心和interposer之间),还配备了累计8颗共计128GB的HBM3芯片。相较Nvdia的A/H系列产品,MI300更进一步的将SOC拆分成了多颗小芯粒,并拥有更大的面积、芯粒数量、缓存颗粒数量。

COWOS及其继任的封装技术路径

InFO:无Interposer,die直接在载板上互联。成本低、互联速率低。其中InFO_LSI是折中方案,在载板中内嵌了局部硅桥。多用于消费类、通信类,M1 Ultra采用此种方案。

CoWoS:有Interposer,die在interposer上互联,再封在载板上。Interposer方案也分硅基、有机两种。造价高,多用于算力芯片(NvdiaH100)。

SoIC:晶圆键合,前道堆叠,而非后道封装环节堆叠。2021年发布,目前用于AMD MI300系列。

当前HBM的主流方案为MR-MUF(海力士)和TC-NCF(三星、美光)两种。海力士从HBM2E开始从TC-NCF切换至MR-MUF,因MUF方案有更低的热阻抗和更好的散热。

两种技术路径均有TCB需求。TC-NCF直接使用TCB进行堆叠,MR-MUF则是使用TC进行堆叠和pre-bonding,之后再进行MUF填充和Mass Reflow。

在HBM和COWOS封装中,区别于传统封装的设备主要有高精度FC(用于COW环节,主要厂商ASMPT)、TC(用于HBM堆叠和OS环节,主要厂商ASMPT)、HB(用于SOIC,未来可能用于HBM堆叠,主要厂商BESI、EVG);

晶圆级封装环节增加了检测设备用量,国产厂商:赛腾股份,海外龙头:Camtek;

后道测试环节增加了测试机用量,国产厂商:长川科技华峰测控精智达,海外龙头爱德万、泰瑞达。

封装设备产业链亦受益于先进封装扩产:芯源微(先进封装涂胶显影、清洗机)、光力科技(划片机)、芯碁微装(直写光刻机)等。

下载链接:
英伟达GPU加速迭代,聚焦AI光通信核心厂商
《Computex 2024系列主题演讲合集》
1、Computex 2024系列AMD主题演讲:CPU+GPU+UA互联厂商 2、Computex 2024英伟达主题演讲:AI时代如何在全球范围内推动新的工业革命
科技前瞻专题:国际巨头的端侧AI布局(2024)
AIoT白皮书:AI硬化向实而生
异构大规模分布式网络设计与性能评估
2024面向未来的算力网络连接:中国算力网络市场发展白皮书
2024面向AIGC的数智广电新质生产力构建白皮书
2024大模型训练数据白皮书
存储器行业:双墙阻碍算力升级,四大新型存储应用探讨
生成式人工智能专题研究:国内大模型(生成式AI加速,国内厂商聚力突破)
《存储专题系列合集》
1、存储专题系列一:新应用发轫,存力升级大势所趋 
2、存储专题系列二:存力需求与周期共振,SSD迎量价齐升 
3、存储专题三:AI时代核心存力HBM
4、存储专题:AI发展驱动HBM高带宽存储器放量
机器人专题研究:产业发展概览(2024)
国产AI算力行业报告:浪潮汹涌,势不可挡(2024)
AI系列之HBM:AI硬件核心,需求爆发增长
2024中国“百模大战”竞争格局分析报告(2024)
2024年中国虚拟现实(VR)行业研究报告

《半导体行业深度报告合集(2024)》

《70+篇半导体行业“研究框架”合集》

600+份重磅ChatGPT专业报告
《人工智能AI大模型技术合集》
《56份GPU技术及白皮书汇总》


本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。




免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。



温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。



浏览 99
点赞
评论
收藏
分享

手机扫一扫分享

举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

举报