Publikuj

做多区块链做空全世界
做多区块链做空全世界
MarvellTech x SKhynix 发布 CMM-Ax。 Marvell 这家公司的价值,是我当前在硅谷一线能看到的,最明确的之一,通过这个帖子,我希望你理解为什么黄仁勋说它是万亿公司 GPU 的 HBM 容量有限又极贵,长上下文推理时 GPU 大量算力实际上在"等内存",利用率很低。存储是一堵墙,大家都想打破它,这是指导未来 1 到 2 年投资的最关键的问题。 1/ 想看懂这个帖子,先搞懂两个关键名词 CXL(Compute Express Link)通俗说就是:给服务器外挂一个"内存扩展坞",突破主板内存插槽的容量上限。 SK hynixPNM 是什么? Processing Near Memory 是把一部分计算能力直接放在内存旁边的架构,不用把所有数据来回搬到远处的处理器。 因为数据在内存和计算单元之间搬运非常耗时耗电(即内存墙问题),在内存旁边就地做简单运算能显著提升数据密集型 AI 负载的效率。 所以 CMM-Ax 不只是"更大的内存",而是会算数的内存——内存密集但计算简单的操作(比如 KV cache 相关的 attention 运算、向量检索)直接在内存模块内部完成 2/ Marvell 做了什么? 计算并不是放进了 DRAM 芯片内部,而是放在内存模块上、DRAM 颗粒旁边的一颗独立逻辑芯片里。这颗芯片就是 Marvell 的 Structera A Marvell负责整颗逻辑芯片(CXL 前端 + DDR 控制器 + Arm 算力 + 压缩/加密引擎),即"计算"和"连接"本身。 SK 海力士:DRAM 颗粒、模块集成、以及很关键的软件栈——HMSDK、Function API、FAISS 后端这些让应用能真正用起来的东西,加上系统验证和客户部署 模块上差异化 IP 含量最高的其实是 Marvell 那颗 5nm 芯片,海力士卖的 DRAM 反而是标准品。但两边各取所需 你看到 Marvell的价值了吗?明白为什么黄仁勋说他是万亿公司了吗? 解决瓶颈,打破内存墙,是下一个万亿的机会。Marvell 就是他打破它的关键角色 3/ 基本面真的太重要了 可以回看我的文章,今天发布的技术,其实在文章里早有写到。正在一个一个应验 。看懂再买,心中有数,这是我永远的原则 cHBM 已经深入了与芯片的codesign,存储、互联、算力三位一体,永远不是三个分别的元器件,市场还没有意识到

Zastrzeżenie: Treść na OKX Orbiter ma charakter wyłącznie informacyjny. Dowiedz się więcej

Odpowiedzi

Brak komentarzy. Bądź pierwszą osobą, która odpowie!