大模型装进盒子以后：内存、光互连与设计工具的一周

开场：模型能装下，离好用还有多远

大家好，我是 Zach，欢迎收听 System Boundary，系统边界。今天用我的授权 AI 克隆声音，回看九月二十五日到十月一日这一周的公司与技术新闻。

先从一个很容易让人心动的产品规格说起。一台放在桌面上的小电脑，配一百九十二 GB 内存，厂商说能在本地运行三千两百亿参数的模型。听起来，好像买回来，插上电，一个很强的私人 AI 就在身边了。

但这里至少有三个不同的问题。模型权重能不能放进去？用户问完问题，要等多久才开始回答？真正一边看图、一边调用工具、一边保留长对话的时候，又能支持多少任务同时进行？这三个问题，并不会被同一个参数回答。

这周的几条新闻，恰好从不同方向碰到了这个矛盾。GMKtec 把更大的统一内存放进桌面盒子；元旭在 Micro LED 光互连器件上公布新的实测带宽；Volantis 获得融资，想用光把计算芯片与更多内存连接起来。AMD 则准备把 World Labs 收入旗下，让模型研究参与未来芯片的定义。另一边，Synopsys 和 OpenAI 要让 AI 学会直接操作芯片设计工具。

我们会沿着这些具体进展往下看，最后再补上两条与存储和芯片设计直接相关的知识产权变化。已公布的产品、样品测试、公司目标和法律主张，我会分别说明。

本地盒子：一百九十二 GB 内存买到了什么

九月二十八日，GMKtec 正式开售 EVO X5 Pro。根据公司发布页，这台机器采用 AMD Ryzen AI Max 加 PRO 四九五平台，配置最高一百九十二 GB 的统一内存，标称内存带宽二百七十三 GB 每秒。其中，最高一百六十 GB 可以动态分配给图形处理。配置两 TB 固态硬盘的版本，公布的普通早鸟价是六千五百九十九美元。

它值得放进本地推理盒子的观察名单，因为这已经是一个明确的桌面产品，有配置、价格和销售节点。它也说明，本地模型硬件不只有单独的 NPU 加速卡这一种形态。CPU、GPU 和 NPU 组合在同一平台上，再搭配较大的共享内存，也可以构成完整的选型路线。

不过，最值得拆开的，还是三千两百亿参数这个说法。公司明确写了限定条件：需要合适的模型、软件、量化和系统配置。发布页没有给出足以复现实验的完整模型名称、上下文长度、并发和生成速度。因此，这里只能把它理解为厂商公布的模型支持范围，不能把它读成一个已经验证的交互性能结论。

可以做一个简单的容量估算。三千两百亿个参数，假如每个参数都用四比特存储，仅权重的理论体积就是一千六百亿字节，大约一百六十 GB。这个估算还没有计入量化元数据、运行时缓冲、操作系统，以及处理长上下文时的键值缓存。换句话说，模型权重看起来勉强能装下，并不代表应用运行时还有充裕的空间。

如果采用混合专家模型，情况又不同。每一步只激活一部分参数，可以减少当步计算，但全部专家的权重如何存放、哪些需要搬运，仍然决定了内存和调度压力。所以，看一个三千亿参数模型，必须同时问清总参数和激活参数，不能只比较标题里的大数字。

接着是带宽。对于一些低并发、逐个生成 token 的任务，反复读取权重可能成为主要开销。此时，增加内存容量解决的是能装什么模型；增加有效带宽、减少数据搬运，才更直接地影响生成过程有多快。读取长提示词的预填充阶段，又可能表现出不同的计算特征。首个 token 的等待时间和后续每秒输出的 token 数，需要分别看。

我的判断是，这类大内存桌面平台让本地部署多了一条现实路径，但采购依据应该是目标工作流。比如，同一个模型、同一种量化，分别测试短问答、长文档和图文输入，再记录整机功耗、首 token 延迟和持续输出速度。能容纳的参数规模，是起点；真正改变产品体验的，是它在这些条件下持续完成任务的能力。

Micro LED：三点五 GHz 是哪一层的进步

从桌面盒子的内存，往下走到数据通路。九月二十八日，元旭半导体官网列出一项 Micro LED 光互连芯片进展，标题给出的实测负三 dB 带宽是三点五 GHz。行业媒体转述的测试条件是：芯片样品在每平方厘米五百安培的电流密度下，由清华大学和北京星火辰光联合测试。具体测试条件目前来自这些公开转述，官网则确认了这次成果的发布日期与带宽标题。

这个结果该怎么理解？负三 dB 带宽是在看器件对高速变化的电信号，能跟随到什么频率。频率升高以后，输出响应会下降；达到负三 dB 的那个位置，是描述响应能力的一种常见口径。它确实是高速发光器件的重要指标。

但 GHz 是频率单位，链路的 Gbit 每秒是数据率。两者有联系，不能直接画等号。实际能传多少数据，还要经过调制方式、驱动电路、光学耦合、接收器噪声，以及均衡和纠错策略。这次披露没有给出完整收发链路的误码率和整条链路每比特能耗，因此还不能据此说，一个可交付的高速通信模组已经完成验证。

更有意思的问题是，为什么本来用于显示的 Micro LED，会进入光互连的讨论。显示器关心的是像素能否稳定地发出足够亮、足够一致的光；通信则更在意光能否跟着电信号快速变化，以及接收端能否可靠地辨认变化。材料、尺寸和制造平台可以有共通之处，但优化目标并不完全相同。

小型发光器件还带来阵列化的可能：每个通道不一定追求极端速度，而是用很多并行通道累积总带宽。这种思路会把难题移到别的地方。驱动与接收的密度够不够？阵列中每个单元的一致性如何？温度升高以后，光功率和带宽能否保持？键合和耦合完成以后，还有多少有效通道？

因此，我更愿意把这条新闻看成器件能力向系统设计迈出的一步。接下来真正有比较价值的，是阵列规模下的链路数据，以及包含驱动、接收和耦合损耗后的总能耗。它为设计提供了新的输入，却还没有替整套系统回答问题。

Volantis：把光互连推进内存系统

同一周，另一家公司把类似的系统问题摆得更直接。Volantis 在九月二十九日公布八千八百万美元 A 轮融资，累计融资九千七百万美元。公司选择的路线，是通过光互连扩大 AI 推理系统能够连接的内存容量与带宽。

在官方技术说明里，它强调集成式微型 VCSEL 阵列。VCSEL 是垂直腔面发射激光器，可以理解为光从芯片表面方向发出的微型激光器。公司提出使用集成光波导，并取消外置激光源和传统光纤的那套连接方式。这里的目标不是替机房拉一根更快的网络线，而是把光连接推进计算和内存之间更紧密的系统内部。

为什么需要这么做？如果计算芯片只能在周边紧贴少量高速内存，那么芯片边缘能排下多少接口、封装中能放下多少颗粒，就会限制容量和总带宽。把连接距离延长，同时维持足够多的并行通道，理论上可以让更大范围内的内存参与同一个系统。

不过，光走得更远，只解决了物理连接的一部分。对推理程序来说，读到不同位置的数据，延迟是否稳定？内存控制器如何排队？不同通道之间如何同步？某个发光器件出现问题时，系统能否绕开？这些机制都要和封装一起设计。

Volantis 还公布了很激进的系统目标，包括超大参数模型和很高的单用户 token 速度。现在的公开材料不足以让外界独立复现完整推理表现。因此，融资完成是可以确认的商业事件，技术页面说明了路线，而大规模系统性能仍应看作公司披露的目标和指标，不能写成已经普遍交付的能力。

把它与元旭放在一起，也不能得出哪种发光器件已经胜出的结论。一边是 Micro LED 器件样品的响应带宽，一边是微型激光器、波导和内存系统的整合路线，验证层级并不相同。

它们共同提出的竞争问题是：短距光互连最终卖给客户的，是什么？如果只比较发光器件，可能会错过真正影响采用的条件。客户需要的是把数据从一端送到另一端，在约定温度和寿命下，维持可接受的误码、延迟和功耗。融资会给 Volantis 更多资源去完成这个系统，但是否成立，仍然要等这些条件被一起验证。

AMD 与 World Labs：模型开始参与芯片定义

九月二十八日，美国时间，AMD 宣布签署协议，拟以约八十二亿美元的全股票交易收购 World Labs。交易预计在二〇二六年底完成，仍需监管批准等条件满足。交割后，李飞飞将出任 AMD 执行副总裁兼首席科学家。所以，准确的事件阶段是签约拟收购，而不是已经完成整合。

World Labs 的重点是空间智能：从文字、图像和视频输入生成、重建和模拟可交互的三维环境。这与把语言模型再训练大一些，有不同的工作负载。它涉及场景表示、跨视角一致性，以及环境随时间变化时如何保持可用。

我认为，这笔交易的重要性在于，芯片公司希望更早地知道未来模型会怎样消耗计算资源。等模型已经成熟，再拿硬件做一次适配，能调整的空间有限。如果模型研究、编译软件和系统设计可以更早共同讨论，就可能在下一代硬件冻结之前，识别真正的瓶颈。

以空间系统为例，一次输出并不一定只是一段文字。它可能是可以从不同位置观察的场景，也可能是能持续更新的环境状态。于是，数据如何存放、哪些部分需要反复读取、哪些部分可以复用，就与图像质量一样重要。这里说的是对工作负载的分析，并不代表 AMD 已经公布了相应的新芯片架构。

对于 XR 和三维重建领域，这个变化值得关注，但也不用把所有空间智能都等同于三维高斯泼溅。高斯表示是一种场景表达和渲染方式，世界模型还可能使用其他表示，并处理预测、生成和交互。官方收购公告没有说明要把某一种表示固化成唯一硬件路线。

后续最有信息量的进展，会是联合发布的软件接口、可运行模型以及具体硬件上的结果。交易金额可以说明投入程度，却不能替代这些产品证据。我们要观察的是，模型需求究竟如何改变内存、互连和计算的组合，而不只是多了一家归属于芯片公司的 AI 实验室。

GPT-Synopsys：让模型学会使用设计工具

九月三十日，Synopsys 和 OpenAI 公布多年合作协议，联合开发 GPT-Synopsys。它被描述为针对芯片设计的专用模型。OpenAI 会获得 Synopsys EDA 工具许可，双方还安排了联合研发、市场合作和收入分成。

这里的新意，是让模型直接运行设计工具，阅读工具输出，修改设计，然后继续迭代。工程师交给它的目标，可以是功耗、性能和面积优化，也可以是时序或验证收敛。公告说，早期客户技术合作已经开始，但没有把它宣布为所有客户都可以立即使用的成熟服务。

这和让聊天机器人解释一段 RTL，有明显不同。解释代码时，模型可以停留在文字层面；操作 EDA 时，一次修改会进入具体的约束和工具流程。时序报告、仿真结果和物理检查，都可能推翻模型上一轮的判断。

可以想象一个简单任务：某条路径没有满足时序要求。模型提出调整，工具重新运行，结果显示速度改善了，但面积或功耗超出预算。下一轮就要在这些约束之间继续取舍。模型负责提出和组织尝试，工具给出可核对的结果，工程师决定结果是否达到设计目标。这是对这种工作方式的示意，不是这次公告提供的性能测试。

如果这条路线有效，价值可能来自更系统地探索设计空间，以及减少工程师反复整理报告、运行脚本的时间。但工具反馈也有前提：约束是否正确，测试是否覆盖真正的使用条件。如果输入约束漏掉了关键条件，自动迭代可能只是更快地得到一个不适用的结果。

还有一个与实际采用直接相关的细节。双方公布的服务计划运行在 OpenAI 托管基础设施上，包含计算资源、模型和工具许可，并承诺客户数据不用于训练，提供留存、审计和权限控制。对芯片团队来说，这些说明需要进一步落实到实际合同、数据流和访问边界。商业秘密是否可以进入哪一步流程，会直接决定这种工具能在项目里承担多大角色。

所以，这条新闻已经是明确的合作与产品开发动作。至于能节省多少周期、改善多少功耗面积，仍需要具体设计任务的验证。它把 AI 在芯片研发中的位置，推进到了工具操作和结果迭代这一层。

存储与版图：两条需要分清阶段的知识产权变化

最后看两条知识产权新闻。九月二十九日，Netlist 宣布向美国国际贸易委员会提出新的投诉，要求针对美光以及下游的英伟达、博通和谷歌采取排除及禁止令。公司主张涉及两件高带宽内存专利，并指向美光的 HBM 三 E、HBM 四和 HBM 四 E 产品。

这条新闻的准确状态是投诉和请求调查。它不是新的排除令已经生效，也不是主管机关已经认定侵权。尤其需要与另一件 DDR 五内存模组案件区分：Netlist 的公告同时提到，那件较早提出的案件已经在九月获立案。不能把旧案的立案状态，搬到这次 HBM 投诉上。

对整机厂来说，值得留意的是，争议从内存器件延伸到了使用这些器件的下游产品。但不能据此说，所有采用美光内存的本地盒子都受影响。是否相关，仍要核对具体存储类型、产品型号、权利要求和被诉范围。采用低功耗双倍数据率内存的桌面平台，与采用 HBM 的 AI 加速器，是不同的供应链场景。

另一条发生在中国。九月三十日，国家知识产权局发布修订后的集成电路布图设计保护条例实施细则，以及相关指南和过渡办法。时间上有两个节点：修订条例及过渡办法从十月十五日起施行，实施细则从十月三十日起施行。实际办理要结合过渡规则，不能只记住其中一个日期。

其中一个具体变化，是申请材料中的独创性声明，需要明确布图设计里具有独创性的部分并作出说明，相关部分应包括可以实现独立功能的区域。官方解释还明确，在侵权纠纷中，会根据请求人主张的独创性部分确定审理范围。

这使版图保护与设计资料之间的对应关系更值得认真处理。保护主张落在哪个区域，它实现什么功能，与既有设计有哪些区别，需要能讲清楚。这里是结合规则作出的实务判断，不代表某个现有版图自动获得了更广的保护，也不能把布图设计登记当成技术方案专利的替代品。

两条新闻共同提醒我们，系统所依赖的技术资产有不同层次：存储技术的专利、具体版图的独创性部分，以及研发工具接触到的秘密资料。它们影响产品和合作的方式不同，需要对应到实际器件与具体阶段。

收尾：把宣传参数还原成工程问题

回到开头那台大内存盒子。这周最有意思的地方，是几个看似分开的动作，最后都落到了数据怎样在系统里流动。

GMKtec 给出了一个可以买到的大容量本地平台；元旭公布了高速发光器件的阶段性数据；Volantis 把光连接与内存组织结合起来；AMD 想让空间模型研究更早参与硬件定义；Synopsys 和 OpenAI 则尝试让模型进入设计工具的迭代过程。

这些进展不处在同一个成熟度。可以开售、完成样品测试、拿到融资、签署收购协议、启动早期客户合作，分别意味着不同的下一步。观察技术新闻时，把阶段分清楚，再把规格放回完整工作流，通常比急着判断谁胜出更有用。

本期的原始来源、时间说明和文字稿都放在节目页面。我们会继续看这些路线下一次拿出的具体结果。我是 Zach，这里是 System Boundary，系统边界。