六篇故事均获得了200分以上,它们可以清晰地分为两大阵营:构建AI时代实际运行基础设施的人们,以及认为整个事情已经偏离正轨的人们。两个阵营都有其道理。
富士通推出日本自主研发的下一代CPU FUJITSU-MONAKA
473分 · 富士通
富士通的144核Armv9.3-A服务器CPU终于有了上市日期。自2026年11月起,该独立处理器将在日本和欧洲的1U和2U MONAKA服务器中销售,更广泛的发货则从2027年4月开始。有趣的是,计算芯片是2nm(TSMC N2P),但整个最后一级缓存则位于一个单独的5nm芯片上,该芯片通过混合键合与核心芯片面对面堆叠,而第三个5nm芯片则处理通过硅中介层的I/O。富士通之所以将2nm硅片的面积保持在总芯片面积的30%以下,是因为这样可以在不支付2nm SRAM价格的情况下,实现2nm芯片的市场投放。
有两个SKU:一个是350W风冷型,基础频率为2.1 GHz,峰值频率为3.8 GHz;另一个是500W液冷型,基础频率为2.9 GHz,峰值频率同样为3.8 GHz,两者均搭载所有144个核心。内存为12通道DDR5-8800;每个插槽提供96条PCIe 6.0通道加CXL 3.0通道,芯片可以呈现为八个18核NUMA节点、四个36核节点或一个平铺的144核域。富士通称超低电压操作——将核心运行在比名义值低约30%的电压下——有助于将144个核心保持在350W的功率包内,并将350W部分的性能评估为4,355 GFLOPS DGEMM和69.7 TOPS INT8。
现在,让我们来质疑一下。富士通声称与“其他CPU”相比,AI推理吞吐量提高了2倍,总体拥有成本降低了约50%,冷却功率降低了高达80%——但没有提供任何基准、配置或独立基准测试。这些DGEMM和STREAM数据是富士通的估计值,而不是测量值,直到有人在公司外部运行这些测试,这些数据才会有意义。此外,还存在一个实际的设计倒退:核心运行两个256位SVE2单元,宽度比A64FX芯片中的512位SVE窄。富士通给出的理由是核心大小和成本,这在数据中心芯片中是公平的,但与公司自身的HPC遗产相比,这是一个倒退,而不是进步。至于“日本制造”标签,也值得仔细审查:计算芯片在台湾的TSMC工厂制造,主权主张则基于芯片的组装地和可追溯性(Kasashima工厂),而不是先进硅片的制造地。这在国防采购的供应链可追溯性方面具有重要意义。这并不是晶圆独立性,而新闻稿也乐于让你将两者混为一谈。
MONAKA在2027年达到大规模生产时,144个核心将处于Graviton5的192个核心和Ampere路线图的512个核心之间。其差异化在于独立芯片堆叠的缓存、内存带宽和CXL池化——以及与NVIDIA的NVLink Fusion集成,这实际上表明了行业走向:日本旗舰超级计算机计划FugakuNEXT将GPU置于中心位置。
Hister:专为浏览页面和文件保存的私人搜索引擎
387分 · GitHub
Hister由asciimoo开发,asciimoo也是SearXNG的作者。与SearXNG不同,Hister构建了一个个人全文本索引,包括你访问的页面和你指向它的本地目录——然后从Web UI 127.0.0.1:4433、TUI、命令行或AI助手调用的MCP服务器中查询。Firefox和Chrome浏览器扩展程序在你浏览时将页面内容推送到你的服务器;你也可以导入浏览器历史记录或针对你选择的站点运行其爬虫。它用Go编写,AGPL-3.0授权,有4,200颗星,快速启动只需一个二进制文件和一个命令。
这两点使它不仅仅是一个周末工具。首先,处理这些乏味但重要的部分做得很好:字段过滤、短语、通配符、否定、结果优先级以及共享服务器上的多用户分离,没有遥测,也没有默认配置中的云依赖。其次,MCP接口是令人信服的使用案例。一个可以搜索你阅读历史和文件的全文本索引的代理与搜索开放网络的代理是不同的——它回答的是你实际查看过的内容,带有可验证的引文,而不是合成一个可能的答案。
隐私声明是准确的,但范围比听起来的要窄。可选的语义搜索通过将文档文本发送到你配置的任何嵌入式端点来实现——开启这一功能就意味着你重新引入了README试图避免的第三方依赖。此外,也没有提到静态加密,而是一个人阅读的完整全文本索引是一个非常有吸引力的目标。比较购物也很重要:Recoll和DocFetcher已经实现了本地全文本搜索,Khoj占据了相邻领域。Hister的优势在于浏览器优先捕获和MCP界面,而不是搜索引擎本身。它不是Google的替代品,也不声称是——它是一个记忆假肢,适用于阅读量超过记忆容量的人。
GLM如何构建自己的推理基础设施
349分 · Z.ai
埋在关于递归自我改进的标题下的是今年最具体的工程文章之一。ZhiPu从头开始为GLM-5.3-Flash构建了生产推理,使用了超过10万台中国制造的AI加速器——这是没有人以前在该硬件上部署过的规模。约束条件非常严苛:芯片内存和带宽少于NVIDIA部件,软件生态系统不成熟,内核支持不完整,文档需要逆向工程。最终堆栈是一堆激进的内存技巧:节点内张量并行用于线性注意力和语言模型头部,ReplaySSM(通过计算换取带宽),W8A8量化,混合精度KV缓存跨越INT8/FP8/BF16,分层,以及编码-预填充-解码解耦架构。这些技巧合计带来了约3倍的端到端服务吞吐量,公司称利用率和每令牌成本现在与主流GPU相当——这一说法没有公开的基准支持,因此应视为目标,而非测量值。
值得借鉴的部分不是内核工作。而是关于什么使代理有用的模型。ZhiPu自己的说法是,由GLM-5.3驱动的基础设施代理完成了大部分工作,其有效性取决于系统能否产生可归因的反馈——本地、廉价、客观且可追溯到特定层。他们的三个案例研究都很好且具体。一个KDA内核的上下文并行路径在tl.dot中以FP32输入计算TF32,长时间上下文累积误差;修复方案是input_precision="tf32x3",已合并到Flash线性注意力中。KV传输从不与DeepEP调度重叠,因为节点内路径持有Python GIL——节点间代码已经释放了GIL,附带解释了原因——因此解锁GIL将预填充加传输的开销从超过20%降低到不到1%。另一个解码内核沿V维度重复四次FP32归一化和门控;将这些切片合并到一个线程块中并保持中间结果寄存器驻留,比之前的版本快1.71倍。这些都是真实、有引文、已合并的工作。
这并不是递归自我改进,而文章对此的诚实比其标题更好。工程师们定义了目标和系统边界,构建了反馈环境,并审查了任何涉及数值语义、并发或生产风险的内容。代理提出、实现并测试。头衔中的数字——从适应到生产仅用了不到两周时间,3倍吞吐量,10万台加速器——描述了一个非常优秀的持续集成循环,其中包含一个模型,这比“模型优化系统;系统运行模型”要小得多的主张。最后,值得注意的是,同一文章中还轻描淡写地提到了安全合作伙伴使用该模型发现了数千个真实漏洞——这正是接下来的故事中愤怒的焦点。
一年的Servo资助开发回顾
337分 · Servo
Servo,现在由Linux Foundation Europe托管的浏览器引擎,在一年内通过OpenCollective和GitHub捐赠资助了一名长期维护者——Josh Bowman-Matthews——兼职工作。他的回顾几乎毫不炫耀,这正是目的所在。在十二个月内:8名新维护者被提名,1,150个拉取请求被审查,114个专门针对新贡献者的议题被提交,修复率为92%,新文档介绍了借用危险、实验性功能、寻找工作以及诊断不稳定的测试失败。他还支持了一个大型的JS引擎重写,修复了间歇性垃圾收集恐慌,揭示了window.open行为的缺陷,并稳定了一堆间歇性测试——还帮助另一位贡献者获得了资助提案的批准。
如果你曾好奇是什么让一个浏览器引擎保持运转,这就是答案。不是精妙的架构文章,而是审查带宽、维护者管道和全职工作来确保其他人的贡献能够落地。92%的新手修复率是亮点:这意味着项目正在积极为新贡献者闭合循环,而不是让他们的问题烂掉,这是志愿者基础设施最常见的失败模式。
回顾也留出了硬问题未作回答。没有WPT通过率数字,没有嵌入或采用数据,没有筹集的总金额,也没有说明角色是否继续。Servo的主张是它是一个轻量级引擎,用于在应用程序中嵌入网络技术——这个主张仍然需要一个Servo内部的可发货产品。一个值得注意的细节是:他撰写的文档中包括项目的AI政策。即使是一个没有AI功能的浏览器引擎也需要一个关于AI贡献的书面立场,因为否则它会受到大量AI贡献的泛滥。
CCC邀请所有模型公民参加第40届大会
313分 · CCC
混沌计算机俱乐部已经开放了第40届混沌通信大会的参会申请:2026年12月27日至30日在汉堡展览馆举行,主题为“模型公民”。搬到汉堡是今年最大的运营变化——俱乐部承认,经过场地更换后,终于有了扩大活动规模的空间,对于由志愿者运行且没有资金支持的会议来说,这要么是一个机会,要么是一个物流问题,这取决于接下来三个月的情况如何。
框架明确具有政治色彩,CCC没有含糊其辞。他们认为,团结向共同未来迈进的模式正在让位于一种专制模式,强者将自己的观点强加给弱者,自由力量正在防守而不是建设,而大会本身就是反模式:差异被视为资产,陌生事物成为灵感。口号双关了AI的“模型公民”,这要么聪明,要么太俏皮,这取决于你的容忍度。
无论你对这番言论有何看法——实际的主张是,与会者积极塑造会议,而不是被动消费它,这已经持续了39年。大会是欧洲最大的非商业黑客大会,有16,000多名访客和一个已经催生了许多工具和政策工作的讲座计划。衡量一个大会的价值在于其之后发生的事情,而这个大会有记录。如果你有关于构建不将人变成平台财产的系统的观点,那么现在就是截止日期,场地还有空位。
大家都疯了
249分 · netmeister.org
Jan Schaumann的文章是一篇牢骚,也是这一组故事中评论最多的故事,这说明了某种情绪。核心论点如下:每家公司都在“伦理除外”的情况下将AI已知的危害——版权洗钱、CSAM生成作为登录用户的特性功能、军事目标、人们不愿靠近自家的房子的水和电消耗——视为理所当然,因为“代币”就像赌场筹码,没有人需要展示投资回报率。与此同时,没有工程背景的人正在提出改变行业的解决方案,这些解决方案是在充满代理的家用实验室中构建的,而各处的文风都变成了LinkedIn网红的风格。
最有力的部分是关于AI漏洞猎取程序的部分,Anthropic和OpenAI一直在互相较量,谁的模型更危险,而所有自认为是行业领导者的人都加入了某个神秘命名的项目或签署了一份公开信。这些程序消耗了数名资深安全工程师数月时间,重新分配了优先级,并将成千上万的发现纳入了漏洞管理管道——每个组织都花费了数百万美元——并产生了数千个漏洞,其中只有部分被上报。他的结论是,我们并没有更安全,因为发现和修复漏洞从来不是瓶颈。瓶颈在于打补丁。在于更新软件包。在于强制在30天内重新启动。他基本上是对的,而他的反事实是正确的:如果将这笔资金用于具有包级粒度的资产库存、自动更新基础设施、在30天内强制重启以及攻击面枚举,这将比另一个框架产生更大的影响。然后他将刀刃转向了行业的认知过程,这也是这篇文章愤怒的地方:AI发现漏洞,AI编写补丁,AI审查结果拉取请求,而“人类在环”只是一个橡皮图章。每个循环都减少了理解子系统的人。复杂的系统以复杂的方式失败,调试比编写难一个数量级,而调试由其自身操作员不透明的分布式组件系统是不可解的问题——它是一个不可能的问题。这篇文章并不平衡,也不希望如此。作者坦率地承认他75%的工作时间都花在了AI上,这使这篇文章既是一份倦怠文件,也是一篇论点。阅读它以获取瓶颈分析,忽略语气,并注意它与GLM文章的不舒适重叠:正在构建的相同公司正在发布关于其模型如何帮助构建自身基础设施的文章,并将其视为好消息。
通篇总结
今天头条的两个事实同时存在。AI时代的基础设施正在从硅片重新构建——日本CPU通过在单独的芯片上堆叠缓存来避开2nm经济,中国模型堆栈在没有其他选择的情况下运行10万台国内加速器,个人索引将代理检索置于你的机器内部而不是某人的API。而几乎所有的建设者都在悄悄地对此感到焦虑。富士通的数字附带未命名的基准。ZhiPu的RSI头条最终变成了一个非常优秀的反馈循环,有成年人在场。Schaumann找不到任何检查投资回报率的人。
主权主题贯穿三个故事,但始终未能完全兑现其承诺。MONAKA是“日本制造”,但制造地在台湾。GLM的加速器堆栈是真正的独立于NVIDIA,配以一个基于每令牌成本的主张,该主张是断言而非证明。Hister是真正的本地化,直到你启用你配置的嵌入式端点。每个故事都用一个可见的依赖换取一个看不见的依赖,而营销从未提及后者的存在。
另一条贯穿的线索是反馈。Servo的一年展示了开源项目持久性的关键不是才华,而是审查带宽、维护者管道以及有人为新贡献者闭合循环——92%的新手问题被修复是关键数字。ZhiPu的一年展示了同样的原则应用于代理:模型的有用性与其能够以多便宜和精确的方式告诉特定更改使特定事物变差成正比。Schaumann的抱怨是,行业已经投资于了相反的路径——更多的生成,更多的自动化,更少的归因,更少的理解。这两条路径之间的区别不是乐观与悲观。而是是否有人注意到了反馈循环,以及是否有人理解系统的人仍然在其中。