今天,HN首页的主题是AI与各种领域的结合——安全、数学、医学、编码流程——还夹杂着一个尖锐的身份合规恐怖故事。


安全性将“消失”——马修·格林

437 点 | 来源

马修·格林(约翰霍普金斯大学密码学专家)认为,AI驱动的安全漏洞发现将使软件变得“过于安全”,从而引发政治危机。论点是:像Anthropic的Mythos、OpenAI的同类产品以及中国开源竞争对手(如Z.ai、Moonshot)现在以前所未有的速度发现零日漏洞。防御者正在竞相修复几十年积累的漏洞。两年内,主要维护良好的软件可能会有效耗尽远程可利用的漏洞。

过去十年,执法部门一直在悄悄使用进攻性黑客工具(如GrayKey、NSO Pegasus)绕过加密,而不是进行“后门”斗争。当可利用的漏洞耗尽时,机构将不得不再次推动故意引入后门——强制访问、密钥托管,重启2014年的剧本。格林警告说,这将主要削弱美国系统,而对手则会找到自己的路径,从而在错误的时刻造成自毁动态。

文章坦诚地承认没有答案,这是值得赞赏的。结构上的讽刺是真实的:AI修复安全漏洞创造了政府故意引入新漏洞的政治条件。如果你在受监管的软件领域工作或关心加密政策,这篇文章值得全文阅读。


另一个肖恩·伯恩不存在

342 点 | 来源

苹果因肖恩·伯恩的名字与美国政府综合筛查名单上的某人匹配而拒绝了他访问App Store Connect的权限。他上传了护照、驾照,并指出自己从未在爱尔兰斯莱戈郡的科克镇居住过。苹果承认了身份证明文件,但并未解决这个问题。

背后的故事比典型的合规误报故事更离奇。实际被列入BIS实体名单的“肖恩·伯恩”据说是一名Mac Aviation公司的商业经理,该公司因非法向伊朗出口美国设备而在2009年被调查。然而,Mac Aviation实际上是一家父子经营的公司,他们在一间科克镇的农舍中运营——他们似乎虚构了员工以显得更大。一位访问的罗尔斯·罗伊斯代表据说“无言以对”。他认为这家他以为是全球运营的公司实际上是一家斯莱戈镇的农舍。

所以两个肖恩·伯恩都是虚假匹配——一个是苹果合规系统中的开发者,另一个是爱尔兰农舍产业虚构的员工。这篇文章是对自动化合规筛查的无声批评:没有人工审核,没有真正的申诉途径,而与一个可能虚构的人共享名字会锁住你的生计。342位HN用户点赞这篇文章,表明它触动了人们的神经。


使用Codex进行自研究:232倍更快的内核

316 点 | 来源

一名开发者在GPU模式批量QR分解内核优化竞赛中排名第12,相对于基线实现了232倍的速度提升。方法是使用OpenAI的Codex进行紧密的反馈循环——提交内核到排行榜,阅读结果,迭代。在14天内,他们提交了1500多次。

有趣的是,这里强调的不是速度提升本身(GPU内核竞赛通常能产生100倍以上的改进)。而是“自研究”方法:开发者对GPU有基本知识,但自认为是“弱者”,与主要的NVIDIA工程师相比。LLM作为领域知识放大器——帮助将“未知未知”转化为“已知未知”,他们可以围绕这些进行提示。关键洞察是:你不需要成为领域专家,只要能建立与真实评分函数之间的紧密反馈循环。

对232倍的数字持适当怀疑态度。竞赛基线故意简单,排行榜位置更多反映的是“简单实现”与“优化内核”之间的差距,而不是AI能力本身。不过,使用代理循环进行实际基准测试的方法对任何优化工作都是真正有用的——不仅仅是GPU内核。


赛麦卢肽与5年痴呆风险降低26%

207 点 | 来源

一项事后分析发现,赛麦卢肽在心血管疾病和超重/肥胖(但无糖尿病)的老年人中,降低了基于蛋白质组学的痴呆风险标志物。研究使用了Dementia SomaSignal测试(dSST),这是一种基于25种蛋白质的机器学习衍生血液浆分数,预测5年全因痴呆风险。赛麦卢肽在104周内将预测的痴呆事件率降低了26%,调整体重变化后,72%的效果仍然存在。

在任何人开始开奥美利迪治疗认知衰退之前:这只是一个基于蛋白质组学的风险标志物,而不是实际痴呆诊断。dSST基于血液蛋白水平预测风险——它是一个代理,而不是临床终点。研究也无法将赛麦卢肽的直接神经效应与其心血管和代谢改善区分开来,后者本身也降低了痴呆风险。不过,这一发现与多项大型队列研究(《JAMA网络开放》,2025年)一致,显示赛麦卢肽使用者的痴呆发病率较低。GLP-1受体激动剂机制在神经炎症水平上是合理的。

真正的故事在于新兴的工具包:基于蛋白质组学的风险评分变得足够复杂,可以在临床终点出现之前检测到药物对神经退行性通路的影响。赛麦卢肽是否本身是一种痴呆药物仍有待观察,但测量基础设施正在迅速发展。


AI并没有超越数学家——只是记住了更多

201 点 | 来源

达维德·皮弗认为,AI在数学上的表现主要来自于其巨大的工作记忆,而不是更出色的推理能力。人类的工作记忆只能同时容纳少量不熟悉的元素——试着在脑海中相乘两个三位数,你就会立刻感受到这种限制。AI模型可以同时保持整个问题陈述、数百个中间方程、被放弃的方法以及先前的引理。我们将其表现解释为“智能”时,它可能主要是“容量”。

类比是纸和笔:写下数字并不会让你变得更聪明,它扩展了有效的工作记忆。AI是工业规模的纸和笔。文章引用了“分块”在专业知识历史中的例子——象棋大师不是看到更多的走法,而是看到更大的模式。AI没有分块瓶颈,因为它的上下文窗口就是其工作记忆。

这是一剂对“AI推理”叙事的有益纠正,尽管其新颖性不如框架所暗示的那么新。关于“随机鹦鹉”和“记忆与泛化”之争已经持续多年。真正有趣的是对数学AI基准的暗示:如果我们主要测试的是记忆容量而不是推理能力,我们可能在测量错误的东西。这篇文章缺乏确凿的证据,但其框架值得认真对待。


与AI共事更像是领导而非编程

200 点 | 来源

艾伦·巴格伊简洁地指出:与AI共事本质上不同于传统编程,更像是管理人。同样的输入可以产生不同的输出。将它视为编译器(确定性输入→确定性输出)会导致沮丧;将其视为协作过程(上下文→意图→迭代)则能取得更好的结果。

实用的收获是:好的领导者分享上下文,解释期望的结果,设定边界,并对反馈作出回应。同样的习惯也适用于AI工作。一个好的提示有帮助,但共享的工作上下文更有帮助——示例、纠正、可重用的指令。投资的重点不在于“假装AI是人类”,而在于更好地表达意图。

这与实际情况相符,因为这映射了实际中AI编码助手是如何工作的。那些从Copilot/Cursor/Claude中获益最大的开发者通常是那些已经知道什么是好的并能清晰表达的人——这些人也是有效的技术领导者。将“领导”框架视为矫情,但关于上下文设定和反馈循环的核心洞察是正确的。


通过线

今天,首页围绕一个主题从三个角度展开:AI正在重新定义技术领域可能的边界——安全、数学、GPU优化、医学——在每个领域,有趣的问题不是“AI能做X吗?”而是“当它做X时会发生什么变化?”马修·格林看到了AI修补漏洞和政府为新的监控工具而挣扎。皮弗看到了AI记住数学家无法记住的地方,并质疑我们是在测量推理还是容量。Codex内核文章展示了AI作为迭代优化的放大器,而不是替代领域理解。而巴格伊的文章将人类与AI的互动本身视为管理问题,而不是编程问题。

肖恩·伯恩的故事是个例外——提醒我们自动化系统(如合规筛查,而非AI本身)可能会产生荒谬的现实后果,而没有有意义的申诉途径。这为技术乐观主义提供了一个有用的反衬:我们建立的风险管理系统本身也可能成为风险。

赛麦卢肽的故事指向了一场更为安静的革命:不是AI在做工作,而是AI时代的测量工具(蛋白质组学风险评分)检测到旧方法完全无法检测到的药物效果。工具正在变得更好,即使结论仍然不确定,它们也能够看到什么是重要的。