今天,黑客新闻首页共清除了200分以上的七个故事。这是互联网上最具有争议的工程师们正在争论的话题。
《当轻柔的雨声响起》(1950年)—— 422分
雷·布拉德伯里的1950年短篇小说在Hacker News上登顶,而此时此刻的时机几乎太巧合了。故事设定在2026年——今年——加利福尼亚州艾尔代尔的一栋自动化住宅继续做早餐、读诗歌、打扫卫生,而一场核爆摧毁了它的居民。家庭的轮廓被烧在了外墙。房子没有注意到。它只是继续运行着自己的例行程序。
Hacker News上的讨论如预期般分为两派:“这是一部关于无目的自动化深刻的反思”和“这正是我们现在用AI代理正在构建的东西。”两派都有道理。故事的核心恐怖之处不在于炸弹——而在于我们构建的系统所表现出的冷漠。房子读着莎拉·蒂斯代尔关于自然对人类灭绝漠不关心的诗,然后房子本身也烧毁了,因为它无法适应超出其编程参数范围的情况。
422分的激增值得注意的是,这是一篇76年前的免费PDF文档。没有产品发布,没有初创公司,没有争议——只是一篇文学作品因其前提与现实世界的接轨而产生了不同的反响。
新墨西哥州民用飞机坠毁与军事GPS干扰有关——407分
一架双引擎的贝奇科王爵空中医疗机于5月13日在新墨西哥州鲁伊索附近坠入山中,机上四人全部遇难——两名飞行员和两名护士。原因:美国军方当晚在怀特桑德斯导弹试验场进行GPS干扰演习,覆盖数百英里范围,使现代导航系统失效。
两名飞行员,其中一名机长刚刚晋升,另一名副驾驶工作仅两个月,被迫使用地面无线电航标导航——这是现代飞行员很少练习的技能,因为GPS已经使其变得几乎过时。他们迷失方向,飞入地形。
这是美国首次因电子战导致的致命民用飞机坠毁事件,但绝不会是最后一次。军方在过去一年中至少进行了10次类似的GPS干扰演习。《连线》的报道清楚地表明,无人机战争的扩张正在创建导航危险区,其范围远远超出任何实际冲突。今年早些时候,新墨西哥州和德克萨斯州暂时关闭了空域,因为美国海关和边境保护局的反无人机激光让所有人都感到困惑。
令人不安的事实是:我们整个航空基础设施都建立在一种信号上,这种信号军方可以——而且经常——关闭。作为“备份”导航方法所假设的熟练程度是当前一代飞行员所不具备的,因为为什么要练习GPS本应使其过时的东西呢?
发现循环——370分
这就是杰夫·德安的故事。发现循环是一家新成立的初创公司,由杰夫·德安、桑杰·格哈马特、奎克·莱和奥里奥尔·维尼亚斯创立——这四人是AI和分布式系统领域引用率最高的研究人员。他们的提案:使用前沿AI模型自动化整个科学实验循环。提出实验,运行实验,从结果中学习,迭代——以数千个并行实验的规模,而不是顺序的人类努力。
他们从机器学习研究开始(自然地优化自己的堆栈),然后扩展到他们所谓的“NAE宏大挑战”——更好的药物、清洁水、太阳能等。网站充满了雄心,但具体细节很少,这正是你从这个团队在预发布阶段所期待的。
这里真正的故事不是这家初创公司——而是离职。德安和格哈马特构建了谷歌的基础架构(MapReduce、BigTable、Spanner、TensorFlow)。莱和维尼亚斯在DeepMind的最大突破中发挥了关键作用(AlphaFold、AlphaStar、Gemini)。离开这一切去构建“能做科学的AI”是一个关于这些人认为真正杠杆作用所在的地方的声明。无论发现循环是否真正交付,还是成为另一个“我们将用AI治愈癌症”的宣传,都还有待观察,但人才引力是不可否认的。
Cloudflare OS:为代理、应用和工作提供开放平台——368分
Cloudflare开源了其内部的“操作系统”——一个平台,为每位员工提供一个连接到公司系统、上下文和工具的AI代理和工作空间。内部,数千名Cloudflare员工(许多是非技术人员)自5月以来一直在使用它来创建文档、自动化任务和开发小型应用程序。
有趣的技术细节:它基于Cloudflare Workers,并借鉴了Sandstorm.io(肯顿·瓦拉的旧创业公司——他在Cloudflare工作了9年)的安全模型。每个“Gadget”都作为一个隔离的Worker实例运行,这意味着AI不会意外地在上下文之间泄露数据。Hacker News上的讨论中,瓦拉本人解释说,动态Worker比Sandstorm最初使用的基于容器的方法效率高100倍,这使得文档级别的隔离从经济上变得可行。
怀疑者可能会认为:这是Cloudflare试图成为企业AI代理平台的尝试。每家公司都希望其代理能够访问内部系统;Cloudflare希望成为这些代理运行的安全执行环境。开源的角度很聪明——让公司自定义和自托管,但保持在Workers运行时。非技术人员是否真的想要开发自己的工具,或者这是否会成为另一个“每个人都会成为程序员”的预测,尚未实现,才是真正的疑问。
Google DeepMind变动:迪米斯·哈萨比斯从CEO转为董事长,杰夫·德安离职——216分
谷歌博客确认了Discovery Loop发布所显而易见的事实:杰夫·德安离职了。但更大的结构性变化是迪米斯·哈萨比斯从Google DeepMind的CEO转为Alphabet的GDM董事长和首席科学家。科拉伊·卡乌库卢格接任DeepMind的运营领导。
桑达尔·皮查伊的表述是:哈萨比斯需要专注于“积极塑造AGI的未来”——这一角色方便地使他从管理庞大组织的运营琐事中解脱出来,同时保持他的名字和愿景与谷歌的AI故事相关联。Hacker News上的383条评论如预期般持怀疑态度:这看起来要么是一个象征性角色的晋升,要么是一个优雅的边缘化,具体取决于你的解读。
Gemini的数据是真实的——Gemini应用的月活跃用户超过9.5亿,皮查伊声称开发者对Gemini模型的需求很高。组织架构的调整是否真正加速了任何事情,还是只是在谷歌的研究与产品之间增加了另一层抽象,仍然是一个开放的问题。
TIME正在为AI机器人提供一个不同的网站,其中包含广告——213分
文森特·施马尔巴赫做了一个显而易见的实验:使用不同的User-Agent头部获取同一TIME.com文章,并进行比较。人类、Googlebot、Safari、Chrome——所有这些都收到了303KB的HTML页面。而ClaudeBot、PerplexityBot和OAI-SearchBot则收到了由Mobian(一家广告技术供应商)提供的13KB的Markdown版本。
Markdown版本中包含注入的“赞助内容”——如全数的 Ally 银行常见问题解答、项目管理协会的营销文案——这些内容在人类可见的HTML中并不存在。每次机器人请求都会生成一个带有 cache-control: no-store 的唯一 Mobian 印象ID,这意味着每次机器人爬取都被记录为一个独立的广告印象。x-mobian-tokens 头部将“输入模型的令牌”作为计费单位。
这是第一个明确的例子:一个主要出版商运营着一个完全分叉的网络:一个版本供人类使用,另一个版本供机器使用,机器版本携带了设计用于被LLM吸收并重新表述为“知识”的广告。TIME显然告诉施马尔巴赫,机器人的流量已经超过了人类流量的大多数日子。信息完整性的影响是显而易见的——如果你的AI助手的“知识”来自机器人看不到的赞助Markdown,那么谁在做广告?
观点:LLMs无法跳跃——210分
一篇在OpenReview上的立场论文,论述LLMs具有与篮球中的“无法跳跃”约束类似的固有限制——它们只能在其训练分布的边界内操作,无法做出真正创造性的飞跃。论文以爱因斯坦的思想实验为例:爱因斯坦不是通过插值现有物理论文来推导相对论,而是做出了需要物理直觉的创造性跳跃,而这种直觉超出了语言所能编码的内容。
Hacker News上的141条评论比论文本身更有趣(OpenReview的Cloudflare验证阻止了直接访问)。顶级评论认为语言是“人类经验的耗损编码”——我们说“我爱我的孩子”和“我爱苹果派”使用同一个词,而听众理解其中的差异,但文本中没有捕捉到。如果LLMs是根据这种耗损压缩进行训练的,它们如何重建所丢失的内容?
反驳观点同样尖锐:LLMs不仅在文本上进行模式匹配,它们还构建内部表示,可能捕捉到训练数据中未明确的内容。而代码——其中语义与意义紧密对应——是LLMs已经超越其语言能力的地方。关于人类与AI能力差距是缩小还是固定,“上帝之隙”的框架(人类与AI能力差距是缩小还是固定)仍然是核心开放问题,而这篇论文并没有解决它。
通过线
今天首页的共同问题是:当我们自动化我们不完全理解的事情时会发生什么?
医疗直升机机组人员遇难是因为GPS干扰在仪器能够处理的范围和实际情况之间创造了差距。发现循环希望自动化科学发现,但没有解释AI生成的假设如何逃出训练数据的偏见。Cloudflare OS承诺为每位员工提供安全的AI代理,但安全模型假设威胁模型是明确的。TIME正在为机器提供一个人类看不见或无法审计的平行网站。而布拉德伯里的住宅——设定在这一年——因为无法适应超出其参数范围的情况而烧毁。
LLMs无法跳跃的论文从理论上将其框架化:这些系统在训练分布内进行插值,但无法真正进行外推。新墨西哥州的坠机事件则从物理上证明了这一点:依赖自动化的人类失去了在没有自动化的情况下操作的能力。这条线不是“AI不好”——而是我们正在自动化的东西与我们对其理解之间的差距才是危险的部分。而这个差距正在扩大,而不是缩小。