Jeff Dean in Conversation with Fei-Fei Li: Is RSI Overhyped? | Recursive Self-Improvement | RSI |...

Original Media · 13m · 中文 · YouTube · Best Partners TV

本期速览

在斯坦福 HAI 闭幕对谈中,李飞飞与 Jeff Dean 拆解了硅谷炙手可热的「递归自我改进」(RSI)概念:真正的 RSI 要求底层科研系统自身变得更会做实验、提假设,而非仅让下游模型变强。自动化的核心红利是消灭人类作息带来的等待空窗(如过夜实验交接),但无法跨越矩阵乘法、反向传播、湿实验反应等物理与因果硬约束。Jeff Dean 新创公司 Discovery Loop 因此聚焦机器学习研究、工程与芯片设计等纯数字闭环领域。两人还探讨了暴力搜索与人类理论洞见的互补、承认过往预测失误(MoE 架构未现野生化、低估编程能力关键性),并建议年轻人主动拥抱 AI 工具、保持人类主观能动性。

为你解答

PRO members can sign in and request more information — or their own version of this digest, tuned to what they care about.

Sign in to unlock

意想不到的发现

•

Discovery Loop 早期团队约 10% 为图灵奖得主、10% 为 IOI 金牌得主,人才密度惊人。

•

METR 数据显示 Anthropic 内部模型研发加速仅 1.9 倍(2025 年 10 月以来),且仍属人机协同辅助,非自主递归。

•

Jeff Dean 亲口承认:曾预期 MoE 会推动架构走向复杂多样,实则仍规整;未料到编程能力会成为大模型通用推理的关键枢纽。

本期要点

•

真正的 RSI 门槛极高:改进结果必须反哺给「负责提出改进方案的基础系统」,让其科研能力本身进化。

•

市面上 90% 所谓 RSI 实为常规自我改进流水线(如 NAS、自动调参),底层研究基础设施原地踏步。

•

自动化的工程红利在于填补「凌晨两点跑完、早八人工接管」的六小时真空,实现 24/7 连轴转。

•

物理计算(矩阵乘法、显存带宽)、因果依赖(下一轮实验依赖上一轮结果)、湿实验自然规律构成不可逾越的硬上限。

•

Discovery Loop 仅切入机器学习研究、机器学习工程、芯片设计三大全数字化闭环领域。

•

人类认知兼具「任务级自我改进」(学煎蛋、学微积分)与「元学习」(学会如何学习),后者才是递归进化属性。

•

机器暴力证明(如 Lean 验证纳维-斯托克斯)虽无美感,但能给出「有解」的确定性,激励人类寻找优雅证明路径。

•

Jeff Dean 承认两大预测失误:MoE 未催生生物般野生架构;编程能力成为大模型解锁复杂任务的核心钥匙,远超预期。

精彩语录

“咱们别整虚的公关辞令了,直接上点硬核干货吧”

▸ 精彩语录 · 1:06

“这只叫常规的自我改进系统,根本不算递归”

▸ 精彩语录 · 2:15

“机器学习不是变魔术,模型的每一次改进都建立在实打实的物理计算之上”

▸ 精彩语录 · 5:37

“几百页的机器暴力证明确实毫无美感可言,但是它铁板钉钉地告诉人类这道题在现有逻辑体系下是有解的”

▸ 精彩语录 · 9:51

“也许自动化能消灭等待,但灭不掉时间”

▸ 精彩语录 · 13:05

章节

•

0:00 — 开场:RSI 概念的滥用与泡沫: 主播大飞引出硅谷对 RSI 的狂热,介绍斯坦福 HAI 大会上李飞飞与 Jeff Dean 的重磅对谈背景。

•

1:30 — 核心分野:什么是真正的递归自我改进: Jeff Dean 用 MRI 诊断模型举例,划清「应用流水线自我改进」与「基础科研系统自我进化」的鸿沟:前者只强模型,后者强做研究的能力。

•

3:00 — 认知类比:学煎蛋 vs. 长第六根手指: 李飞飞用煎蛋卷试错喻示任务级自我改进;真 RSI 相当于大脑底层重构甚至进化新器官。Jeff Dean 补充人类同时拥有任务学习与元学习双引擎。

•

4:50 — 自动化的真实红利与物理天花板: 自动化消灭人工交接等待,让实验 24 小时滚动;但训练计算、反向传播、数据吞吐、湿实验反应均受硬件与自然规律硬约束,无法快进。

•

6:30 — Discovery Loop:只做数字世界的闭环: Jeff Dean 透露创业聚焦 ML 研究、ML 工程、芯片设计三大纯数字领域;材料、化学、生物制药等湿实验领域受制于客观规律,自动化难施展。

•

8:20 — 科学范式之争:暴力搜索 vs. 理论洞见: 李飞飞担忧海量并发试错导致科学倒向粗糙实验主义;Jeff Dean 认为跨学科海量数据可反哺理论归纳。数学领域机器暴力证明虽丑陋但提供「有解」确定性,人类负责提炼优雅工具。

•

11:00 — 过往预测复盘与给年轻人的建议: Jeff Dean 承认 MoE 架构未现野生化、低估编程能力关键性两大误判。两位大佬建议年轻人主动学用 AI 工具,结合热爱领域,保持人类主观能动性。

•

13:00 — 结语:消灭等待,消灭不了时间: 核心共识:AI 能加速探索真理,但如何使用真理的判断权在人;物理与因果极限下,自动化只能消灭空转,无法消灭时间。

出场人物

•

主播 大飞 — 播客主持人

•

李飞飞 — 斯坦福 HAI 联合主任、AI 学者

•

Jeff Dean — Google 前首席科学家、Discovery Loop 联合创始人