本期速览
本期节目追溯了Anthropic CEO达里奥·阿莫黛伊的轨迹:从旧金山寿司店里用功利主义算计螃蟹与鸡命的少年,历经父亲因丙肝离世(仅在特效药问世前几年)与自身31岁确诊睾丸癌两次死神擦肩,在理性主义与有效利他主义圈层中浸染,并与妹妹、妹夫、室友组成紧密“部落”,最终创立全球最重要的AI实验室之一。其世界观由死亡焦虑、极端功利算法与绝对信任的小圈子共同塑造,导出一个悖论:一边拼命造最强AI,一边呼吁行业踩刹车;嘴上说为全人类把关,方向盘却只信自己人能握。
为你解答
PRO members can sign in and request more information — or their own version of this digest, tuned to what they care about.
Sign in to unlock意想不到的发现
如今掌握前沿AI安全话语权的核心圈子,十年前在妹妹婚礼上穿着熊猫、长颈鹿玩偶服、以‘正经但搞笑’为着装要求狂欢,甚至一起去火人节‘放飞自我’,画风极度反差。
阿莫黛伊曾认真考虑去做高频交易‘赚钱捐款’,并在GiveWell博客上按‘每美元避免一名婴儿死亡成本’与‘成人死亡比婴儿死亡糟糕2-3倍’的逻辑精算慈善ROI,将生命显性化为优化变量。
当同事建议伦理监督应引入多元视角、避免运动员兼裁判时,平日标榜绝对理性的他当场暴怒,在会议室高声宣称‘全世界没有第二个人比我更适合坐这个位置’。
其妻子虽无正式职位,却充当关键人脉枢纽:促成前谷歌CEO埃里克·施密特投资Anthropic,甚至起草40页‘AGI之母基金’提案整合施密特资本、自己人脉与公司商业机会,最终被亲妹妹丹尼拉否决。
一向主张加速的马斯克,竟转发阿莫黛伊‘呼吁放慢前沿AI研发’的万字长文,仅留下‘达里奥是对的’六字评价。
本期要点
少年时期阿莫黛伊便将功利主义数学化:在寿司店论证足够多鸡的痛苦总和可超越一条人命,展露其一贯用量化框架处理伦理的思维习惯。
2005年父亲因丙肝离世,仅几年后治愈率达95%的特效药问世,这段‘时间差’成他一生心结,直接催生‘造加速科学工具’的执念,最终指向AI。
31岁确诊睾丸癌并化疗康复后,他认定传统生物实验太慢,大量服用抗衰老补充剂、严苛节食、雷打不动游泳,把时间视为唯一不可再生资源,随即毅然转投AI领域。
深度浸润尤德考斯基的理性主义社区与GiveWell有效利他主义论坛,为其AI安全观提供了智识骨架,也强化了‘只有极少数可信赖者能掌舵AGI’的精英主义信念。
旧金山合租公寓聚齐妹妹丹尼拉、妹夫霍顿·卡诺夫斯基、室友克里斯·奥拉与杰里德·卡普兰,大家白天辩论AI末日、假期穿动物玩偶服去火人节,这个血缘婚姻与旧识交织的小圈子后来直接演变为Anthropic七位联创的核心。
在OpenAI时期,他强行要求独揽伦理监督权(曾怒吼‘全世界没有第二个人比我更适合’),联手妹妹将总裁格雷格·布罗克曼挡在GPT-3项目外,并向奥特曼发出最后通牒,最终于2020年带核心班底集体出走创立Anthropic。
尽管公开与EA/理性主义标签划清界限,Anthropic高层实则是一个由家人、配偶、旧友组成的封闭部落,恰恰是他口中反对的‘部落主义’具象化。
‘推到极限再测试’的技术路线贯穿始终:先把模型能力推向极限,再用安全技术驯服;这种一边狂飙一边喊险、且仅信任核心圈子掌握方向盘的做法,构成了他当下最核心的矛盾。
精彩语录
“从工艺主义的角度来看,总有某只数量的鸡,加起来的分量会超过一条人命”
▸ 精彩语录 · 0:33“全世界没有第二个人比我更适合坐这个位置”
▸ 精彩语录 · 12:27“去跟别人的愿景争辩毫无意义,真正该做的是带上你完全信任的一群人离开,去亲手实现自己的愿景”
▸ 精彩语录 · 13:17“只有以正确的方式构建技术,我们才能够获得AI带来的收益”
▸ 精彩语录 · 15:38“时间是唯一不可再生的资源,因此要对自己手里的每一分钟都毫不留情”
▸ 精彩语录 · 8:53“达里奥是对的”
▸ 精彩语录 · 15:57章节
0:00 — 寿司店起源:算命少年: 2001年旧金山寿司店里,素食者阿莫黛伊大吃螃蟹、用功利主义算鸡命,早早展示其将伦理量化的思维底色。
1:40 — 成长与高压神经: 旧金山Mission区长大,父母离异,八年级被评‘最可能成功’,高中极度焦虑、同学贴‘Dario Lighten Up’标语,神经从小崩得极紧。
3:30 — 父亲离世与时间差创伤: 2005年父亲因丙肝离世,仅几年后95%治愈特效药问世;阿莫黛伊终生复盘:若研发工具能提前几年,父亲本不必死。
4:50 — 奇点迷信与极客圈层: 读库兹威尔《奇点临近》着魔,沉浸尤德考斯基理性主义与GiveWell有效利他主义,精算慈善成本效益,甚至考虑进金融业赚钱捐款。
7:10 — 合租公寓与核心班底成型: 妹妹、妹夫、室友奥拉与卡普兰共住一栋房,白天辩论AI末日、假期穿玩偶服去火人节,后来七位联创中四人走出此屋,血缘婚姻与信仰绑定成铁三角。
8:35 — 抗癌与转向AI: 31岁确诊睾丸癌化疗康复,认定生物实验太慢、一秒不等,大量抗衰、严苛自律,加入百度吴恩达实验室、后入Google Brain,Transformer诞生前已警告AI失控风险。
10:30 — OpenAI权力博弈与出走: 独揽安全与伦理权、挡走布罗克曼、向奥特曼逼宫最后通牒、被拒后四周内带核心团队集体出走创立Anthropic,誓言‘带上完全信任的人亲手实现愿景’。
13:20 — Anthropic:封闭部落与当下悖论: 兄妹妹夫室友弟子掌舵,妻子幕后运作施密特投资与‘AGI之母基金’,公开喊刹车却私下狂飙,马斯克背书‘达里奥是对的’,方向盘只信自己人。
出场人物
大飞 — 主播