Andrej Karpathy:他睡着以后,机器还在替他做研究

凌晨三点,很少有人觉得这是个好时辰。Andrej Karpathy 觉得是。他解释过一次:早上七八点,美国的另一边已经醒了,短信和新闻陆续上门;而凌晨三点,什么都是静的。读博那几年,他常工作到三点才睡,把一天里最干净的几个小时,留给最难的问题。

那是他一个人的时间。

2026 年 3 月的一个清晨,他却发了一条近乎欢呼的消息:「i didn't touch anything. brb sauna.」我什么都没碰,去蒸桑拿了。前一夜,他在睡觉;他的机器在上班,跑实验、调参数、试一个又一个想法,天亮前交上来一份他自己没想到的答案。他看了一眼日志,出门蒸桑拿。

凌晨三点还是那个凌晨三点。只是这一次,站在实验台前的不再是他。

下面的故事,是一个人怎样一步一步,把自己从自己的工作中让出来。

一、一门没人教过的课

2015 年,斯坦福大学出现了一门以前没有过的课。那几年,深度学习正在爆发,会这项技术的人大多在公司里,忙着把它变成产品;大学课堂里,几乎没人系统地教。最后接下这件事的,是一个博士生,Andrej Karpathy。他索性从头设计了一门课,课号 CS231n,内容就一件事:教计算机看懂照片。第一学期,150 人;第二年,330 人;第三年,750 人。这门课成了斯坦福最抢手的课之一。

但比人数更重要的,是他接下来做的那个动作:他把课件、作业、讲义,全部放上了网。等于说,这所世界上最贵的大学里的一门新课,被他向所有人免费开了。后来的很多年里,世界各地有一批又一批工程师靠这门课入了门;他们大多没见过 Karpathy,但都学过他写的第一版讲义。

他说,自己喜欢教育的种子埋得更早:早年迷上魔方,练到 17 秒左右能还原一个;因为找不到像样的教程,索性自己录了一套视频,教人快速还原。从魔方教程,到斯坦福的课堂,再到他后来录制的深度学习网课,是一条他能一眼认出来的线。一个人对着全世界讲课这件事,他做了很多年。

讲课中的 Andrej Karpathy(2016)讲课中的 Andrej Karpathy(2016)

如果把他这些年的作品排成一排,会看到同一个动作反反复复:把庞然大物拆小,小到一个人能懂、能上手。2014 年,他把一套能在浏览器里训练神经网络的工具做了出来:那年头做这件事,要租服务器、配一堆环境,他把它变成了打开网页就能玩的玩具。也是那一年,他做了件孩子气的事:一个人,去跟一台机器比赛认图片,一千个类别一张张过,看谁认得准。比完,他把过程写成了博客,还给自己起了个自嘲的外号:ImageNet 的参考人类。第二年,他又写了一篇流传很广的文章,从零开始,带读者训练一个会写字的小网络;很多人是从那里第一次看见,机器可以自己学会语言。

之后几年,这个「拆」的动作越来越熟练:有的东西被他拆到一个人一个晚上能读完,有的被拆到只剩几百行代码。他的开源仓库像一个拆解博物馆,每一件展品,都是某个庞然大物被拆到最小的样子。

他拆得最狠的那一件,很多年后才出现。而先说出口的,是他从一位物理学家那里借来的一句话,后来被他放进了新课程的扉页:我创造不出来的东西,就是我还没有理解的东西。

二、他信过的东西

2017 年,他离开 OpenAI 的创始团队,去特斯拉做自动驾驶的 AI 负责人。这是那种典型的「大人物」职位:手上有一支团队,路上跑着的特斯拉,用的就是他们做的东西。但头衔变大的几年里,有件小事在悄悄发生。

多年后他讲起那段日子,说:刚加入特斯拉的时候,我在写代码;后来写得越来越少,开始读别人写的代码;再后来,我连读都读得少了。听上去,这就是一个人顺着台阶往上走、手慢慢离开键盘的老故事。但他说这话的口气里,藏着别的东西。他接着补了一句真心话:在他看来,论文、演示、汇报,都只是「高层次的总结」;真正作数的,是团队里正在写出来的那些代码。而他自己,已经不是最熟悉那些代码的人了。

「所以,我这里多少有点不安。」

这句话值得停一下。在多数人的职业生涯里,离代码越来越远是勋章;在他这里,它是一根刺。他信的东西很朴素:亲手碰过的,才算数。这根刺,他揣了很多年。

2022 年 7 月,他宣布离开特斯拉。歇了一阵,第二年年初,他回了 OpenAI,答应带一个小团队;然后只过了一年,又走了。2024 年夏天,他揭开了一件藏了很久的事。

三、藏了很久的事

2024 年 7 月,他宣布创办 Eureka Labs,一间他想亲手办的学校。

要描述这间学校,他找来了一个谁也想不到的参照系:科幻剧《星际迷航》里的星际舰队学院。他说,「最简单的方式是这样描述它:我们想建的,就是星际舰队学院」,一所专门培养前沿技术人才的地方。在他的想象里,它有一部分是物理的:少数人被收进来,全日制地、面对面地把一门学问从头学到尾。剩下的一大块是数字的:放到网上,配上 AI 助教,让八十亿人都能用上。哪怕数字版本永远比不上实体课堂,至少,它对所有人开放。

学物理最理想的体验是什么?是费曼就坐在你旁边,一步一步陪着,每一步都能问、都能得到回答。可惜这样的人每个时代只有几个,没法给全世界八十亿人当老师。他的方案是给课程配一个 AI 助教:老师负责设计课程、把关质量,AI 把这份教学铺到每个人身上,像一个永远耐心、永远在线的助教。

他为什么这么在意教育、在意到要开一间学校?他给过一个少见的坦白。2025 年秋天,他在一次长访谈里讲了两件怕事。一件是:AI 实验室们注定会去做那些大事,他能帮上忙,但不觉得自己能在那里做出「独特的东西」。另一件更私人:他怕未来的世界变成《机器人总动员》或《蠢蛋进化论》里的样子,一切自动运转,人类在一边,慢慢地、舒舒服服地变得没用。而让人类「变得更好」的那条路,他认定了是教育。

这份笃定,来自一段很小的个人经验。他学过韩语,完整地走过三个阶段:靠网络自学,效果还行;上线下小班课,老师加十来个同学,效果更好;最后一对一。真正让他开窍的是那位一对一的老师。她能感觉到他卡在哪一步,问的问题每次都恰好落在他弄不懂的地方;那段时间里,他觉得「唯一限制他的,就是他自己」。他后来说:这就是我想给每一个人的东西。

后来他把这件事总结成了一道技术题。他说,教育其实是一道非常难的技术题:给人修一条通往知识的坡道。坡道修得好,学习就是一步一步往上走;修得不好,就是一座爬不上去的墙。他做的那些「最小可运行」的作品,在他眼里都是坡道:因为足够简单,每走一步都能尝到「恍然大悟」的滋味。他还造了个说法,把它量化成「每秒恍然大悟」(eurekas per second):所谓教学,就是让一个人的理解力,每一秒都往上跳一下。

把这些放回一起,Eureka Labs 的公告就读得懂了:这么多年,他做过的事里凡是跟教育和 AI 相关的,都只能算「兼职」,是正职工作旁边的支线任务。现在,他把支线扶正了。第一门课叫 LLM101n,带学生从零开始,训练自己的 AI;课也是他式的课:不讲玄的,一步一步动手。

一个绕着物理、视觉、自动驾驶、大模型走了很远的人,最后回到少年时就着迷的那件事。也可能,他从来没有离开过它。

四、冬天,什么东西翻转了

学校刚起步的时候,他对 AI 还有点看不上。2025 年 10 月,他在一档播客里说:让模型替他写代码?还不行,那些东西「不成样子」;他还是更习惯一个字一个字自己敲。

到了 2026 年 3 月,他坐在另一档播客的麦克风前,用一个很重的词形容自己:AI 精神病(AI psychosis)。他讲起去年十二月:有什么东西翻转了。他几乎不再手写代码。一个以「亲手」为信条的人,把手交了出去。

后来他在年度回顾里,形容过让他改变的那种东西:它不像一个你要去访问的网站,更像一只「小幽灵」,住在你的电脑里,随时都在。他说,这是一种全新的、与 AI 相处的形态;人类做的不是「培育动物」,是「召唤幽灵」。至于当时这些幽灵的水平,他的评价很分裂:它们同时像一个博览群书的天才,和一个认知还跟不上的小学生。

交出去之后,连不安都换了对象。从前让他紧张的是显卡空转:读博时,机器没在跑训练,他就觉得哪里不对。现在让他在意的是另一件事:订阅额度还剩着。额度没烧完,就等于他的机器没在满负荷工作。同一种不安,换了计量单位。

再往后,他做了一件更彻底的事:把自己从研究里搬了出去。他搭了一方很小的工作台:一块显卡,一个允许 AI 自己动手改的训练脚本。规则定得很简单,每轮实验五分钟,跑完自动评分;比之前好就留下,不好就换一条路。他自己退到循环外,只管一件事:写一份「研究守则」,告诉他的 AI,目标是什么,纪律是什么,边界在哪里。

写完守则,他去睡觉了。

第二天早上,日志里躺着机器自己找出来的改进。有些手法他一眼就懂;有些让他意外,那是他自己漏掉的几个参数、许久没人想起来的修正。一个手工调了二十年参数的人,第一次尝到这种滋味:自己看一眼就会点头的东西,偏偏是自己怎么也没想到的。他给这段日子起了个名字:后 AGI 时代;语气里是掩不住的兴奋,还带着点说不上来的东西。他留下一句自嘲:什么都没碰,去蒸桑拿了。

但他也不全是云淡风轻。他说过一句更重的判断:所有大模型的前沿公司,最后都会这么做。这是「最终关底的大战」。也别以为他把一切都交了出去:他说自己还有点「疑心」,还没有把邮箱、日历、整个数字生活交给 AI。研究可以交,钥匙串还在自己手里。

五、留下的是什么

2026 年 5 月,他宣布加入 Anthropic。这家公司给他的活,说穿了就一句话:让 AI 帮忙,把 AI 自己造得更快。造大模型本来是一群研究员一环一环试出来的活;现在,让 Claude 来干这些,研究员负责给方向。几个月前,他在自己车库里,用一块显卡预演过这件事;现在,他要把这套做法带进最前沿的实验室。

而就在七个月前,他刚刚解释过自己为什么不建前沿实验室:实验室们注定会去做那些大事,他能帮上忙,但他不确定自己能在那里做出「独特的东西」;他笃定自己的位置在教育。七个月后,他坐进了最前沿的实验室。中间他的想法经历了什么,他没有解释。人们只看到他留了一句:教育的事,时机到了会继续。学校那边,Eureka Labs 暂时停在那里。公告的最后,还悬着一句没头没尾的话:你想学什么?

在加入之前,2026 年 2 月,他公开了一件小得不像这个时代的作品。那是一个完整的 GPT,能训练、能推理,全部代码:200 行 Python,不依赖任何现成工具。200 行是什么概念?今天大家用的 AI 框架,动辄上百万行。第一版他写的是 243 行,第二天又抠掉了 43 行,还把代码排成三列:数据、模型、训练,各占一列,断行正好落在该落的地方。然后他做了个更不寻常的动作:他把这 200 行打印出来,做成三联画,放在自己的小店里卖。代码变成了可以挂在墙上的东西。

microgpt 三联画(karpathy.art 官方商店)microgpt 三联画(karpathy.art 官方商店)

为什么是它?他说过一段话,大意是:这是他多年执念的终点,简单到不能再简单了,这是他的手艺。别的东西,agent 看一眼就懂;但这一样,它想不出来。这段话,其实解释了他整个冬天在做什么:写代码,交出去了;跑实验,交出去了。但「想出来」这件事,始终没交。

春天的那档播客里,他把这个分工讲得更直白:AI 做不了的那些事,现在成了你的工作。这句话看你从哪一听。往暖了听,是句安慰:放心吧,人还有位置。往冷了听,是句提醒:从前,「会做」就够体面了;往后,只有「AI 做不了的部分」才算数。

他还给「教」换了一个定义。他说,以后的教学材料,也许不该再是写给人看的网页,而该写成给 AI 看的文档;AI 读懂了,它就能把知识讲给任何一个想学的人听。坡道还在修,只是施工的位置换了。他要教的第一个对象,可能已经变成了机器。

回到凌晨三点

故事回到凌晨三点。很多年前,他给「怎么样才算认真工作」下过一个很具体的定义:把一个难题装进脑子,泡进去,吃饭想它,洗澡想它,睡觉前还想它;第二天醒来,手是热的,接着干。如今,他把这套方法放大了一号:难题不再装进他的脑子,而是装进一个能通宵运转的系统;他睡觉,机器干活;早上,他看日志。

许多年前,有人问过他一个最大的问题:人生的意义是什么。他答得意外地实在:归根到底,他好奇的是,这个世界为什么在这里?我能不能拆开它,跟它一起干活?有没有一条留给我的信息;又或者,我该为它写一条?这个问题,他问了很多年。用浏览器问,用课堂问,用代码问,用一群替他通宵的机器问。

凌晨三点还是凌晨三点。实验台前的位置空了出来。但每天清晨,他都会出现在日志前:看看机器又交出了什么,也看看还有什么,是只有他能想出来的。

读到这里,谢谢你。继续读新知
© 2026 Aying试行错误,不断探索