People knowledge base
Andrej Karpathy
Eureka Labs 创始人 · 材料数 11 · 由 AI 人物知识库生成,旧观点不删只追加
Andrej Karpathy
- 身份:前特斯拉 AI 总监、前 OpenAI 创始成员;现 Eureka Labs 创始人
- 一句话主张:可验证性决定自动化边界,可靠性要用十年去磨
- 利益位置:目前无大厂职位约束,是名单里利益位置最轻的人之一——这使他的判断参考权重较高
- jaiv1 页面:Andrej Karpathy
- 材料数:11(一级 10,二级 1)
- 最后更新:2026-08-07
观点账本
旧观点不删,只追加。观点转向本身就是最重要的信号。
| 日期 | 观点 | 来源状态 | 观点类型 | 现实状态 | 材料编号 |
|---|---|---|---|---|---|
| 2017-11-11 | Software 2.0:神经网络不是工具,而是一种新软件形态——权重是代码,数据是源码 | 一级:本人 Medium 长文 | 框架定义 | 已成行业共识术语 | M-001 |
| 2024-07-16 | 离开 OpenAI 创办 Eureka Labs,做"AI 原生学校";首个产品 LLM101n | 一级:本人公司官网公告 | 立场/行动 | 公司仍在运作,LLM101n 未见完整发布 | M-002 |
| 2025-04-07 | LLM 的扩散方向与历史技术相反:先惠及个人,而非政府/大公司 | 一级:本人博客 | 结构判断 | 待验证(他本人已给出反转条件) | M-003 |
| 2025-06-17 | Software 3.0:提示词即程序,英语成为编程语言;LLM 更像 OS/公用事业 | 一级:YC AI Startup School 演讲 | 框架定义 | 广泛传播 | M-004 |
| 2025-06-17 | 反对"全自动",主张"自主性滑块"(autonomy slider)、人在环内;"这是 agent 的十年" | 一级:同上演讲 | 时间表判断 | 与 2025 年多家宣称"agent 之年"直接冲突 | M-004 |
| 2025-10-01 | 我们不是在造动物,是在召唤幽灵(ghosts)——LLM 是人类文档的统计蒸馏,不是进化产物 | 一级:本人博客 | 本体判断 | 概念被广泛引用 | M-005 |
| 2025-10-17 | AGI 仍需约十年;agent 缺乏持续学习、多模态、计算机使用能力 | 一级:Dwarkesh 播客(完整原音+文字稿) | 时间表判断 | 待验证 | M-006 |
| 2025-10-17 | RL 是"用吸管吸取监督信号"(sucking supervision through a straw),效率根本性低下 | 一级:同上 | 方法论批评 | 待验证 | M-006 |
| 2025-10-17 | 用 agent 写 nanochat 这类新颖代码时"net 无用",反而更愿意用自动补全 | 一级:同上 | 自述实践 | 他本人 2026-04 已部分推翻(见 M-010) | M-006, M-009 |
| 2025-11-17 | "Software 1.0 easily automates what you can specify. Software 2.0 easily automates what you can verify." 可验证=可重置+可高频尝试+可自动打分 | 一级:本人博客 verifiability | 核心框架 | "可验证性决定自动化边界"的原始出处 | M-007 |
| 2025-12-19 | 2025 年主线是 RLVR(可验证奖励强化学习);对 benchmark 持怀疑,因其"susceptible to RLVR" | 一级:本人博客年度综述 | 结构判断 | 待验证 | M-008 |
| 2026-04-30 | 2025 年 12 月出现拐点,agentic 编码开始"chunks just came out fine",不再需要频繁纠正 | 一级:本人博客(Sequoia Ascent 2026 摘要) | 观点转向 | 对 M-006 的自我修正,时间跨度约半年 | M-010 |
| 2026-04-30 | "You can outsource your thinking, but you can't outsource your understanding." | 一级:同上 | 规范判断 | — | M-010 |
| (日期未核实) | "Jagged Intelligence":前沿 LLM 在难题上超人、在 9.11 vs 9.9 这类小题上崩溃 | 一级来源存在(本人 X 原帖),但链接未验证 | 认知缺陷描述 | 术语已进入行业词汇 | M-011 |
材料库
M-001 — Software 2.0
- https://karpathy.medium.com/software-2-0-a64152b37c35 |2017-11-11|一级(本人博客原文)
- 提出 Software 1.0/2.0 二分:"Software 2.0 is written in much more abstract, human unfriendly language, such as the weights of a neural network."1.0 是人写显式指令;2.0 是人指定目标、由梯度下降在程序空间中搜索,训练数据充当源码、编译成权重。
M-002 — Eureka Labs 官网公告
- https://eurekalabs.ai/ |2024-07-16|一级
- "We are Eureka Labs and we are building a new kind of school that is AI native."模式为"Teacher + AI symbiosis";首个产品 LLM101n。注:LLM101n 完整课程截至检索未见公开发布,仅见 GitHub 大纲仓库。
M-003 — Power to the people
- https://karpathy.bearblog.dev/power-to-the-people/ |2025-04-07|一级
- 电力、密码学、计算机、互联网都是自上而下扩散,LLM 是反的:"they have been significantly more life altering for individuals than they have been for organizations"。他自己给出的反转条件:若投入换性能造成分层,富裕主体获得更强模型,则退回传统的技术不平等格局。
M-004 — "Software Is Changing (Again)" / Software 3.0(YC AI Startup School)
- https://www.latent.space/p/s3 |2025-06-17|一级(公开演讲,有完整录像与逐字稿)
- 三层框架;LLM 类比公用事业/晶圆厂/操作系统。两大缺陷:Jagged Intelligence 与 Anterograde Amnesia(顺行性遗忘)。主张 autonomy slider,反对一步到位全自动。结论句:"This is the Decade of Agents."
M-005 — Animals vs Ghosts
- https://karpathy.bearblog.dev/animals-vs-ghosts/ |2025-10-01|一级
- 回应 Richard Sutton 批评。核心二分:Animals(通过环境交互学习,有进化先验)vs Ghosts("statistical distillations of humanity's documents")。预训练是"our crappy evolution",解决冷启动问题。结论:应从动物认知(好奇心、内在动机、自我博弈)中借鉴。
M-006 — Dwarkesh Patel 播客:"AGI is still a decade away"
- https://www.dwarkesh.com/p/andrej-karpathy |2025-10-17|一级(完整原音+官方文字稿)
- 十年判断依据:"a bit of my own intuition"(自身经验外推,他自己承认是直觉)。"decade of agents"是对"agent 之年"说法的反应,被行业过度预测"triggered"。agent 缺陷:智能不够、多模态不够、不会用电脑;核心缺失是 continual learning。RL 批评:"You're sucking supervision through a straw"。可验证性与自动化顺序:容易验证对错的任务最先被自动化。实践自述:写 nanochat 时 agentic 编码"not net useful"。
M-007 — Verifiability(核心框架原始出处)
- https://karpathy.bearblog.dev/verifiability/ |2025-11-17|一级
- "Software 1.0 easily automates what you can specify. Software 2.0 easily automates what you can verify."可验证任务三属性:resettable / efficient / rewardable。快速进步:数学、代码、有确定答案的谜题。滞后:创造性工作、战略决策、需要真实世界状态与常识的任务。
M-008 — 2025 LLM Year in Review
- https://karpathy.bearblog.dev/year-in-review-2025/ |2025-12-19|一级
- 六件事:RLVR 成为新主导训练阶段;Jagged Intelligence/Ghosts;Cursor 代表的应用层;Claude Code 代表本地 agent 范式;Vibe coding 让普通人获益更多;多模态 GUI 方向。对 benchmark 怀疑:"susceptible to RLVR"。
M-009 — nanochat(GitHub)
- https://github.com/karpathy/nanochat |2025-10 首发|一级
- "the simplest experimental harness for training LLMs";约 $48(8×H100 约 2 小时)训到 GPT-2 级别(2019 年原版约 $43,000)。M-006"agent 对新颖代码 net 无用"的实证对象。
M-010 — Sequoia Ascent 2026 summary
- https://karpathy.bearblog.dev/sequoia-ascent-2026/ |2026-04-30|一级
- 观点转向:2025-12 是拐点,agentic 工具变得可靠,"the chunks just came out fine"。两种实践分化:vibe coding(降门槛)与 agentic engineering(保质量);人类保留品味、安全、系统设计、评估。"You can outsource your thinking, but you can't outsource your understanding."
M-011 — "Jagged Intelligence" 原帖(链接未验证)
- https://x.com/karpathy/status/1816531576228053133 |日期未核实|一级来源类型但 X 反爬未验证
- 该术语在 M-004、M-008 两条已验证一级材料中均由本人使用,概念归属可确认;但原帖逐字文本与准确日期未验证,引语不应当作确证引用。
他人对他的判断
- S-001(二级):Simon Willison 对 Dwarkesh 访谈的摘录与评述(https://simonwillison.net/2025/Oct/18/agi-is-still-a-decade-away/ ,2025-10-18),可作 M-006 交叉校验。
- Richard Sutton 对 LLM 路线的批评是 M-005 的直接触发点,但 Sutton 原话需从其本人播客取证,暂不录入。
隐含假设
- "可验证性"是外生给定的、而非可被工程化的。若"给模糊任务造出可靠 verifier"本身成为可攻克的工程问题,他的边界线会大幅右移。他在 M-008 中怀疑 benchmark"susceptible to RLVR",其实已承认 verifier 可被反向工程——与自己的框架存在张力。
- 十年判断的依据是个人外推,他自己承认("a bit of my own intuition")。
- 持续学习是硬瓶颈,且无捷径——假定缺少"睡眠式权重蒸馏"是结构性缺陷,而非可用长上下文+外部记忆+定期微调工程绕过。
- "幽灵不是动物"隐含模仿路线短期内到不了 AGI。
- 个人受益大于组织是当前算力分布下的暂时状态——他自己已写明失效条件,是名单里少见的自带反证条件的判断。
反证条件 / 待验证清单
| 编号 | 若发生,则某判断被削弱 | 对应观点 |
|---|---|---|
| F-1 | 出现在低可验证性领域(战略、创意、含糊真实任务)取得可复现跃迁的系统 | M-007 可验证性框架 |
| F-2 | 2027 年前出现能像雇员一样连续工作数周、跨任务保留经验的 agent | M-006 十年论 |
| F-3 | 持续学习被工程手段(外部记忆+定期权重更新)实质解决,而非架构突破 | M-006 假设 3 |
| F-4 | 顶级模型出现明显分层定价/能力鸿沟,个人可及能力显著落后组织 | M-003(他自己写的反转条件) |
| F-5 | benchmark 与真实能力重新对齐,RLVR 刷分不再能推高分数 | M-008 |
| F-6 | 他在 2026-04 报告的"拐点"没有在他人身上复现,仍是个例 | M-010 |
| F-7 | Eureka Labs/LLM101n 长期不出完整产品 | M-002 |
与其他人的真实分歧
- 与"agent 之年"阵营(含 OpenAI)的时间表分歧:不是"能不能做到",是"从 demo 到可靠产品要多久"。经验来源是特斯拉自动驾驶——demo 容易、产品化的"march of nines"极慢。
- 与规模化路线(Altman 方向)的分歧:M-006 明确列出智能之外的多项缺陷,认为这些不是靠继续加算力能自动解决的。
- 与 Richard Sutton 的路线分歧(他本人主动成文,最可靠):M-005 直接回应;承认批评成立,但辩护预训练是解决冷启动的现实必要手段,主张两条路线互补。
- 与物理智能路线(Musk 方向)的对照:按 M-007 框架,物理世界任务恰是"不可重置、不可高频尝试、无自动奖励"的典型,应当最慢——但这是推导而非他的原话,不作引用。
更新日志
| 日期 | 动作 |
|---|---|
| 2026-08-07 | 建立条目;补入一级材料 M-001 至 M-011(M-011 链接未验证)、二级 S-001;填写四节。 |
本页由「AI 人物知识库」canonical 生成(呈现层)。一级/二级/三级只表示来源距离,不表示观点正确概率;本人亲口说过也只是观点,正确与否只看后续现实状态。