翁家羿的播客火了，我完整看完记了笔记
Published:
翁家羿在 OpenAI 的职业规划逻辑，是最大化自己名字出现在 OpenAI blog 上的次数。
这期 WhyNotTV 的播客火了，作为 AI 从业者，我完整看完，做了笔记。
他小学中学不喜欢语文，喜欢奥数，解题比谁都快，后来进了 NOI（全国青少年信息学奥林匹克竞赛）。到了清华，他解决的是信息差，把作业开源。有个说法流传至今，「你认不认识某某？不认识。你认不认识翁家羿？认识，看他作业活过来的。」他还破解过学校下成绩单的网站，把成本降到原来的百分之一。
他和 RL（强化学习，在有反馈的环境里学习的机器学习，这是他自己的一句话定义）结缘，是做 ViZDoom 项目，后来申请暑研，大四就在造 RL 的 infra。暑研做 MoE，花了很长时间学 Transformer 和 NLP，但工程能力和算力都不够，没发出一作 paper。申请 PhD 的时候，即使有图灵奖获得者的推荐信，申请季仍然有点挫败。
当时他受清华内部鄙视链影响，觉得 PhD 比 master 好。但他想挣脱评价体系，做与众不同、自己喜欢的事，而不是刷 GPA。本科他用的是导师苏航的评价体系，论文、比赛、GitHub stars，于是开始做开源社区贡献，长期复利。到了 master 阶段，他发现找工作的人看重的是相关经验而不是 GPA，最重要的是能用。
疫情期间他坚持要出国，同时一直在写两个项目。一个是天授（Tianshou），一个 RL 的 GitHub 仓库，后来有 9k stars。另一个是 tuixue.online，用来查美国签证预约席位。为什么写天授？因为他之前已经写了很多 infra 代码，市面上的 RLlib 太复杂不好用，干脆自己造轮子，一个人手搓，两周做出第一版。他觉得代码一致性很重要，人多反而可能腐化。这两个项目都是基于他自己的需求，收集上古作业也是。开源是因为想做慈善，不为钱，为 impact。他从高中就开始想人生的结算画面，希望给他人带来价值。impact 不等于 fame。
他最后拿到了 CMU 的 offer，也拿到了 DeepSeek 前身、OpenAI、NVIDIA、TikTok 的 offer，最终选了 OpenAI，因为能体验世界上最前沿的 RL research 是怎么做的。注意，这是在完全不知道 ChatGPT 会来的时候做的决定。
进了 John Schulman 的组。为什么 John 招他？首先是觉得他的 GitHub 非常漂亮，认可他的评价体系和工程能力。面试是一道 end to end 的题，给三小时，他两小时做完。
他说读 PhD 去工业界就是浪费生命。本科或 master 期间攒 citation 和项目，达到 PhD 水平的论文或开源 infra，有工程水平和差异化，就不需要读 PhD，他也不喜欢拉 funding。他引用同事的话，教 researcher 做 engineering 远比反过来难，因为 research idea is cheap，engineering、infra 和迭代更重要。每家 LLM 都有 bug，修得快就走得快。
最让我印象深刻的是他的职业规划。自己做奠基人，做 infra，让别人来用、来训练、来引用、来挂名。他搭了 OpenAI 整个 post-training 的 RL infra，每一个 release 都挂名。RL 在生态位上是比较顶端的 infra，每个人用了都会考虑挂他的名字，这是他在职业规划里就想好的，因为单个 research 没法 scale up。他的建议是，学术界长远看会被重构，想进 infra 要趁早。infra 是无底洞，干了三年以上的人屈指可数，所以他在 22 年就意识到要全力投入 RL infra，而不是天授。
他刚进 OpenAI 时，GPT 还不是主要内容，也还没有 pre-train 和 post-train 的区分。因为是循序渐进看着过来的，他完全没意识到 GPT 的颠覆性，而局外人第一次见到 GPT 会极其惊艳。OpenAI 服务器被打爆，就像当年 tuixue.online 被打爆，流量如潮水涌入。他对 OpenAI 的初印象就是一个大号实验室，但有很多 research 很强的人指明方向，人才密度极高。
关于试错，他讲了 Google 的先进生产力，试错速度越快，成功率越大，不需要很多天才 idea，只需要快速迭代。OpenAI 从 280 人长到 3000 人，组织高效，上下信息流通，组织公司和组织 repo 一样需要很强的 consistency。
他也讲了代价。加班加太狠，一周六天从早到晚，脑子疼去了急诊室，之后才意识到要保证健康才能持久，现在每周跑两次步，每次三千米。
他认为现在 LLM 最大的瓶颈，是修 infra、debug 的吞吐量，也就是单位时间的迭代速度。他们组正在重构 OpenAI 的 infra，推倒重来，清理技术债。他还觉得 OpenAI 的 researcher 可能是 AI 第一个取代的工作，因为 idea 太便宜，sales 反而因为要和人博弈不容易被取代。关于 AGI，OpenAI 内部有个笑话，二十个人有二十个 AGI 的定义。目前还不敢让 AI 改 infra，所以还没达到他自己定义的 AGI。
被问到 OpenAI 和 open 还有没有关系，他说这是一个 tradeoff，不能把最好的模型开源，否则活不下去。通过 AGI 造福全人类要拆成两步，先 scale up 达到 AGI，再去造福全人类，到时候是对普通人 open，而不是对竞争对手 open。如果资源无限，会不会开源？当然。DeepSeek 公开权重，也让 OpenAI 重新评估了这件事。
最后他说，之前喜欢做 RL infra，现在反而有些迷茫了，看到头了，AGI 已经板上钉钉。十年后希望有足够资源，过喜欢的生活。给播客留下的最后一句话是，去探索自己最想要的是什么。
