一个有趣的巧合:读完博士的时间,刚好够 OpenAI 改变世界
Published:
2015 年秋天,有两件事同时发生了。
第一件:一批刚拿到本科或硕士学位的年轻人,背着书包走进了 MIT、Stanford、CMU、UCB 的 CS 系,开始了漫长的博士生涯。他们的导师告诉他们:”大概五年,也许六年。慢慢来。”
第二件:几百英里外的旧金山,一个名叫 OpenAI 的非营利研究机构悄悄成立了。办公室不大,几张白板,十几个疯子,一个雄心壮志到荒唐的使命声明:”确保人工智能造福全人类。”
这两件事之间,有一个美妙得令人发麻的巧合。
五年,一个博士,一个新世界
读完一个计算机方向的博士,平均需要多久?
答案大约是 5 年。
2015 年入学,2020 年毕业答辩。
就在那批博士生把论文最后一章交给导师、开始在 Zoom 上紧张地回答评委问题的那一年,OpenAI 发布了 GPT-3。
1750 亿参数。当时全世界最大的语言模型。一个让整个 NLP 学术圈集体沉默了三秒钟的存在。
想象一下那个画面:有个博士生正在答辩,PPT 上写着自己五年来关于语言模型的研究成果,台下的评委一边点头,一边悄悄刷着手机——因为 OpenAI 刚刚发了一个模型,把他五年做的很多事情……顺手解决掉了。
GPT-3:一个被关在实验室里的天才大脑
但 GPT-3 有一个根本性的问题。
它是一个天才大脑,但它没有嘴巴。
它深藏在 API 背后。你得会写代码,得申请到访问权限,得理解 prompt 是怎么一回事,才能和它说上话。对于全球 99% 的普通人来说,它的存在不过是科技媒体上一篇令人兴奋但读完就忘的新闻。
更糟糕的是:你和它说话,它很可能满嘴胡说。一本正经地编造不存在的论文,一脸无辜地把 2+2 算成 5。它有知识,但没有”礼貌”,没有边界感,更没有”我不知道”的自我认知。
这是 2020 年的 AI:强大,但对普通人毫无用处。
ChatGPT:给天才装上了嘴巴,还教会了它说人话
2022 年 11 月 30 日,OpenAI 发布了 ChatGPT。
在技术上,它并不是一个全新的模型。它的基础是 GPT-3.5,参数量相比 GPT-3 甚至有所缩减。但它做了两件极其关键的事:
第一件:装上了嘴巴(对话界面)。
一个输入框,一个发送按钮。你打字,它回答。不需要 API Key,不需要懂 prompt engineering,不需要是程序员。你奶奶会用微信,就能用 ChatGPT。
第二件:RLHF(人类反馈强化学习)让它变得”懂事”了。
这是真正的革命所在,但它很少被外行人提起,因为它的名字实在太无聊了。
RLHF 的逻辑其实很简单:让真人来评判模型的回答,哪个好、哪个差,然后用这些偏好数据去训练模型,让它学会”人类到底想要什么样的答案”。
结果是什么?模型变得极其听话,但不是那种无原则的奉承。它学会了:
- 不要编造不存在的事情(Hallucination 大幅减少)
- 不要生成有害内容(Safety)
- 要回答得有条理、有逻辑、有礼貌
用一句话总结:GPT-3 是一个天才,但是个狂人;ChatGPT 是一个经过社会化训练的天才。 前者你不敢带回家见父母,后者你可以直接上班用。
那批 2015 级的博士生,后来怎样了?
有意思的是,那批 2015 年入学的 CS 博士生,很多人恰好是做 NLP 或 ML 的。
他们中的一部分,答辩完,发现自己用五年时间研究的方向被 GPT-3 顺手颠覆了。有人沮丧,有人转行,有人加入了 OpenAI、Anthropic、Google DeepMind。
还有一部分,因为对这个领域有最深的理解,反而成了这一波浪潮里最稀缺的人才。他们不仅知道模型能做什么,还知道它为什么能做到,以及——更重要的——它做不到什么。
这大概就是技术变革的吊诡之处:当一个新时代降临,最痛苦的,往往也是最有准备的那批人。
尾声:你现在读的博士,对应的是哪个时代?
如果你是 2021 年入学的 CS 博士生,你将在 2026 年左右答辩。
ChatGPT 是你入学后一年发生的事。GPT-4 是你读到一半时出现的。Claude 3、Gemini、Llama 3……这些模型陪着你写了你博士论文的每一章。
你那届论文里的模型,可能在你提交的那一刻就已经过时了。
但你学到的——如何定义问题、如何设计实验、如何在不确定性中找到边界——这些东西,没有任何模型能在五年内替代你。
所以别太焦虑。
时代变得很快,但真正稀缺的,永远是理解”为什么”的人。
