谷歌三部曲之三:AI 公司 (Google: The AI Company)

Acquired2025/10/06

Acquired 谷歌三部曲终章:从 Google Brain 与收购 DeepMind,到 Transformer 论文、人才外流与 ChatGPT 冲击,再到 Gemini 反击——一家发明了这个时代核心技术的公司,如何差点输掉自己的时代。

谷歌GoogleAIDeepMindTransformerGeminiOpenAIAcquired商业拆解
← 洞见谷歌三部曲之三:AI 公司 (Google: The AI Company)

开场:第三位联合主播与十周年

David: 第三位联合主播。

Ben: 第三位联合主播。

David: 是霍华德吗?

Ben: 不是,是位律师。他好像在电话里聊一个特别糟心的案子,我根本不想听,可每个字都钻进了我的耳朵。

David: 他愿意让几百万人听到他这段对话吗?

Ben: 好了,我们开播吧。

David: 开播。

Ben: 欢迎收听 Acquired 2025 年秋季档,这是一档关于伟大公司及其背后故事与方法论的播客。我是 Ben Gilbert。

David: 我是 David Rosenthal。

Ben: 我们是你的主持人。先来个思考题。想象你有一门利润丰厚的生意,每卖出一个单位都能赚到巨额毛利。你所在的市场也极其庞大,说是全世界最大的市场之一也不为过。更幸运的是,你在这个巨型市场里还是垄断者,手握 90% 的份额,用户锁定效应极强。

David: 而且你说的垄断,是美国政府盖章认定的垄断。

Ben: 没错。但接着想象这一幕:在你的研究实验室里,你那些天才科学家搞出了一项发明。这项发明,一旦和你其他天才科学家此前的一大堆老发明组合起来,竟然造出了一个在绝大多数用途上都比你现有产品好得多的产品。

你把基于这项新发明的新产品推向了市场——尤其是,你的科学家纯粹出于高风亮节,早就发表了论文,宣讲这项新发明有多牛,之前的许多发明也一并公开了。现在,一堆创业公司竞争对手正在迅速把这项发明商业化。当然了,David,你会把整个产品都切换到新东西上,对吧?

David: 这听起来像部电影。

Ben: 是的。但问题来了:你还没搞清楚怎么让这个了不起的新产品赚到哪怕接近旧印钞机生意的钱。也许,你压根不该发布这个新产品。

David,我觉得这可真是两难到家了。听众们,当然了,这就是今天的谷歌,而且这恐怕是有史以来最经典的教科书级创新者的窘境(The Innovator's Dilemma)案例。我们此刻身处的整场 AI 革命,都源于 2017 年 Google Brain 团队发明的 Transformer。

想想 OpenAI 和 ChatGPT,想想 Anthropic,想想英伟达(NVIDIA)屡创新高。眼下所有的疯狂,都系于谷歌 2017 年发表的那一篇论文。

再想想这个。十年前,谷歌不仅拥有全世界密度最高的 AI 人才——正是他们带来了这场突破——而且今天,他们手里攥着的资产组合,几乎是你能奢求的最强阵容。

他们有 Gemini 这个顶级 AI 模型;他们不靠别家公有云来托管模型,用的是自家年收入已达 500 亿美元的 Google Cloud,这是实打实的规模。他们还是一家芯片公司,手握张量处理单元(TPU)——除了英伟达 GPU,这是世界上唯一真正上规模的 AI 芯片部署。AMD 也许算半个,也许。但前两名肯定是这两家。

David: 调研时有个人跟我说:在 AI 市场上,你要么有基础前沿模型,要么有 AI 芯片,两样都没有,你就可能沦为大路货。而谷歌是唯一两样都有的公司。

Ben: 谷歌的人才板凳深度依然吓人。尽管 ChatGPT 已经成了这个时代的“舒洁”(Kleenex,品类代名词),谷歌仍然握着那个文本框——对绝大多数人来说,只要产生任何上网意图,那唯一的一格输入框就是互联网的前门。

但问题依旧:谷歌在战略上到底该怎么做?是该孤注一掷,凭与生俱来的血统在人工智能上一战到底?还是会被保护搜索业务滚滚利润的念头捆住手脚,眼看 AI 浪潮从自己身边呼啸而过?不过在此之前,我们或许得先回答一个问题:谷歌是怎么走到今天这一步的,David Rosenthal。各位听众,今天我们要讲的是“AI 公司谷歌”的故事。

David: 呜呼。

Ben: 喜欢吗 David?这段怎么样?

David: 爱死了。你是不是背着我请了好莱坞编剧顾问?

Ben: 这可是我 100% 亲笔写的,没动用任何 AI,谢谢。

David: 没用 AI。

Ben: 好了听众们,如果你想第一时间知道每期节目上线、给未来选题投票,或者获取往期的勘误,请订阅我们的邮件列表,地址是 acquired.fm/email

听完之后,欢迎来 Slack 上和整个 Acquired 社区一起讨论这期节目,地址是 acquired.fm/slack

David: 说到 Acquired 社区,我们马上要办一场周年庆。

Ben: 没错。

David: 节目十周年了。我们打算办一场面向所有人的公开 Zoom 通话来庆祝,就像当年我们和 LP 开 LP 电话会那样。时间是太平洋时间 2025 年 10 月 20 日下午 4 点,详情请见节目简介。

Ben: 想听更多 Acquired,可以看我们的访谈节目 ACQ2。上一期访谈特别好玩,我们和 Shopify 创始人兼 CEO 托比·吕特克(Tobi Lütke)聊了聊 AI 如何改变了他的生活,以及他认为接下来会走向何方。在任何播客客户端搜索 ACQ2 即可。

十年回望:AI 圈全是谷歌人

Ben: 免责声明:本节目不构成投资建议。David 和我可能持有我们讨论的公司股票,本节目仅供信息参考与娱乐之用。David,谷歌,AI 公司。

David: Ben,正如你在那段精彩开场里暗示的——说真的,你的开场功力又涨了——从今天往前倒推十年,在 Transformer 论文问世之前,下面这些人,正如我们之前聊过的,全都是谷歌员工。伊利亚·苏茨克维(Ilya Sutskever),OpenAI 的创始首席科学家,他和杰弗里·辛顿(Geoff Hinton)、亚历克斯·克里泽夫斯基(Alex Krizhevsky)一起,在几年前刚刚完成了 AlexNet 这项奠基性的 AI 工作。

他们三个都是谷歌员工。

还有达里奥·阿莫迪(Dario Amodei),Anthropic 的创始人;安德烈·卡帕西(Andrej Karpathy),直到最近都是特斯拉的首席科学家;吴恩达(Andrew Ng)、塞巴斯蒂安·特龙(Sebastian Thrun)、诺姆·沙泽尔(Noam Shazeer);还有 DeepMind 那整整一拨人——德米斯·哈萨比斯(Demis Hassabis)、肖恩·莱格(Shane Legg)、穆斯塔法·苏莱曼(Mustafa Suleyman)。

穆斯塔法如今除了“DeepMind 前创始人”这个身份,还掌管着微软的 AI 业务。基本上,AI 领域每一个叫得上名号的人都曾在谷歌工作过,唯一的例外是杨立昆(Yann LeCun),他去了 Facebook。

Ben: 现在随便挑一家大 AI 实验室往回溯源,很难不在它的起源故事里撞见谷歌。

David: 打个比方:这就好像在计算机时代黎明时分,某一家公司——比如 IBM——把全世界每一个会写代码的人都招进了门。别人想写个计算机程序?哦抱歉,不行。所有会编程的人都在 IBM 上班。

2010 年代中期的 AI 与谷歌,就是这个局面。但学编程还没难到外人学不会的地步;而学会当一名 AI 研究员,门槛要高得多。

Ben: 那是极少数特定博士项目里才教的东西,能带你的导师屈指可数,而且整个领域内部斗得厉害——方向该往哪走、什么是正经学问、什么是疯疯癫癫的异端邪教,吵成一团。

AI 前史:从拉里的预言到 PHIL 的第一桶金

David: 那么,问题来了:我们是怎么走到这一步的?这得从公司创立之初说起。拉里·佩奇(Larry Page)一直把谷歌视为一家人工智能公司。事实上,拉里的父亲就是一位计算机科学教授,在密歇根大学拿的博士学位,研究方向是机器学习与人工智能——在那个年代,这可不是计算机科学里的热门方向。

Ben: 其实当时很多人认为,专攻 AI 纯属浪费时间,因为 30 年前的那些大理论到那时基本都被证伪了——至少大家以为它们被证伪了。说实话,拉里的父亲把一生、职业生涯和研究工作都押在 AI 上,是相当逆潮流的。

David: 这股劲儿也传给了拉里。如果你眯起眼睛看,谷歌赖以起家的 PageRank 算法本身就是一种统计方法,你完全可以把它归入计算机科学里的 AI 分支。当然,拉里的梦想一直要大得多、大得多。

我们节目里引用过那句话:2000 年,也就是谷歌成立两年后,拉里说:“人工智能将是谷歌的终极形态。如果我们拥有终极搜索引擎,它会理解网络上的一切,会精准理解你想要什么,并把正确的东西交到你手上。

“这显然就是人工智能。我们现在离那一步还差得很远。不过,我们可以一点点逼近,而这基本上就是我们在这里做的事。”谷歌从来都是一家 AI 公司。

Ben: 而那还是 2000 年。

David: 后来有一天,在 2000 年底或 2001 年初——时间线在这里有点模糊——谷歌工程师乔治斯·哈里克(Georges Harik)在午餐时和两个人聊天:一位是大名鼎鼎的谷歌工程师本·戈麦斯(Ben Gomes),我记得他后来领导了搜索业务;另一位是入职不久的工程师,名叫诺姆·沙泽尔。

乔治斯是谷歌最早期的 10 名员工之一,一位了不起的工程师。和拉里的父亲一样,他也拥有密歇根大学的机器学习博士学位。即便到了乔治斯读书那会儿,这仍然是计算机科学里一个相当冷门的逆潮流分支。

三个人正吃着午饭,乔治斯随口抛出一个他读博时形成的理论:压缩数据,在技术上其实等价于理解数据。他的思路是——如果你能把一段给定的信息变小、存起来,之后再按原样还原出来,那么唯一可能的解释是:对数据施加作用的那个“东西”,真的理解了这些信息的含义。

往小里压缩会丢失信息,然后你又把原物重建出来。这就像在学校里读书的孩子:你读一本厚厚的教材,把信息存进记忆,然后参加考试,检验你是否真的理解了内容。如果你能重新讲出那些概念,就说明你是真的懂了。

Ben: 这简直就是今天大语言模型(LLM)的预演——把全世界的知识压缩进若干 TB,就像被拍扁的一小堆向量集合——小,只是相对于全世界的信息总量而言——但思路就是这个思路。你可以把全世界的信息存进一个 AI 模型,以一种不可读、难以理解的形式;但一旦解压,知识就能还原成本来的样子。

David: 而且这些模型确实表现出了理解力,对吧?

Ben: 呃,真的吗?这恰恰是问题所在。它们肯定模仿出了理解的样子。

David: 这场对话发生时——那可是 25 年前——新来的诺姆,这个年轻小伙,当场愣住,心想:哇,如果这是真的,那可太深刻了。

Ben: 这是在谷歌的某个微型厨房里吗?

David: 就在谷歌的一间微型厨房里。他们在吃午饭。

Ben: 顺便问一句,这段你从哪儿挖出来的?25 年前的……

David: 出自《In the Plex》。史蒂文·列维(Steven Levy)这本大作是我们所有谷歌系列节目的素材来源,这是书里一个不起眼的小段落——毕竟这本书出版时,ChatGPT 和这波 AI 浪潮都还没影呢。

总之诺姆缠上了乔治斯,两人围绕这个想法越聊越投机。接下来的几个月里,他们以一种最“谷歌”的方式做出决定:手头其他事全都放下,就去做这个方向——语言模型、数据压缩,能不能用数据生成机器理解?如果能做到,那对谷歌就是好事。

我觉得这正好赶上了 2001 年拉里·佩奇把工程部门所有经理全部开除的那段日子。当时人人都在做自己想做的事。

Ben: 有意思。

David: 书里有一句乔治斯的原话特别妙:“很多人觉得,我和诺姆把才华花在这上面是件很糟糕的事,但桑杰·格玛瓦特(Sanjay Ghemawat)觉得这很酷。”桑杰,当然就是杰夫·迪恩(Jeff Dean)那位传奇的高产编程搭档。

乔治斯会向每一个质疑者抛出这样的论证:“桑杰觉得这是个好主意,而全世界没有人比桑杰更聪明,所以我和诺姆凭什么要接受你们‘这主意很烂’的看法?”

Ben: 这就好比:如果你击败了橄榄球界最强的球队,你是不是就成了新的最强球队,不服不行?

David: 没错。这一切最终把诺姆和乔治斯带进了自然语言概率模型的兔子洞深处。意思是:对于互联网上出现的任意词序列,另一个特定词序列紧随其后出现的概率是多少?今天任何了解 LLM 工作原理的人,听到这个都会觉得很耳熟。

Ben: 哦,不就是下一个词预测器嘛。

David: 推广开来说,是下一个 token 预测器。他们用这项研究做出的第一个东西,是谷歌搜索里“您是不是要找”(did you mean)的拼写纠错功能。

Ben: 哦,那功能是这么来的?

David: 就是这么来的。诺姆做的。这对谷歌意义重大——显然,你输错了查询词还得重输一遍,用户体验很差;但对谷歌的基础设施来说,这还是一笔税:每来一个输错的查询,谷歌的基础设施就得跑一遍、返回一堆没用的结果,然后立刻被新查询覆盖掉。

Ben: 而且这是一个边界收得特别紧的问题:你能清楚看到,哇,80% 的情况下,有人输入“god groomer”(给上帝美容的),其实他们想找的是“dog groomer”(宠物美容师),然后会重输一遍。如果置信度足够高,你就直接替他改正,问都不用问,然后再给他一个“撤销”的选项,而不是让他先“确认”。这是个很棒的功能,也是这项技术在一个极窄领域里的绝佳首个用例。

David: 完全同意。于是他们顺着这条路继续往前走——诺姆和乔治斯——最终做出了一个(对当时而言)相当“大”的语言模型,他们亲昵地叫它 PHIL——概率分层推理学习器(Probabilistic Hierarchical Inferential Learner)。

Ben: 这帮 AI 研究员就是喜欢倒造缩写词。

David: 他们爱玩文字梗。快进到 2003 年,苏珊·沃西基(Susan Wojcicki)和杰夫·迪恩正准备上线 AdSense。他们需要一种办法来理解那些第三方网页——也就是发布商——的内容,好把谷歌的广告语料库投放上去。而 PHIL 就是他们拿来干这件事的工具。

Ben: 我完全不知道这里面居然有语言模型的事。

David: 杰夫·迪恩借来 PHIL,然后用它在一周内写完了自己的 AdSense 实现——著名的“一周神话”(因为他是杰夫·迪恩)——砰,AdSense 上线了。这等于一夜之间给谷歌带来数十亿美元的新收入——本质上还是 AdWords 搜索广告那套更优的语料库,现在投放到第三方网页上而已。他们把手头已有的广告库存一下子扩到了天量。这一切都要感谢 PHIL。

Ben: 感谢 PHIL。

好了,讲到这儿我们必须停下来,来几条“杰夫·迪恩段子”。杰夫·迪恩将是本期节目的一条主线:等等,谷歌到底是怎么做到的?杰夫·迪恩怎么就能回趟家、过个周末,把某个庞大的分布式系统整个重写一遍,把谷歌的所有问题都解决了?

当年“查克·诺里斯段子”(Chuck Norris facts)正火的时候,谷歌内部兴起了“杰夫·迪恩段子”。我挑几条我最喜欢的。真空中的光速曾经是每小时 35 英里左右,直到杰夫·迪恩花了一个周末优化了物理定律。

David: 太绝了。

Ben: 杰夫·迪恩的银行卡密码,是 π 的最后四位。

David: 也只有谷歌员工编得出这种段子。

Ben: 对杰夫·迪恩来说,NP 的意思是“没问题”(No Problemo)。

David: 哦对,这条我见过。我觉得这条是我的最爱。天哪,太妙了。另外也说一句,杰夫本人是个极好的人,我们调研时采访了他,他帮了非常大的忙。谢谢你,Jeff。

总之,语言模型确实管用,肯定会给谷歌带来巨大的价值,而且它和谷歌“整合全球信息,使人人皆可访问并从中受益”的使命契合得天衣无缝。如果你能理解全世界的信息、压缩它、再重建它——我觉得这完全符合使命,这个勾打得理直气壮。

Ben: 完全同意。

David: PHIL 后来长得太大了:据说到了 2000 年代中期,PHIL 吃掉了谷歌整个数据中心基础设施的 15%。我猜其中很大一部分是 AdSense 的广告投放,但还有“您是不是要找”以及谷歌内部开始用它做的其他所有事情。

Ben: 所以说,早期的自然语言系统,计算量惊人。

2007:谷歌翻译、特龙与辛顿的布道

David: 是的。好了,2000 年代中期讲到这儿,快进到 2007 年——对我们的故事来说,这是非常、非常关键的一年。谷歌前不久刚上线了谷歌翻译(Google Translate)。那正是谷歌神级产品井喷的年代,我们都讲过——Maps、Gmail、Docs,以及之后接踵而至的 Chrome 和 Android 这些好东西。

Ben: 他们有过一段长达十年的黄金期,除了搜索之外,你今天知道的谷歌产品几乎都是那十年里发布的,真正的十年连发。而之后的十年,大约从 2013 年起,他们基本没再发布过任何你听说过的新产品,直到 Gemini 出现——这件事本身就很耐人寻味。但 2003 到 2013 这十年,爆款真是一个接一个。

David: 梦幻年代。谷歌翻译就是其中之一——用户规模或对世界的冲击也许比不上 Gmail 或 Maps,但它依然是个梦幻般的、梦幻般的产品。谷歌翻译的首席架构师,是另一位了不起的机器学习博士,名叫弗朗茨·奥赫(Franz Och)。

弗朗茨的学术背景是自然语言处理和机器学习,博士读的就是这个。他是德国人,在德国拿的博士学位。当时,DARPA……

Ben: 也就是美国国防高级研究计划局(DARPA),政府下属机构。

David: ……正在举办他们著名的机器翻译挑战赛。谷歌和弗朗茨当然参赛了,弗朗茨造出了一个更大的语言模型,在那届 DARPA 挑战赛上碾压全场——那是 2006 或 2007 年——拿下了高到天文数字的 BLEU 分数。BLEU(bilingual evaluation understudy,双语评估替补)是当时评判翻译质量的算法基准,他的分数比当时任何其他系统能摸到的都高。

杰夫·迪恩听说了弗朗茨和翻译团队的这项工作。他说:太棒了,太惊人了。你们打算什么时候把它上线到生产环境?

Ben: 哦,这个故事我听过。

David: 杰夫和诺姆在 DoorDash 的播客上聊过这段,那一期非常、非常精彩。弗朗茨的反应是:不不不不,Jeff,你没搞明白。这是研究,不是给产品用的。我们建的这个模型没法上线。这是一个 n 元语法模型(n-gram,gram 指一簇词的数量),我们是拿谷歌搜索索引里两万亿个词的语料库训练出来的。

这玩意儿大到翻译一句话要花 12 个小时。而那届 DARPA 挑战赛的玩法是:周一给你一组句子,周五之前提交你对这组句子的机器翻译结果。

Ben: 服务器有的是时间慢慢跑。

David: 他们心想:行吧,从周一到周五一共这么多小时,那就用上尽可能多的算力,来翻译这么几个句子。

Ben: 嘿,摸清游戏规则,然后为我所用。

David: 没错。杰夫·迪恩可是工程界比肩查克·诺里斯的男人,他说:嗯,把你们的代码给我看看。杰夫空降进去,和翻译团队一起干了几个月,把算法重新架构了一遍:对词和句子并行处理,而不是顺序处理。因为当你翻译一组句子、或一句话里的一组词时,你未必需要按顺序来。你可以把问题拆成不同的小块,各自独立处理——你可以并行化。

Ben: 当然,这样翻不出完美的译文。但想象一下,你把每个单词都翻出来,至少可以让这些翻译同时并行进行,再把句子重新拼起来,基本就能看懂原意了。

David: 是的。而且杰夫对此门儿清——他和桑杰基本上就是跟乌尔斯·霍尔泽(Urs Hölzle)一起把这东西造出来的——谷歌的基础设施是极度可并行化的、分布式的。你可以把工作负载拆成小块,撒到谷歌的各个数据中心去跑,再把结果重新组装起来,返回给用户。

Ben: 他们是全世界最擅长把跨 CPU、跨多个数据中心的工作负载并行化的公司,没有之一。

David: 注意,我们这儿说的还是 CPU。杰夫和团队的工作,把单句平均翻译时间从 12 小时压到了 100 毫秒。然后他们把它上线到了谷歌翻译,效果惊人。

Ben: 这听起来又是一条杰夫·迪恩段子:翻译一句话曾经要 12 个小时,后来杰夫·迪恩花了几个月接手。现在只要 100 毫秒。

David: 这就是第一个在谷歌产品中用于生产环境的“大”语言模型。他们看到这招这么好使,自然就想:也许还能用在别的事情上,比如你打字时预测搜索查询,这可能很有意思。

当然,谷歌皇冠上的明珠也可能是这项技术的一个有趣应用场景:AdWords 的广告质量分,本质上就是对一组给定广告文案的预估点击率。你能想象,一个真正擅长吸收信息、理解信息、并据此做出预测的 LLM,对计算谷歌广告质量分会有多好用。

Ben: 而这直接换算成谷歌的利润。

David: 确实。显然,语言模型这条线上一切都顺风顺水。我说过 2007 年是个大年份。同样是在 2007 年,几位计算机科学教授在谷歌园区里开始了那场影响深远的交汇。

2007 年 4 月,拉里·佩奇把塞巴斯蒂安·特龙从斯坦福挖到谷歌,先兼职、后全职,做机器学习应用。塞巴斯蒂安当时是 SAIL——斯坦福人工智能实验室(Stanford Artificial Intelligence Laboratory)——的掌门人。SAIL 是传奇 AI 实验室,早在 20 世纪 60–70 年代第一波 AI 浪潮中就声名显赫,正是拉里的父亲活跃于这个领域的年代。后来实验室一度关停,2000 年代初才重启、重焕生机,掌舵人就是塞巴斯蒂安。

Ben: 关于塞巴斯蒂安,他加入谷歌的经过有个好玩的故事。塞巴斯蒂安很给面子,为这期节目接受了我们的访谈。我之前不知道,这基本上是一笔“人才收购”(acquihire)。他和几个(我记得是)研究生当时正在筹备创业,手里已经拿着 Benchmark 和红杉(Sequoia)的投资条款书。拉里找上门来说:要不这样,我们在你们公司还没成立之前就直接“收购”它——以签约奖金的形式?

David: 对他们来说,这可能是个非常明智的决定。SAIL——斯坦福计算机系里的这个团体——不仅坐拥全世界最了不起、成就最高的一批教授和 AI 博士研究员,还有一条斯坦福本科生的流水线:这些本科生会一边攻读计算机学位、符号系统学位或别的什么学位,一边在 SAIL 做研究。

其中一个人叫克里斯·考克斯(Chris Cox),如今是 Meta 的首席产品官。

Ben: 不会吧。

David: 是的,他在 AI 这一行的起点就在这儿。显然,Facebook 和 Meta 过一会儿还会回到我们的故事里。这些事真是编都编不出来。

另一位在塞巴斯蒂安任内经过 SAIL 的本科生,是个大一大二的年轻人,后来从斯坦福辍学去创业,公司进了 Y Combinator 2005 年夏天的第一期营。

Ben: 我坐不住了。这人是谁?

David: 猜猜看?

Ben: Dropbox、Reddit……我在努力回忆第一期还有谁。

David: 哦不,但和本期节目的关联直接得多。那家公司是一个失败的本地移动社交网络。

Ben: 哦,萨姆·阿尔特曼(Sam Altman)。Loopt。

David: 萨姆·阿尔特曼。

Ben: 太神了。他那时候也在 SAIL?

David: 在 SAIL,没错,身份是本科生研究员。

Ben: 哇。

David: 很疯狂吧?我们早就说过:做这所有事情的,就是那么一小撮人。

Ben: 唉,真怀念那些日子。萨姆在 WWDC 上和史蒂夫·乔布斯(Steve Jobs)同台发布产品,Polo 衫立着双层领子。那是另一个科技时代。

David: 双层立领,那画面太经典了,那是一种气场,一个时代。哎呀。好了,2007 年 4 月,塞巴斯蒂安从 SAIL 来到谷歌。接下来几个月里,他最早做的项目之一,是为谷歌地图打造的 Ground Truth 项目。

Ben: 这项目本质上就是谷歌地图本体。

David: 本质上就是谷歌地图本体。在 Ground Truth 之前,谷歌地图这个产品已经存在,但所有地图数据都得从一家叫 Tele Atlas 的公司买。

Ben: 我记得有两家。那是个双头垄断,另一家叫 Navtech。

David: 对,Navtech 和 Tele Atlas。

Ben: 但那就是个人人都用的烂数据源,你根本不可能比竞争对手做得更好,因为大家用的都是同一份数据。

David: 数据质量不怎么样,还特别贵。Tele Atlas 和 Navtech 都是市值几十亿美元的公司,我记得其中一家或两家都上过市,后来被收购了。总之是很多的钱、很大的营收。

Ben: 是的。塞巴斯蒂安做的第一件事是街景(Street View)。他本就有过指挥一整支车队满街跑、到处拍照的经验。

David: 进入谷歌之后,Ground Truth 是一个登月级别的项目:从零重建出 Tele Atlas 的全部数据。

Ben: 主要靠他们自己拍的街道照片,也就是街景。他们还掺了一些别的数据——用到了人口普查数据,我记得总共用了 40 来个数据源,把它们拼到一起。总之,Ground Truth 是一场从零开始、白手造地图的宏大行动。

David: 和我们在这里讲的所有谷歌内部 AI 及 AI 赋能项目一样:效果非常、非常好,而且非常快。一场大胜。

Ben: 当然,前提是你在印度雇了一千人,帮你筛查数据里的所有出入,再亲手把所有地图画出来。

David: 那会儿我们还远没有进入 AI 自动化的时代。借着 Ground Truth 这场胜仗,塞巴斯蒂安开始向拉里和谢尔盖·布林(Sergey Brin)游说:嘿,我们应该多干这种事。我们应该把 AI 教授、学术界人士——这些人我都认识——请进谷歌,兼职就行。

他们不必做全职员工。让他们保留学术界的教职,来这儿和我们一起做产品项目。他们会爱上这里的:他们的工作成果能被亿万人使用;我们付薪水,他们能赚不少钱,还能拿谷歌股票;同时他们依旧是各自学术机构的教授。

Ben: 三赢。

David: 三赢。不出所料,拉里和谢尔盖的反应是:好好好,这主意不错,就这么干,多来点。于是 2007 年 12 月,塞巴斯蒂安把一位当时名气还不大的机器学习教授从多伦多大学请到了谷歌园区,来做一场技术分享。他叫杰弗里·辛顿。还没正式招他,只是请他来给谷歌的同事们讲讲——杰夫,讲讲你和你在多伦多大学的博士生、博士后们正在做的新工作,讲讲你们如何在神经网络上开辟新路。

Ben: 给不认识这个名字的人补一句:杰弗里·辛顿如今被公认为神经网络之父,实际上也是整个 AI 走向之父。

David: 现代 AI 之父。

Ben: 在那个历史节点上,他还是个边缘学者。神经网络在当时根本不是 AI 里受尊重的分支。

David: 完全不受尊重。

Ben: 部分原因是,三四十年前围绕神经网络有过一大波炒作,最后全都没兑现。在所有人眼里,这条路实际上已经被证伪了,是不折不扣的冷板凳。

David: Ben,你还记得我们英伟达那几期节目里,我最喜欢的关于杰弗里·辛顿的冷知识吗?

Ben: 哦记得,他的曾祖父是乔治·布尔(George Boole)?

David: 没错。他是乔治·布尔和玛丽·布尔的曾曾外孙——这两位发明了布尔代数与布尔逻辑。

Ben: 现在我对这行懂得多了,越想越觉得好笑:布尔逻辑是符号逻辑的基石,是定义明确的确定性计算机科学逻辑。而神经网络最妙的地方恰恰在于它不是:它不是符号 AI,不是“我给你明确的指令,你沿着一棵巨大的 if-then 树走”。它是非确定性的,是那个领域的反面。

David: 这反而再次凸显出,机器学习和计算机科学的这个分支当年是多么离经叛道。Ben,正如你前面说的,神经网络不是什么新点子,理论上一直前途无量,但实践中,做多层网络需要的计算量实在太大了。

直到那时为止,计算机上的神经网络真的只能有一层,或者至多小个位数的层数。但杰夫和他的前博士后——一个叫杨立昆的家伙——开始在圈子里布道:嘿,如果我们能找到办法做出多层的、深层的神经网络——也就是我们称之为深度学习(deep learning)的东西——我们或许真能兑现当年的承诺。

Ben: 不是这个点子不行,而是实现它的工程不行:要真正算完所有数学、完成传播到一层又一层神经网络所需的全部乘法运算——去探测、理解并存储模式——需要天量算力。如果我们真能做到,一个大型多层神经网络将价值连城,而且很可能是行得通的。

David: 时间来到 2007 年、2000 年代中期,摩尔定律(Moore's law)已经推进到可以真正动手验证这些理论的程度。于是杰夫来了,在谷歌做了这场分享。YouTube 上就有,你们可以去看,我们会在节目简介里放链接。

Ben: 真的假的?

David: 千真万确。这就是一件躺在 YouTube 上的历史文物。谷歌的人——塞巴斯蒂安、杰夫·迪恩,还有我们提到的所有其他人——听完都兴奋极了,因为他们已经在用谷歌翻译和那些语言模型做类似的事情,只不过用的不是杰夫研究的那种深度神经网络。

眼前是一整套全新的架构路线:如果能跑通,他们正在建的这些模型会强得多——能识别更复杂的模式、更好地理解数据。前途无量。

Ben: 当然,到这一步还全是理论。

David: 这场技术分享之后,塞巴斯蒂安·特龙把杰弗里·辛顿揽进了谷歌的圈子——(我记得)接下来的几年先是以顾问身份,再后来有一阵,杰弗里·辛顿在谷歌的名义身份是实习生。他们就是这样绕开兼职、全职政策的。

Ben: 他大约在 2011–2012 年当的暑期实习生。提醒你一下,那时他已经 60 岁了。

David: 在 2007 年之后的几年里,塞巴斯蒂安这套打法——把计算机科学、机器学习领域的学者以合同工或兼职实习生的身份请进谷歌,让他们保留教职、同时为谷歌产品内部的大项目出力——效果好到什么程度呢?到 2009 年底,塞巴斯蒂安、拉里和谢尔盖拍板:嘿,我们干脆在谷歌内部成立一个全新的部门吧。这就是 Google X,“登月工厂”(Moonshot Factory)。

Google X 的第一个项目,由塞巴斯蒂安亲自带队……

Ben: 哦 David,别说,别说出来。

David: 我不说它的名字,我们后面再回来讲。但就眼下的故事而言,第二个项目将至关重要——不仅对我们的故事……

Ben: 对整个世界都是。

David: 对 AI 改变整个世界的一切都是。这个第二个项目,就叫 Google Brain。

Google Brain 诞生:迪恩、吴恩达与 DistBelief

Ben: 好,David,Google Brain。

David: 塞巴斯蒂安离开斯坦福、全职加入谷歌之后,当然得有人接管 SAIL。接棒的是另一位计算机科学教授,一位才华横溢的家伙:吴恩达。

Ben: 全是王炸。

David: 全是王炸。这期节目就是 AI 王炸全家桶。塞巴斯蒂安怎么做?他把吴恩达也招募进来兼职,每周来谷歌园区待一天。这正好赶上 X 成立、塞巴斯蒂安把这个部门正规化的当口。

2010–2011 年前后的某一天,吴恩达在谷歌园区过他“每周一天”的日子,撞上了谁?杰夫·迪恩。杰夫·迪恩跟吴恩达讲他和弗朗茨在语言模型上做的事,讲杰弗里·辛顿在深度学习上做的事。

这些吴恩达当然都知道,他也聊起自己和 SAIL 在斯坦福的工作。然后两人一拍即合:你知道吗?时机可能终于成熟了,可以在谷歌内部真正大干一场——按杰弗里·辛顿一直布道的路线,依托谷歌高度可并行化的基础设施,建一个巨大的、真正大规模的深度学习模型。

Ben: 说到“时机可能成熟了”——谷歌之前试过两次,都没成。他们搞过一个叫 Brains on Borg 的东西——Borg 是他们内部用来跑所有基础设施的集群管理系统——还试过 Cortex 项目,两次都没真正跑通。所以谷歌研究部门心里是有点伤疤的:大规模神经网络,在谷歌的基础设施上到底行不行?

David: 于是,吴恩达和杰夫·迪恩两个人拉上了格雷格·科拉多(Greg Corrado)——一位神经科学博士、出色的研究员,当时已经在谷歌工作。2011 年,三人启动了 X 内部第二个正式项目,名字恰如其分:Google Brain。三人开始着手建造一个非常、非常大的深度神经网络模型。

Ben: 而要干这件事,他们需要一套能跑它的系统。谷歌的看家本领,就是把前沿研究接过来,然后做出架构和工程系统,让它真正跑起来。

David: 于是杰夫·迪恩着手搭建这套系统、这套基础设施,并决定把它命名为 DistBelief——这当然是个双关:既指系统的分布式(distributed)本质,也暗合“难以置信”(disbelief)这个词,因为……

Ben: 因为没人觉得它能成。

David: ……这个领域里的大多数人觉得这东西跑不通,谷歌内部的大多数人也觉得跑不通。

Ben: 这里稍微讲一点原因,有点技术性,跟我走一小段。那个时期的所有研究都指向一个结论:计算必须是同步的。也就是说,所有算力必须高度密集,集中在单台机器上,以极高的并行度运行——就像 GPU 干的那样——你恨不得让所有计算都发生在一个地方。这样有个好处:你在走下一步之前,可以非常方便地查到系统里其他所有部分的计算结果。

而杰夫·迪恩写的 DistBelief 恰恰相反:它分布在海量 CPU 核心上,可能撒遍整个数据中心,甚至跨不同数据中心。

理论上这非常糟糕,因为这意味着任何一台机器都得不停干等,等其他机器同步完更新后的参数才能继续。但实际上,这套系统是异步运行的:根本不去别的核心上取最新参数,你就是在用过时的数据更新参数。按常理这肯定不行。疯狂的是,它真的行。

好了,DistBelief 有了。他们拿它做什么?做研究呗。他们想试试:神经网络能不能搞出点酷东西?2011 年,就在那年快结束的时候,他们提交了一篇论文——我先把论文名报给你——《Building High-Level Features Using Large-Scale Unsupervised Learning》(用大规模无监督学习构建高层特征),但所有人都只叫它“猫论文”(cat paper)。

猫论文与 AlexNet:AI 时代从 2012 年开始

David: 猫论文。

Ben: 你随便问谷歌的人,随便问 AI 圈的人,他们都是:“哦对,猫论文。”

他们做的事是:训练一个大型九层神经网络,从未标注的 YouTube 视频帧里认出猫——用了 1000 台不同机器上的 16000 个 CPU 核心。

听众们,为了强调这件事有多奠基性:我们为这期节目做调研时采访了桑达尔·皮查伊(Sundar Pichai),他说,当年看到猫论文送到自己案头,是谷歌故事里刻在他脑海中的关键时刻之一。

David: 不久之后,他们在一次 TGIF(周五全员会)上展示了猫论文的成果。你去问谷歌的人,他们会说:那场 TGIF,天哪,一切就是从那一刻开始改变的。

Ben: 它证明了:大型神经网络真的可以在没有监督、没有标注数据的情况下学出有意义的模式。不仅如此,它还能跑在谷歌自建的分布式系统上,在自家基础设施上真正跑起来。这是整件事的巨大解锁——谷歌手握这么大的基础设施资产,能不能把研究员们提出的理论计算机科学点子接过来,用 DistBelief 在我们的系统上真正跑起来?

David: 这才是真正惊人的技术成就,但跟“猫论文”带来的商业影响相比,它几乎只能退居其次。我觉得这么说一点也不算夸张:“猫论文”促成了谷歌、Facebook 和字节跳动在接下来十年里数千亿美元的收入。

Ben: 绝对没错。数据里的模式识别器。

David: 当时 YouTube 有个大问题:用户不停地上传视频,视频量巨大,可人们特别不擅长描述自己上传的视频里到底有什么。

YouTube 那时正想变得更像一个目的地网站,想让人来看更多视频,想搭一个信息流、拉长用户停留时间,等等。问题在于,推荐系统得搞清楚该喂什么内容,而它手里只有用户给自己视频写的标题和简介。

Ben: 而且不管你是搜索视频,还是它要决定下一条推什么,都得先知道这条视频讲的是什么。

David: 没错。所以“猫论文”证明了:你可以用这项技术——一个跑在 DistBelief 上的深度神经网络——钻进 YouTube 视频库的内部,看懂这些视频讲什么,再用这些数据去决定该给人推什么视频。

Ben: 如果你能回答“是猫还是不是猫”这个问题,你就能回答一大堆别的问题。

David: 关于这件事,杰夫·迪恩有一段原话:“我们搭建了一套系统,通过模型并行(model parallelism)和数据并行(data parallelism),让我们能够训练相当大的神经网络。我们有一套无监督学习(unsupervised learning)系统,跑在随机抽取的 1000 万帧 YouTube 画面上,”——就是你刚才说的那个,Ben——“它会尝试从高层表征重建画面,以此逐步建立起无监督的表征。我们让这套系统在 2000 台计算机、16000 个 CPU 核上跑起来训练。

“过了一段时间,这个模型真的在神经网络的最高层建出了一种表征:有一个神经元会被猫的图像激活。从来没有人告诉过它什么是猫,但它在训练数据里看够了猫的正面脸部特写,于是这个神经元见到猫就点亮,见到别的基本不亮。”

Ben: 太疯狂了。这就是无标签数据、无监督学习最疯狂的地方:一个系统可以在从来没人明确告诉它“猫是什么”的情况下,自己学会猫是什么。而且真的存在一个“猫神经元”。

David: 然后还有一个 iPhone 神经元、一个旧金山巨人队神经元,以及 YouTube 会给你推荐的所有东西。

Ben: 更别提色情过滤、露骨内容过滤了。

David: 更别提版权识别,以及由此实现的与版权方分成了。这项技术通向了 YouTube 的一切——可以说,正是它把 YouTube 送上了通往今天的路:互联网上最大的单一资产、全球最大的媒体公司。

从 2012 年这件事发生,到 2022 年 11 月 30 日 ChatGPT 问世,这十年间,AI 已经在塑造我们所有人的生活,并且在驱动数千亿美元的收入。

它先是在 YouTube 的信息流里,然后 Facebook 把它借了去——他们请来杨立昆,成立 Facebook AI Research——接着进了 Instagram,再然后 TikTok 和字节跳动接了棒,后来又随着 Reels 和 Shorts 回到 Facebook 和 YouTube。这就是接下来十年里,地球上的人类打发闲暇时间的主要方式。

Ben: 这是我最喜欢的一点,David Rosenthal:人人都在谈 2022 年之后的 AI 时代。而我特别爱你这个判断——实际上,对任何能用好推荐系统和分类器的公司来说,基本也就是所有带社交信息流的公司,AI 时代 2012 年就开始了。

David: 对,AI 时代始于 2012 年。一部分原因是“猫论文”;另一部分原因,就是英伟达的黄仁勋(Jensen Huang)常说的那个 AI 的“大爆炸时刻”——AlexNet。

我们前面聊过辛顿。回到多伦多大学,在那个时期,他手下带着两个研究生——亚历克斯·克里泽夫斯基和伊利亚·苏茨克维。

Ben: 果然是他。

David: 未来的 OpenAI 联合创始人兼首席科学家。他们三个人用辛顿的深度神经网络思路和算法,打造了一个参赛作品,去参加计算机科学界著名的 ImageNet 竞赛。

Ben: 就是斯坦福的李飞飞(Fei-Fei Li)搞的那个。

David: 这是一年一度的机器视觉算法大赛。赛题的基础是:李飞飞组建了一个 1400 万张图片的数据库,全部由人工标注。著名的是,她用了亚马逊的 Mechanical Turk(我记得是)把这些图片一张张标完。

Ben: 对,我记得也是这样。

David: 比赛规则是:哪个团队能写出一个算法,不看标签、只看图像,就能正确识别出最大比例的图片。而年复一年夺冠的最好算法,识别错误率仍然超过四分之一——也就是 75% 的成功率。不错了,但比人类差远了。

Ben: 四分之一的时间都是错的,这在生产环境里基本什么也用不了。

David: 然后到了 2012 年那届比赛,AlexNet 横空出世。它的错误率是 15%。还是高,但之前的最好成绩是 25% 的错误率,它一年之内直接降了 10 个百分点。这样的飞跃,以前从未发生过。

Ben: 按相对值算,它比第二名好了 40%。那它凭什么好这么多,David?他们到底想通了什么,竟能在未来造就一家 4 万亿美元的公司?

David: 辛顿、亚历克斯和伊利亚所做的是:他们知道——我们整集都在讲这个——深度神经网络潜力无穷,而摩尔定律已经推进到可以用 CPU 搭出几层网络的程度。

他们的顿悟时刻是:如果我们重新架构这套东西,不跑在 CPU 上,而是跑在另一类完全不同的芯片上呢?那种芯片天生就高度、高度、高度可并行化——游戏显卡,出自当时这个领域的领头羊英伟达。这个想法在当时一点都不显然。尤其不显然的是,这项高度前沿、尖端的学术计算机科学研究……

Ben: ……通常都是在超算上做的。

David: ……是在拥有顶级 CPU 的超级计算机上做的,居然会用这些玩具一样的游戏显卡。

Ben: 零售价 1000 美元的那种。

David: 那会儿还没那么贵,也就几百美元。多伦多团队跑到当地的百思买之类的店里,买了两块英伟达 GeForce GTX 580——那是英伟达当时的旗舰游戏卡。他们用英伟达的编程语言 CUDA 重写了神经网络算法,就在这两块现成的 GTX 580 上训练。他们就是这样做出了自己的深度神经网络,比 ImageNet 竞赛里其他任何参赛作品好出 40%。

黄仁勋说这是人工智能的“大爆炸时刻”:第一,他是对的——这件事让所有人看到,天哪,两块现成的 GTX 580 就能做到这个地步,想象一下用更多的卡、或者用专用芯片能做什么。第二,正是这件事,把英伟达从一家有点挣扎的 PC 游戏配件厂商,送上了 AI 浪潮领导者的位置,直到今天成为全球市值最高的公司。

Ben: AI 研究往往就是这样:先有某个突破,给你来一个阶梯式的跳变;然后是一个长达数年的优化过程,突破的收益开始递减——前半程的进步一次性全部兑现,后半程则要花很多很多年才能榨出来。

但这样的时刻稀有又美妙:你有一个想法,你去做了,然后你意识到——天啊,我刚刚找到了这个领域的下一次巨大飞跃。那一刻一定爽翻了。

David: 就像——用游戏的比喻来说——我解锁了下一关,我升级了。AlexNet 之后,整个计算机科学界都沸腾了。

Ben: 从这时起,人们开始不再怀疑神经网络了。

太浩湖拍卖:4400 万美元抢下辛顿团队

David: AlexNet 之后,多伦多这三位——辛顿、克里泽夫斯基和苏茨克维——做了件顺理成章的事:创办了一家叫 DNN Research(Deep Neural Network Research)的公司。这家公司没有任何产品。这家公司只有 AI 研究员。

Ben: 还是刚赢下一个大赛的 AI 研究员。

David: 然后不出所料,你能想象到的,它几乎立刻就被谷歌收购了。

Ben: 哦?你是故意把这段简化的吗?

David: 我一直以为故事就是这样啊。

Ben: 哦,可不是“立刻”。

David: 哦,好吧。

Ben: 中间发生了整整一段疯狂的故事——第一个报价其实来自百度。

David: 哦,这我还真不知道。

Ben: 百度开价 1200 万美元。辛顿不太知道该怎么给公司估值,也不知道这个价格公不公道。于是他做了一个学者能想到的、最能测定公司市场价值的办法。他说:非常感谢,我现在要办一场拍卖。而且要用高度结构化的方式来办——每次有人出价,时钟就重置,其他人还有一个小时可以提交新的报价。

David: 不会吧。这我都不知道。太疯狂了。

Ben: 他联系了所有他认识的、如今在大公司任职的研究圈熟人——他觉得:嘿,这里会是我们做研究的好地方。名单里有百度,有谷歌,有微软,还有第四家。

David: 那当然是 Facebook。

Ben: 是一家才两岁的创业公司。

David: 哦,等等。没有 Facebook?

Ben: 没有 Facebook。想想年份:这是 2012 年,Facebook 还没真正进入 AI 游戏,他们连自己的 AI 实验室都还在筹备。

David: 因为杨立昆和 FAIR 要到 2013 年才成立。那是 Instagram 吗?

Ben: 不是。它是本集结尾最重要的角色。

David: 等等。那也不可能是特斯拉,特斯拉比它老多了。

Ben: 不是。

David: OpenAI 又要过好几年才成立。哇,好吧,你真把我难住了。

Ben: 有家公司比 OpenAI 早一点点成立,做的实际上是同一个使命——是哪家?

David: 哦,当然。灯下黑啊。DeepMind。哇。

Ben: DeepMind,宝贝。他们就是这场 DNN Research 四方拍卖里的第四个竞买方。当然,竞价刚开始没多久,DeepMind 就不得不退出——他们是家创业公司,根本拿不出收购所需的现金。

David: 我压根没想到他们,因为我的第一反应就是:他们上哪儿弄钱去?他们根本没有钱。

Ben: 但辛顿已经认识并且很敬重德米斯,尽管德米斯当时还只是在做这么一家叫 DeepMind 的小创业公司。

David: 太神了。等等,DeepMind 都进了拍卖,Facebook 居然不在?

Ben: 是不是很离谱?

David: 离谱。

Ben: 这件事的时间,正好赶上当时还叫 NIPS、现在叫 NeurIPS 的大会。辛顿其实是在太浩湖哈拉斯赌场(Harrah's)的酒店房间里主持这场拍卖的。

David: 我的天。绝了。

Ben: 出价陆续进来——这里要感谢凯德·梅茨(Cade Metz),《Genius Makers》的作者,这本书记录了整部 AI 史,这集我们会大量引用它。价格一路往上抬、往上抬、往上抬。中间微软退出过一次,又杀了回来;刚才说了,DeepMind 退出了。所以最后真正较劲的是百度和谷歌。

终于到了某个时刻,三位研究员互相看了看,说:我们到底想落脚在哪儿?我们想去谷歌。他们在 4400 万美元时叫停了拍卖,直接说:谷歌,这钱已经绰绰有余了。我们跟你们走。

David: 哇。我知道大概是 4000 万美元,但不知道这段往事。这简直像谷歌自己当年荷兰式拍卖 IPO 的过程。太应景了。

Ben: 这 DNA 太纯正了。三个人本来约定各分 33%。亚历克斯和伊利亚找到辛顿说:我们真的觉得你该多拿一点,你拿 40%,我们俩各拿 30%。最后就是这么分的。

David: 哇。什么样的团队啊。总之,这让他们三个人直接加入了 Google Brain,给那里正在发生的一切装上了涡轮。剧透一下:几年后,阿斯特罗·泰勒(Astro Teller)——塞巴斯蒂安·特龙离开后接手运营 Google X 的人——在《纽约时报》一篇 Google X 的特写里被引述说:Google Brain 给谷歌核心业务——搜索、广告和 YouTube——带来的收益,远远超过了他们这些年投在 Google X 内部乃至全公司所有其他赌注上的总和。

Ben: 这种事就是这样:如果你把一个年收入几百亿、上千亿美元的业务改好那么几个百分点,沙发缝里都能摸出不少零钱。

David: 不少零钱。但谷歌的 AI 史到这儿还没完。谷歌 AI 故事里还有非常重要的一块——一笔来自公司外部的收购,一笔相当于谷歌收购 YouTube 的 AI 版收购。那就是我们刚才聊到的:DeepMind。

DeepMind:破解智能,然后用智能破解其他一切

Ben: 好,David,DeepMind。我喜欢你那个框定:AI 界的 YouTube。

David: 对谷歌而言,AI 界的 YouTube。

Ben: 他们买下这家公司花了——收购价我们待会儿聊——但它今天值多少,5000 亿美元?论史上最伟大的收购,这笔能和 Instagram、YouTube 并列。

David: 百分之百。这笔交易发生时的情形,我记得清清楚楚,就像我记得 Instagram 那笔交易一样。

Ben: 因为那个数字在当时很大。

David: 数字是大,但我记住它是另有原因。就像 Facebook 买 Instagram 那次——哦我的天,这是科技版图的一次地壳运动。2014 年 1 月,我记得在 TechCrunch 上读到一条莫名其妙的新闻。

Ben: 你当时的反应是:Deep 什么?

David: 谷歌要花一大笔钱,收购一个我听都没听过的、在伦敦的、做人工智能的东西?

Ben: 这真的很能说明,当时 AI 离主流科技圈有多远。

David: 然后你再深挖一点:这家公司好像没有任何产品,官网上甚至几乎没说 DeepMind 到底是干什么的,只说它是一家“前沿人工智能公司”。

Ben: 等等,你是在 Wayback Machine 上查的?

David: 是的。

Ben: 哈,可以。

David: “为模拟、电商和游戏构建通用学习算法。”这可是 2014 年,这话在当时根本说不通,无法入脑。

Ben: 模拟、电商、游戏。这仨凑一块儿也太随机了……

David: 没错。但事实证明,那个描述不仅相当准确地概括了 DeepMind 在做什么;这家公司、以及谷歌对它的收购,就是那只扇动翅膀的蝴蝶——它直接通向了 OpenAI、ChatGPT、Anthropic,以及基本上一切。

Ben: 当然还有 Gemini。

David: 我们所知的今天 AI 世界里的一切。对,Gemini 直接由此而来。

Ben: 考虑到埃隆·马斯克(Elon Musk)的参与,可能还有 xAI。

David: 当然包括 xAI。

Ben: 说来也怪,它还一路通向了特斯拉的自动驾驶——卡帕西嘛。

David: 毫无疑问。那这故事到底是怎么回事?DeepMind 2010 年由一位神经科学博士创立,名叫德米斯·哈萨比斯。

Ben: 他之前还开过一家游戏公司?

David: 哦对。联创还有伦敦大学学院的博士后肖恩·莱格,以及第三位联合创始人——德米斯从小一起长大的朋友穆斯塔法·苏莱曼。这个组合,怎么说都不太像能成的样子。

Ben: 而这家公司日后会走出一位受封爵士的诺贝尔奖得主。

David: CEO 德米斯是童年国际象棋神童转型的游戏开发者。1994 年他 17 岁,拿到了剑桥大学的录取,但年纪太小。学校跟他说:嘿,先过个间隔年再来。

他决定这一年去一家游戏工作室打工,那家工作室叫 Bullfrog Productions(牛蛙工作室)。在那里,他做出了游戏《Theme Park》(主题公园)——不知道你们还记不记得——可以理解成主题公园版的《模拟城市》。这是个大作,商业上非常成功;后来的《过山车大亨》就是它的克隆,还出了很多很多续作。

Ben: 哦,那游戏我玩了无数小时。

David: 它在 90 年代中期卖了 1500 万份。哇,疯狂。之后他去了剑桥学计算机科学。剑桥毕业后,他重回游戏行业,又创办了一家叫 Elixir 的游戏工作室,最终失败了。然后他想:你知道吗?我要去读个神经科学博士。德米斯就是这样来到伦敦大学学院的。

他在那里认识了做博士后的谢恩。谢恩(在当时)自称是 AI 圈“疯子边缘派”(lunatic fringe)的一员——他相信,在 2008、09、10 年那个时点,AI 会一年比一年更强大,最终会强大到比人类更聪明。实际上,“通用人工智能”(AGI,artificial general intelligence)这个词,就是谢恩这样的人推广开的。

Ben: 哦,有意思。这个词现在人人都在谈,而当时怕它的人约等于零。有尼克·波斯特罗姆(Nick Bostrom)那类人,但真的没多少人在思考超级智能、奇点之类的东西。

顺带一提,这份名单里没有埃隆·马斯克——因为后来正是德米斯亲口把这一切告诉了埃隆。

David: 对,这个我们待会儿讲。德米斯和谢恩一见如故。他们又拉来了穆斯塔法——德米斯的发小,他本人也聪明绝顶——他上了牛津大学,然后(我记得是)19 岁就退学去折腾各种创业了。

三个人决定创办一家公司,取名 DeepMind——这个名字当然是致敬深度学习、致敬辛顿的工作、致敬多伦多大学走出来的一切。而这三个人怀揣的目标,是真正用深度学习创造出一个智能的心智——连辛顿、伊利亚和亚历克斯当时都还没在想这件事。就像我们说的,这纯粹是“疯子边缘派”的想法。

Ben: AlexNet、“猫论文”,那个世界的一切都围绕“更好地分类数据”:我们能不能把数据更好地归入各种模式?从这儿跳到“哦,我们要创造智能”,中间隔着一次巨大的飞跃。

David: 我觉得有些人——几乎可以肯定谷歌内部就有人——在想:哦,我们能创造出狭义智能,在特定任务上比人类强。

Ben: 计算器在特定任务上也比人类强啊。

David: 但我不认为当时有多少人在想:哦,这会变成比人类更聪明的通用智能。于是他们给公司定下的口号是:“破解智能,然后用智能破解其他一切。”

Ben: 哦——我喜欢这个。

David: 我也喜欢,真的。这帮人还很会做市场。但只有一个问题。要做他们想做的事……

Ben: 钱。直接说吧,就是钱。钱就是问题。

David: 对,钱是问题,原因很多。而且跟 2010 年前后任何一家普通创业公司相比,问题都更棘手——他们没法像别人那样开个 AWS 实例、写个 App、上架应用商店就完事。他们要建的是非常、非常、非常、非常、非常大的深度学习神经网络,那需要谷歌级别的算力。

Ben: 嗯,有意思的地方是:其实那会儿他们还不需要那么多资金。当时的 AI 就是去抓几块 GPU 就行,又不是在训练巨型大语言模型。那是最终的野心,但眼下他们只需要融个几百万美元。可问题是:没有商业计划书,你只说要“破解智能”,谁会给你几百万美元?你得找到一些“疯子”。

David: 这话对风投可不好卖。

Ben: 除非是那个恰好对的——

David: 如你所说,他们得找些“疯子”。

Ben: 哦,我选词可是很讲究的。

David: 我们用“疯子”这个词,是……

Ben: 大概算是爱称吧。

David: ……带着这里所能有的最大敬意——因为事实证明他们基本都是对的。于是 2010 年 6 月,德米斯和谢恩设法拿到了加州旧金山奇点峰会(Singularity Summit)的邀请。

Ben: 因为他们这事儿在伦敦根本融不到钱。

David: 绝对融不到。我记得他们试了几个月,发现这条路走不通。奇点峰会由雷·库兹韦尔(Ray Kurzweil)——未来的谷歌员工(如果我没记错)、首席未来学家、著名未来学家——以及埃利泽·尤德科夫斯基(Eliezer Yudkowsky)和彼得·蒂尔(Peter Thiel)共同组织。德米斯和谢恩为拿到这个邀请兴奋不已。他们想:这可能是我们唯一一次拿到融资的机会。

Ben: 但我们总不能一进场就火力全开地说:彼得,我们能给你路演一下吗?

David: 对。所以他们七拐八绕,给德米斯争取到了一个在峰会上台演讲的机会。

Ben: 经典的黑客式操作。

David: 这招会很妙——这就是我们说的黑客操作:这场演讲将是我们向彼得和 Founders Fund 的路演。彼得当时刚刚创办 Founders Fund,PayPal 黑帮成员,非常有钱。

Ben: 我觉得正确的说法是:他那会儿有一个巨额的罗斯个人退休账户(Roth IRA)。

David: 巨额罗斯 IRA——他用它投了 Facebook,Facebook 的第一个投资人。他就是完美目标。他们要把峰会演讲设计成一场直接讲给彼得听的路演,基本上是层薄薄伪装下的路演。

谢恩在帕米·奥尔森(Parmy Olson)那本佳作《Supremacy》里有一段话——这本书是我们这集 DeepMind 故事的重要信源。谢恩说:“我们需要一个疯到敢给一家 AGI 公司投钱的人。他得有厚实的身家,几百万美元眼皮都不眨,还喜欢超级宏大的东西。”这个人还得极度反共识,因为彼得能去请教的每一位教授,都肯定会告诉他:千万别碰,想都不要想。这个韦恩图画出来,可不就很像彼得·蒂尔嘛。

于是他们到了大会现场,德米斯要上台演讲了。他走上台,往观众席一看——彼得不在。原来彼得其实没怎么参与这个大会。

Ben: 是没来。他是个大忙人。他是联合创始人、联合组织者,但确实是个大忙人。

David: 哥们儿心想:糟了,我们错过了机会,怎么办?然后时来运转——他们打听到,彼得当晚要在旧金山的家里办一场会后派对。

他们混进了派对,德米斯直奔彼得而去。德米斯非常非常非常聪明——任何听过他讲话的人立刻就能感觉到。他想:与其正面硬刚地路演,不如迂回包抄。

他开始跟彼得聊国际象棋,因为他知道——谁都知道——彼得·蒂尔爱下棋。而德米斯十几岁时,曾是 14 岁以下组世界排名第二的棋手。

Ben: 好策略。

David: 绝妙的策略。这人是真懂棋路。彼得心想:嗯,我挺喜欢你,你看起来很聪明。你是做什么的?德米斯解释说他有一家 AGI 创业公司,他们这次也来了,他还在大会上做了演讲,大家对这事都很兴奋。彼得说:哦,行吧。明天来 Founders Fund,给我正式讲一遍。

他们去了,讲了,效果不错。Founders Fund 领投了 DeepMind 约 200 万美元的种子轮。看看今天 AI 公司的种子轮,时代真是变了啊。

Ben: 可不是嘛。

David: 想象一下:用一张不到 200 万美元的支票领投 DeepMind 的种子轮。而通过彼得和 Founders Fund,他们又被引荐给了……

Ben: “嘿,埃隆,你该见见这哥们儿。”

David: ……PayPal 黑帮的另一位成员:埃隆·马斯克。

Ben: 铺垫得相当低调:嘿,埃隆,你该见见这哥们儿,他很聪明,他在思考人工智能。埃隆说:好啊,来 SpaceX 吧,我带你们参观参观。

德米斯过来观摩了一次发射,参观了工厂。当然,德米斯觉得这很酷,但他真正想做的,是把话题掰回人工智能。

我给大家读一段《卫报》文章里的精彩引文:“马斯克告诉哈萨比斯,他的首要任务是登上火星——把它作为地球出事时的备份行星。我不觉得他那时候认真想过 AI。

“哈萨比斯指出了他计划里的一个漏洞。我说:如果 AI 就是那个‘出的事’呢?那待在火星也救不了你,因为如果我们都能到火星,AI 显然也能顺着我们的通信系统——或者别的什么东西——到那儿。

“他之前没想过这个。他坐在那儿,一分钟没说话,只是在想:嗯,可能是这么回事。不久之后,马斯克也成了 DeepMind 的投资人。”

David: 是的,是的,是的。

Ben: 我觉得很疯狂的是,把埃隆点醒的那个人是德米斯——就算到了火星,我们也未必躲得过 AI。

David: 这一点我之前还真没想过。

Ben: 所以,这是埃隆脑子里那个开关第一次被拨动:为了人类的利益,我们真得搞出一套安全、可靠的 AI——这颗种子就此种下。而这当然正是 DeepMind 的抱负:我们在这里为人类福祉做研究,像科学家那样,用同行评议的方式。

竞逐 DeepMind:扎克伯格、马斯克与拉里的知己局

David: 我觉得这些都说得对。不过,在德米斯和埃隆见面、埃隆投资 DeepMind 之后的几个月到一年里,埃隆也开始对 AI 的能力感到无比兴奋、深信不疑——尤其是近期的能力,更具体地说,是 AI 对特斯拉能派上什么用场。

Ben: 跟埃隆世界里的其他所有事情一样:一旦开关被拨动、他产生兴趣,他就会彻底改变看世界的方式,彻底抛弃过去所有的旧方式和旧动作,一切变成“为了拥抱我的新世界观,我现在最该做什么”。

David: 而这件事,别人其实已经做了一段时间了:AI 开车。这听起来对特斯拉是个相当不错的主意。

Ben: 确实。

David: 于是埃隆开始拼命招募尽可能多的 AI 研究员、机器视觉和机器学习专家加入特斯拉。然后 AlexNet 发生了。天啊,AlexNet 在识别和分类图像这件事上真的真的真的很强——YouTube 上的猫视频、YouTube 的推荐信息流都用上了。那么,这跟一辆正在行驶的汽车上的实时视频流、跟理解那里面正在发生什么,真有那么大区别吗?

Ben: 我们能不能实时处理它、逐帧比对差异?

David: 或许还能控制车?区别没那么大。埃隆的兴奋——最初是通过 DeepMind 和德米斯被点燃的——关于 AI、关于 AI 之于特斯拉,开始直线升温。

与此同时,在伦敦,DeepMind 开始干活了。他们在招研究员,在做模型,也在对投资人放一些关于产品的模糊口风:也许我们能在购物上做点东西,也许在游戏上做点什么——就像收购时官网上那段描述一样。但他们真正、真正想做的,只是构建这些模型,研究智能本身。

然后,2013 年底的一天,他们接到了马克·扎克伯格(Mark Zuckerberg)的电话。他想收购这家公司。马克已经看清了 AlexNet 之后谷歌正在发生的一切,看清了 AI 正在为 YouTube 的社媒信息流推荐做什么,以及它能为 Facebook、为 Instagram 做什么的可能性。他已经出手招来了杨立昆——辛顿的老博士后,和辛顿并称 AI 与深度学习教父的人物。

Ben: 他真正推广开的概念是卷积神经网络(convolutional neural network)——当时 AI 领域的下一个爆点。

David: 于是,有了杨立昆,他们成立了 FAIR(Facebook AI Research)——Facebook 内部的 Google Brain 对标物。还记得 Facebook 的第一个投资人是谁吗?那位至今还在董事会上的……

Ben: 彼得·蒂尔。

David: ……同时也是 DeepMind 的领投方。你说马克是从哪儿听说 DeepMind 的?彼得·蒂尔。

Ben: 是吗?你确定是从彼得那儿?

David: 不,我不确定。但马克还能从哪儿听说一家伦敦的创业公司呢?

Ben: 我倒有一个拉里·佩奇是怎么知道它的绝佳故事。

David: 哦,好,这个我们马上就讲。马克打来电话,开价收购公司。关于马克出了多少价说法不一,但按帕米·奥尔森在《Supremacy》里的说法,报道的数字最高到 8 亿美元。一家没有产品、离 AGI 还十万八千里的公司。

Ben: 这跟凯德·梅茨书里写的对得上:如果接受 Facebook 的报价,创始人赚的钱大概是接受谷歌报价的两倍。

David: 没错。于是德米斯当然把这个消息带给了投资人圈子。

Ben: 顺便说一句,这本身就违背这家公司创立时的一切。公司的整个目标、他向团队承诺的一切,都是 DeepMind 要保持独立、做研究、在科学界发表论文。我们不会被一家资本主义机构俘获,不会被它的兴致来潮指挥着做什么。

David: 没错。如果这笔交易要成,跟马克和 Facebook 之间肯定得有一番交易条款的谈判。

Ben: 但马克这时候实在太渴望了,什么大的交易条款都愿意谈,比如:杨立昆可以留在纽约,继续运营他在纽约大学的实验室。

杨立昆是教授身份,他在一些事情上好商量。结果证明,马克在一件事上没得商量:如果他买下 DeepMind,绝不让德米斯保住控制权。德米斯坚持的是:我们必须保持独立、隔离出来,我们需要一个独立的监督委员会,一旦 DeepMind 的使命不再被遵循,它有权介入。马克的回答是:不行。你会成为 Facebook 的一部分。

David: 而且你会赚很多钱的。就在这场谈判进行的同时,DeepMind 的投资人自然听到了风声。埃隆得知了正在发生的事,立刻打电话给德米斯说:我现在就用特斯拉股票把公司买下来。

那是 2013 年底、2014 年初,特斯拉市值大约 200 亿美元。从那时到今天,特斯拉股票涨了约 70 倍。德米斯、肖恩和穆斯塔法心想:哇,好吧,现在事情好多啊。但如你所说,他们在埃隆和特斯拉这里遇到的问题,和在马克那里遇到的一样:埃隆想让他们进来做特斯拉的自动驾驶,而他们不想做自动驾驶。

Ben: 至少不想只做自动驾驶。

David: 至少不想只做,对。然后,德米斯接到了第三个电话——来自拉里·佩奇。

Ben: 你想不想听我那个“拉里是怎么知道这家公司”的故事?

David: 我太想听了。

Ben: 好。这还是 DeepMind 早期的事,还没推进到收购那个节点。话说埃隆·马斯克当时正和卢克·诺塞克(Luke Nosek)同坐一架私人飞机——卢克是 PayPal 黑帮的又一位成员,也是 DeepMind 的天使投资人。

他们在读德米斯发来的一封邮件,里面更新了他们取得的一个突破:DeepMind 的 AI 想出了一个在雅达利游戏《Breakout》(打砖块)里获胜的聪明办法。它在没有任何人类训练的情况下自己琢磨出的策略是:把球沿着砖块的边缘弹上去,然后球会贴着顶部来回弹跳,不需要任何干预就能更快通关——不用你在底部的挡板那儿做一大堆操作。

他们正看着视频,感叹它有多聪明——而同在这架私人飞机上的,还有拉里·佩奇。

David: 当然,因为埃隆和拉里曾经是很好的朋友。

Ben: 对。拉里的反应是:什么?等等,你们在看什么?这是哪家公司?他就是这样知道 DeepMind 的。

David: 哇。这一切发生之后,埃隆一定气坏了。

Ben: 而最疯狂的是,拉里和德米斯之间这种气味相投,(我觉得)正是这笔交易最终在谷歌达成的原因。

David: 这两人一碰到一起,简直像一个豆荚里的两颗豌豆。拉里一直把谷歌视为一家 AI 公司;而德米斯,当然,把 DeepMind 视为一家纯粹的 AI 公司,纯粹到在抵达 AGI 之前根本不想做任何产品。

Ben: 而且德米斯——我们应该跟听众分享一下——在我们为这集做功课采访他时亲口告诉我们:他就是觉得拉里懂。拉里完全认同 DeepMind 所做一切的使命。

David: 谷歌还有个特别方便的地方:他们已经有 Brain 了。拉里不需要德米斯、沙恩、穆斯塔法带着 DeepMind 进谷歌来做产品——Brain 已经在谷歌内部做产品了。所以当拉里说“不用,你们就留在伦敦,继续搞智能,该干嘛干嘛,我不需要你们来谷歌做产品”的时候,德米斯是真的可以信他的。

Ben: Brain 正主动找上各个产品团队,琢磨着“嘿,我们怎么把神经网络部署进你们的产品,让它变得更好?”——这本来就是他们存在的意义,所以他们很乐意配合这个安排。

David: 而且真的奏效了。Brain 和神经网络正在被整合进搜索、广告、Gmail,整合进一切。对 DeepMind 来说,这是最完美的归宿——可以说是“家外之家”。

谷歌适合 DeepMind 还有第三个原因:基础设施。你要多少算力基础设施,谷歌拧开水龙头就有。

Ben: 至少到目前为止还都是 CPU。那这笔交易到底怎么谈成的?收购 DNN Research 之后,艾伦·尤斯塔斯(Alan Eustace)——David 你采访过的那位——当时是谷歌的工程主管。他下定决心,要把能挖到的最顶尖的深度学习研究人才全部招进来,而且他有明确的路径。几个月前,拉里·佩奇在南太平洋的一座岛上开了场战略会。在凯德·梅茨的书里,这座岛“不便透露”。

David: 他当然会这么干。

Ben: 拉里认定深度学习会彻底改变整个行业,于是他跟团队说:“咱们要玩就玩把大的。”这实际上等于给了艾伦一张空白支票,让他把能找到的最强研究员全部拿下。于是 2013 年,艾伦决定:我要在 12 月假期前登上飞机,去见 DeepMind。

这里有个疯狂的故事。杰弗里·辛顿当时在谷歌,他的背有毛病,不能坐,要么站着要么躺着,跨洋长途飞行根本不可能。但尽职调查他必须到场——你手里有杰弗里·辛顿,要买一家深度学习公司,就得用他来验货。

艾伦·尤斯塔斯决定包一架私人飞机,还要打造一套疯狂的定制固定装置,好让杰弗里·辛顿起降时躺在地板上不会滑来滑去。

David: 哇。我听到前一半还在想:谷歌肯定有飞机啊,直接坐谷歌的飞机不就行了。

Ben: 不管什么原因,这趟是单独包的飞机。

David: 但光有私人飞机还解决不了问题,你还得有固定带。

Ben: 而艾伦就是那个创下世界最高跳伞纪录的人——是气球跳下来的来着?我其实不记得了。反正他完成了人类有史以来最高的自由落体跳伞,比几年前红牛那次的噱头还高。他早就习惯了为飞机设计这种定制装置,态度就是:哦,小事,一张床加几根带子的事儿。我可是穿着跟潜水服似的东西从大气层边缘跳下来的,这算什么。

David: 太神了。

Ben: 于是他们飞到伦敦,做完尽调,敲定交易。德米斯和拉里是真正的知己,事情就这么定了:5.5 亿美元。交易还设了一个独立监督委员会,确保 DeepMind 的使命和目标真正得到遵守。这是谷歌今天手里的一项资产——再说一次,我认为它要是独立出来,值五千亿美元。

David: 你知不知道,收购之后还有哪位 PayPal 黑帮成员被安排进了伦理委员会?

Ben: 里德·霍夫曼(Reid Hoffman)?

David: 里德·霍夫曼。

Ben: 肯定是他,毕竟后面还有 OpenAI 那条线。

David: 里德这个人,我们很快就会讲回来。

Ben: 收购之后,一切进展飞快、顺风顺水。著名的数据中心制冷故事就发生在这时候:DeepMind 分出一小队人,作为“特使”进驻谷歌,寻找能用上 DeepMind 技术的场景,其中之一就是数据中心制冷。

进展非常快。2016 年 7 月,谷歌宣布数据中心制冷所需能耗降低了 40%。谷歌有那么多数据中心,制冷能耗砍 40%。我其实跟吉姆·高(Jim Gao)聊过——他是本节目的朋友,领导了这个项目的一大块工作。这简直就是神经网络在谷歌内部最显而易见的应用,立竿见影,自己就能回本。

David: 可以想象,这一个项目没多久就把收购的钱挣回来了。

AlphaGo 的荣光与瑰丽酒店晚餐

Ben: David,我们这集要不要讲讲 AlphaGo?

David: 讲讲讲。

Ben: 我把谷歌出品的那部纪录片从头到尾看完了,特别棒。这东西你就算不是为了给节目做调研,只是想随便找部片子看一两个小时,也会看得很享受。我强烈推荐,YouTube 上就有。

它讲的是 DeepMind 被谷歌收购之后,如何训练出一个模型,在围棋上击败世界冠军。赛前整个围棋界都觉得毫无可能——李世石(Lee Sedol)太强了,AI 绝不可能赢他。

五番棋,它上来就连赢三局,干净利落,而且下出了人类从未下过的、富有创造力的新招。这才是最疯狂的看点。

David: 其中一局里有个时刻,它落了一子,大家都在嘀咕“这是失误吗?”[……] 第 37 手,然后一百多手之后,这步棋的妙处显现出来了。

Ben: 完全是天才之举。现在人类反过来在学习 DeepMind 的围棋思路,从中发现新策略。

给 Acquired 听众里纳闷“为什么是围棋”的朋友讲个有意思的点。围棋太复杂了。拿国际象棋比:开局阶段每个回合有 20 种走法,中局每回合大概有 30 到 40 种。

而围棋,每个回合大约有 200 种。从组合的角度算,棋盘所有可能的局面数,比宇宙中的原子总数还多。

顺便说,德米斯有句话讲得特别好。他说:“就算你把全世界的计算机都凑起来,从 2017 年开始跑上一百万年,算力也不足以算出所有可能的变化。”

围棋妙就妙在,这是一个无法暴力穷举的问题。你必须用神经网络这类方法,而且里面有巨大的留白可以去创造、去探索。它成了一个绝妙的试验场,让你看着一个神经网络在人类面前展现创造力。

David: 这当然也跟德米斯的出身、跟这家公司“玩游戏”的 DNA 完全契合——德米斯当年可是国际象棋冠军。对了,围棋之后他们去打《星际争霸》了,对吧?

Ben: 哦真的?这我还真不知道。

David: 那是他们攻克的下一个游戏。《星际争霸》,跟对手实时对抗的即时战略游戏。等下讲到另一个对手——OpenAI——的时候,这事还会绕回来。

Ben: 没错,David。不过在讲另一个对手的诞生之前,我们要不要先感谢一下 Acquired 的另一位朋友?

David: 应该的。

Ben: 好了,David。谷歌收购 DeepMind 的二阶效应是什么?

David: 有一个人对此非常、非常、非常不爽——如果把马克·扎克伯格算上也许是两个,不过扎克伯格向来把牌捂得紧。当然,埃隆·马斯克对这笔收购极为恼火。

谷歌从他眼皮底下截胡买走 DeepMind,埃隆直接炸了。我们说过,埃隆和拉里关系一直很铁。可现在谷歌在这儿——埃隆本来就已经开始对谷歌有点意见了,因为他正想招 AI 研究员,而艾伦·尤斯塔斯满世界飞,把 AI 研究员一股脑儿吸进谷歌。埃隆投了 DeepMind,想把 DeepMind 收进自己在特斯拉的 AI 团队,结果被人截胡。

这就引出了硅谷历史上最宿命的一顿晚餐:2015 年夏天,在沙丘路的瑰丽酒店——当然,在硅谷攒饭局除了瑰丽还能去哪儿——由当时硅谷两位最有权势的人物攒局:埃隆·马斯克和萨姆·阿尔特曼。萨姆当时自然是 Y Combinator 的总裁。这顿饭的目的是什么?他们去游说那些被谷歌——某种程度上还有 Facebook——吸走、实质上形成双寡头格局的 AI 研究员们。

Ben: 再说一次,谷歌的商业模式和 Facebook 的商业模式——这些信息流推荐器、这些分类器——结果被证明价值高得离谱,所以他们能——现在事后说起来是挺好笑——给这些人开出天价薪水。

David: 天价,几百万美元。

Ben: 把他们从学术界挖出来,塞进公司内部那些“肮脏的资本主义研究实验室”。

David: 卖广告的,能脏到哪儿去?总之,埃隆和萨姆在晚宴上抛给这些研究员的问题是:开个什么条件,才能让你们离开谷歌?围着桌子问一圈,几乎每个人的答案都是:没条件,办不到。我们为什么要走?我们挣的钱远超想象,很多人还能保留学术职位和隶属关系,还能留在谷歌这儿——

Ben: 跟彼此待在一起?

David: ——跟彼此待在一起。

Ben: 铁磨铁,越磨越利。这是全世界最顶尖的一批头脑,做着最前沿的研究,手里还握着海量的资源和硬件。太爽了。

David: 全世界最好的基础设施,杰夫·迪恩也在这儿。你们没有任何说辞能让我们离开谷歌。除了——有一个人心动了。引用凯德·梅茨当时在《连线》上的一篇精彩文章——他后来写了《天才制造者》,对吧?

Ben: 没错。

David: 引文是这样的:“麻烦在于,最有资格解决这些问题的人,大多已经在为谷歌工作。晚宴上没人确信,这些头脑能被一家新创公司挖走,哪怕背后是马斯克和阿尔特曼。但有一位关键人物,至少对跳槽的想法持开放态度。”接着是这位关键人物的原话:“我觉得这里面有风险,但我也觉得,试一试会是一件非常有意思的事。”

Ben: 这是史上最“伊利亚”的一句话。

David: 史上最伊利亚的一句话——因为这个人(当然)就是伊利亚·苏茨克维,AlexNet、DNN Research、谷歌的那个伊利亚,而且他即将成为 OpenAI 的创始首席科学家。埃隆和萨姆向这些研究员推销的蓝图是:咱们成立一家新的非营利 AI 研究实验室,所有工作都在公开环境下做。你们可以发表论文。

Ben: 不受 Facebook 和谷歌的势力摆布,独立于他们的控制。

David: 你们不用做产品,只做研究。成果可以公开发表。它是开放的,是为了全人类的利益。所有这些不可思议的进步、这些我们相信终将到来的智能,将造福每一个人,而不只是造福谷歌和 Facebook。

Ben: 而对其中一位研究员来说,这听起来好得不像真的。他们之前没动,是因为觉得别人也不会动——这是个活化能(activation energy)问题。顺便说,谷歌回头开出了大手笔的反报价,差不多是对方的两倍,我记得是杰夫·迪恩亲自去谈的。伊利亚说:不,我就是要去。这对带动其他顶尖研究员跟他一起走,起了巨大的作用。

David: 离开谷歌去干这件事的,远不是全部顶尖研究员,但已经够了。大约有七位研究员离开谷歌,加入埃隆、萨姆,以及从 Stripe 过来的格雷格·布罗克曼(Greg Brockman),一起创办 OpenAI。因为当初那个承诺就是:这一切我们都要放在阳光下做。

Ben: 而它当时确实就是这样。

David: 它当时确实就是这样。OpenAI 宣称的使命是:“以最有可能造福全人类整体的方式推动数字智能,不受产生财务回报之需的约束。”

Ben: 这话没毛病——只要你实现使命所需的东西不用烧掉几百亿美元。他们最初是这么募资的:承诺出资 10 亿美元。出资方包括著名的埃隆·马斯克、萨姆·阿尔特曼、里德·霍夫曼、杰西卡·利文斯顿(Jessica Livingston)——我觉得大多数人都没意识到她也在最初那批人里——以及彼得·蒂尔。当然,Founders Fund 后来也向 OpenAI 本身投了巨额资金。

有意思的是,后来有报道说,那 10 亿美元并没有真正全部到位。实际到账的只有大约 1.3 亿美元,就用来养这家非营利机构。头几年,对他们当时做的研究类型、需要的算力规模来说,这笔钱绰绰有余。

David: 那笔钱大部分都拿去给研究员发工资了。虽然比不上他们在谷歌和 Facebook 能挣的,但这些人一年也有一两百万美元。

Ben: 这套模式一直玩得转——直到它玩不转为止。David,他们早期都在干什么?

David: 头一段日子,全员扑在招聘上,到处挖研究员。先是最初过来的那批人。然后很快,2016 年初,他们拿下一个超级大单:达里奥·阿莫迪(Dario Amodei)离开谷歌,加入 OpenAI,跟伊利亚他们会合。梦之队开始集结。

Ben: 他之前在 Google Brain?

David: 在 Google Brain。接下来几年,他和伊利亚一起执掌 OpenAI 的大半壁江山——然后(当然)离开去创办了 Anthropic。

不过,我们离 Anthropic、Claude、ChatGPT、Gemini,离今天这一切,至少还有一两年。基本上,OpenAI 当时的计划是:盯着 DeepMind 在做什么,然后向研究界证明,我们作为一家新实验室,也能做出同样惊人的东西,甚至做得更好。

Ben: 所以它看起来才那么像在做游戏、以游戏为中心?

David: 对。他们开始训练会玩游戏的模型。最著名的那个大项目是 Dota 2(Defense of the Ancients 2),那款大型多人在线对战游戏。他们的想法是:好啊,DeepMind,你玩《星际争霸》,那我们去玩 Dota 2——那个更复杂、更实时。

Ben: 而且跟围棋的涌现特性类似,模型会自己琢磨出人类从没试过的独特策略。这显然不是人类把喜欢的策略和规则写死进去的,而是涌现(emergence)出来的。他们还做了别的东西。

他们有个产品叫 Universe,目标是训练计算机玩几千种游戏,从雅达利游戏到《侠盗猎车手》这种开放世界游戏。他们还在教模型还原魔方。那是一堆五花八门的项目,看不出会收敛出“其中某个要成大事”的迹象。

David: 那就是研究性质的东西,就是 DeepMind 在干的那类事。

Ben: 是大学式的研究。

David: 跟 DeepMind 一个路子。回头想想埃隆是 DeepMind 的投资人、对谷歌从他眼皮底下截胡极为恼火——这一切就说得通了。

Ben: 而且我认为,埃隆在 OpenAI 创立之初押上自己的名字和时间,值得记一大功。很多重磅人物的招募,都是埃隆压上自己的分量——“我愿意赌这一把”。

David: 完全同意。

GPU 觉醒与 TPU:谷歌自己的芯片

Ben: 好,OpenAI 那边就是这么个情况:做一堆 DeepMind 式的东西,项目一大堆,没有一个明显要收敛出来的大事。可以这么说:还没到 ChatGPT 时刻。

我们把镜头拉回谷歌。上次说到他们:嗯,他们买了 DeepMind,但人才被挖走一轮。我不希望你们因此对谷歌的处境产生错误印象——别以为走了几个人去 OpenAI,谷歌就不行了。

话说回 2013 年,亚历克斯·克里泽夫斯基跟着杰弗里·辛顿和伊利亚·苏茨克维来到谷歌,他震惊地发现:谷歌现有的机器学习模型居然全跑在 CPU 上。以前有人申请过 GPU——机器学习负载天然适合并行计算——但谷歌的基础设施团队顶了回去:扩充和多样化机群会增加复杂性,咱们还是保持简单吧,这对我们好像不重要。

David: 我们这儿是 CPU 门派。

Ben: 引用《天才制造者》:“入职头几天,他就跑出去买了台 GPU 机器”——这是亚历克斯——“从附近的电子产品商店买的,塞进他办公桌走廊那头的储物间,接上网络,开始在这台孤零零的硬件上训练神经网络。跟他在学术界干的事一模一样,只不过这次电费是谷歌出的。”

显然,一块 GPU 远远不够,尤其当越来越多谷歌员工也想用的时候。杰夫·迪恩和艾伦·尤斯塔斯也得出了结论:DistBelief 虽然很牛,但必须重新架构,跑在 GPU 而不是 CPU 上。

时间来到 2014 年春。杰夫·迪恩和约翰·贾南德雷亚(John Giannandrea)——这集我们还没聊到他……

David: 对,JG。

Ben: ……对,你可能会纳闷:等等,那不是苹果的人吗?没错,他后来去当了苹果的 AI 主管,但此时他在谷歌,2014 年正主管 Google Brain。他们坐下来制定计划:如何正式把 GPU 铺进谷歌数据中心的机群。这是件大事,是个大改动。但他们从各方对神经网络的反应里看到了足够多的信号,知道必须这么干。

David: AlexNet 之后,这只是时间问题。

Ben: 对。于是他们定下计划:向 英伟达 订购 4 万块 GPU。

David: 当然。不然你还能找谁买?

Ben: 总价 1.3 亿美元。这个数字大到必须上报拉里·佩奇,由他亲自批准——尽管财务部门想毙掉它——因为他说:听着,谷歌的未来就是深度学习。顺便看一眼当时的 英伟达:这是一笔巨型订单。英伟达 那时的总营收是 40 亿美元,这一单就是 1.3 亿。

David: 英伟达 当时主要还是一家消费级显卡公司。

Ben: 对,市值 100 亿美元。这几乎等于谷歌给 英伟达 递了个天机:嘿,神经网络不光在 ImageNet 竞赛这种研究场合管用,它对我们这门生意的价值,大到让我们二话不说、现在就砸一亿多美元。

哪天我们得问问黄仁勋这事。这一定是个信号,一定给了 英伟达 巨大的信心:哦,我们应该超前大举押注,赌这东西未来是个巨无霸。

于是全谷歌都醒了过来,开始认真把神经网络往产品里装。Google Photos 上线了,Gmail 开始提供打字建议。David,就像你之前指出的,谷歌庞大的 AdWords 业务也开始用深度学习找到更多赚钱的路子。

尤其是集成之后,他们可以预测用户未来会点击哪些广告。于是谷歌在那 1.3 亿美元之外又砸了好几亿买 GPU,但这些钱很快就从广告系统里赚了回来。尽可能多地囤 GPU,越来越成为一笔不用过脑子的买卖。

可一旦神经网络开始奏效,任何用它的人——尤其是谷歌这种规模——都会撞上同一个问题:现在只要有人用一次,我们就得做海量的矩阵乘法(matrix multiplication)。矩阵乘法实际上就是信号在神经网络各层之间传播的运算方式。于是问题就来了。

David: 完全正确。一方面是效率问题,另一方面还有个生意问题:等一下——照这么看,在可预见的未来,我们每年都得乖乖给 英伟达 送上几亿美元、很快就是几十亿美元?

Ben: 有个很精彩的时刻,就发生在谷歌推出语音识别之后——那是他们神经网络最新的用例——而且只上了 Nexus 手机。因为他们当时还没有支撑所有 Android 手机的基础设施。这个功能一下子爆火。

杰夫·迪恩算了笔账:如果用户每人每天用——随便说个数——三分钟,而我们要铺到全部 10 亿部 Android 手机上,光为这一个功能,我们就需要把谷歌现有数据中心的总量翻一倍。

David: 就为这一个功能。

Ben: 有段很经典的对话:杰夫跑去跟乌尔斯·霍尔茨勒说:我们需要再造一个谷歌。或者,David,就像你刚才暗示的,另一个选项是:造一种只为我们的特定用例定制的新芯片。

David: 矩阵乘法。张量乘法。你不如说,一个张量处理单元。

Ben: 那敢情好。说来也巧,谷歌工程师乔纳森·罗斯(Jonathan Ross)当时正用他的 20% 时间捣鼓一个涉及 FPGA 的项目。FPGA 本质上是昂贵但可编程的芯片,效果好得出奇。他们决定成立正式项目,把这项工作和其他一些已有工作合并,打造一款定制 ASIC(专用集成电路)。

于是,就像 David 你说的,张量处理单元登场了——TPU,专为神经网络打造,效率远超当时的 GPU,代价是它基本干不了别的:不适合图形处理,不适合很多其他 GPU 负载,只做矩阵乘法,只跑神经网络。但它能让谷歌在不用把数据中心整体翻倍的情况下实现扩容。

TPU 背后的核心洞见——如果你想知道最关键的那一点——是降低计算精度。比如把 4586.8272 这样的数四舍五入成 4586.8,甚至干脆变成 4586,小数点后全不要。乍听反直觉:这么复杂的数学,为什么要用更粗糙的数?答案是效率。

如果你能在软件架构里做足功课,用所谓的量化(quantization)来消化精度损失,就可以用不那么精确的数来存储信息,然后用同样的功耗、同样的内存、同样多的晶体管,每秒做多得多的计算。你要么更快吐出答案,要么跑更大的模型。TPU 这一整套设计相当聪明。

TPU 的另一条要求是:必须现在就做出来。因为很明显,语音转文字会成气候;很明显,谷歌内部这些其他用例也都会成气候。

David: Google Brain 产出的这些东西,需求瞬间爆炸。

Ben: 而且这还没到大语言模型时代呢。就是些大家都开始习以为常的东西——照片里的计算机视觉、语音识别——正在变成用户理所当然的期待。如果谷歌没有自己的芯片,这些需求会把谷歌的经济模型整个掀翻。

TPU 从设计、验证、制造到部署进数据中心,只用了 15 个月。它不是那种可以慢慢磨好几年的研究项目,而是火烧眉毛的问题,立刻立项。他们有个很聪明的做法:拿 FPGA 当过桥方案。虽然按单价算太贵,但可以先铺一支测试机群,确保所有数学都对,然后才真正把 ASIC 送去流片——我不知道是不是台积电——制造、就绪。

他们做的另一件事,是把 TPU 做成硬盘的规格尺寸,可以直接插进现有的服务器机架。你拔出一块硬盘,插进一块 TPU,不需要任何物理层面的重新架构。

David: 哇,太绝了。这是继软木板服务器之后最“谷歌”的基础设施故事。

Ben: 没错。对了,这一切都不是在山景城发生的,而是在威斯康星州麦迪逊的谷歌卫星办公室。

David: 哇,为什么是麦迪逊?

Ben: 因为当地大学有一位特别的教授,还有大把可以招的学生。在那儿,雇主反正不是谷歌就是 Epic,你说你去哪儿工作?

David: 哈,也是。哇。

Ben: 然后他们把这事儿完全捂住了。

David: 对,你为什么要告诉别人?

Ben: 反正这东西一开始也没打算放到 Google Cloud 上卖,你为什么要让全世界知道你在干什么?整个项目保密了至少一年,才在 Google I/O 上发布。真的很疯狂。

关于 TPU 还有件事要知道:它们赶上了 AlphaGo 那场人机大战。那场比赛跑在 Google Cloud 里一台插了 4 块 TPU 的机器上。这一步走通之后,显然又给了谷歌额外的信心,把它推向真正的、正式的大规模生产。

这就是 TPU。公允地说,V1 算不上好。现在已经迭代到 V7、V8 了,强了太多。TPU 和 GPU 这些年互相借鉴特性,长得越来越像。但今天,谷歌据估计拥有 200 万到 300 万块 TPU。作为参照,英伟达 去年——确切数字没人知道——大概出货 400 万块 GPU。

人们谈论 AI 芯片,好像那是 英伟达 一家的独角戏。可谷歌内部已经有一个接近 英伟达 体量的自研芯片体系,既供自己用,也供 Google Cloud 客户用。TPU 在 AI 里的分量之大,我觉得很多人根本没意识到。

David: 对 OpenAI 和埃隆·马斯克来说,最讽刺、也最让他们抓狂的事情之一就是:OpenAI 2015 年成立,想的是“嘿,咱们把人才从谷歌摇出来,把竞技场拉平”——结果谷歌反而加速了。

Ben: 谷歌还搞出了 TensorFlow。那是 Google Brain 打造的框架,让研究员能构建、训练、部署机器学习模型。他们把它设计成不只能跑在 TPU 上——可移植性极强,不用改写就能跑在 GPU 甚至 CPU 上。它取代了旧的 DistBelief 系统,成为谷歌对内对外支持机器学习研究员的统一框架。

David: 有点矛盾的是,在 OpenAI 成立后的那几年里,是有一批惊人的人才从谷歌和 Google Brain 被虹吸走,但同一时期,Google Brain 也全面开足了马力。

Ben: 一个接一个地为谷歌兑现商业价值。

Transformer 八子:一篇静悄悄的论文

David: 还在无数领域把技术前沿往前推。然后到了 2017 年,Google Brain 团队的八位研究员发表了一篇论文。

Ben: 静悄悄地。

David: 这八个人显然对这篇论文、对它描述的东西和它的意义非常兴奋,觉得它会轰动。谷歌自己呢:哦不错,这是我们语言模型工作的下一轮迭代,挺好。

Ben: 这对我们很重要。但它确定是“下一个谷歌”吗?不确定。

David: 不确定。我们手头还有一大堆别的事,看起来更可能是“下一个谷歌”。但这篇论文的发表,恰恰给了 OpenAI 机会……

Ben: 去造出下一个谷歌。

David: ……抢过球一路狂奔,造出下一个谷歌。因为这就是那篇 Transformer 论文。

Ben: 好。Transformer 是从哪儿来的?当时谷歌语言模型的最新进展是什么?

David: 这得从弗朗茨·奥赫在 Google 翻译上的成果以及后来的改进说起。

Ben: 那是 2000 年代末吧?2007 年?

David: 对,2000 年代中后期。他们不断迭代 Google 翻译。然后杰弗里·辛顿加入、AlexNet 发生之后,他们把翻译切换成了基于神经网络的语言模型。

Ben: 效果好得夸张,而且在文化上也是个大事件:又是那批研究员空降进来——还是杰夫·迪恩带队——说:我很确定,神经网络能比我们过去十年用的经典方法强得多。要不我们花几个月做个概念验证?

结果他们把整个旧代码库全扔了,彻底整体切换到神经网络。2016 年《纽约时报杂志》有篇关于这事的精彩长文。我记得我当时读完,全程下巴掉在地上:哇,神经网络真是个了不得的大玩意儿。而那还是 Transformer 论文发表的前一年。

David: 对,在 Transformer 论文之前。他们重写了 Google 翻译,改成基于循环神经网络(recurrent neural network)——那是当时的最高水平——进步巨大。

但随着 Google Brain 和 Google 翻译团队继续推进,一些局限暴露了。最大的问题之一是它们“忘事”忘得太快。我不知道这个类比准不准确,但用今天 Transformer 时代的话说,你可以说它们的上下文窗口(context window)太短。

Ben: 这些语言模型处理文本时,需要记住读过的所有内容,这样后面要改一个词、或生成下一个词时,才能调动对整段文本的完整记忆。

David: 谷歌尝试改进的方法之一,是使用长短期记忆网络——大家通用的缩写是 LSTM。LSTM 干的事,基本就是为模型创造一种持久的——或者说“长短期”的——记忆(这名字你得稍微绕一下),让它在走很多步的过程中保持上下文。

Ben: 人们一开始对 LSTM 相当兴奋。

David: 大家觉得:哦,LSTM 会把语言模型、大语言模型带向主流。2016 年,他们确实把 LSTM 塞进了 Google 翻译,错误率降了 60%,巨大飞跃。

但 LSTM 的问题是:有效归有效,计算量太大,而且并行化效果很差。从 AlexNet 到 TPU 项目,所有这些努力都在讲并行化——这是未来,这是让 AI 真正奏效的路——而 LSTM 在这儿成了路障。

于是 Google Brain 内部一个团队开始寻找更好的架构:既保留 LSTM 那些诱人的特性——不会太快忘掉上下文——又能更好地并行、更好地扩展。

Ben: 好把这些新硬件架构的红利全吃干榨净。

David: 一位名叫雅各布·乌斯科雷特(Jakob Uszkoreit)的研究员一直在琢磨一个想法:把语言处理中“注意力”(attention)的范围放宽。如果不只盯着跟前几个词,而是告诉模型:嘿,注意整篇文本,而不只是接下来几个词——通读全文,基于整个上下文、把注意力分给整个上下文,再预测下一个翻译出来的词该是什么,会怎么样?

顺便说,这其实正是职业人工译者的工作方式,你不会一个词一个词地翻。我在大学还真上过一门翻译课,特别好玩:你先把原文整篇读完,理解原作的来龙去脉,然后回过头来,心里装着整段文字的全部上下文,再开始翻译。

模型这么做需要巨大的算力,但它的可并行性极强。雅各布开始跟 Brain 团队里几个人合作,大家都很兴奋。他们决定给这项新技术起名叫 Transformer:第一,它字面上干的就是这个事——吃进一整块信息,处理、理解,然后转换它;第二,他们小时候都爱《变形金刚》。要说这不是起名的原因之一,那是骗人的。

Ben: 它是把巨量语料吃进来,然后以压缩格式存起来,对吧?

David: 对。

Ben: 我提这个是因为,这正是 2000 到 2001 年——17 年前——诺姆·沙泽尔在谷歌微型厨房里跟人推销的那套想法,而他就是这篇论文的共同作者之一。

David: 说到诺姆·沙泽尔,他听说了这个项目,心想:嘿,这方面我有点经验,听起来挺有意思。LSTM 确实有问题,这个方向可能有戏。我要加入他们一起干。

他加入得正是时候:诺姆来之前,团队已经有一个能跑的 Transformer 实现,但效果并不比 LSTM 好。诺姆加入后,基本上来了一手“杰夫·迪恩式操作”,从零重写整个代码库。写完一跑,Transformer 把基于 LSTM 的 Google 翻译方案按在地上摩擦。而且他们发现,模型做得越大,效果越好——它的规模化表现好得离谱。

史蒂文·利维在《连线》写过一篇这段历史的报道,通篇散落着团队其他成员的各种引语,比如“诺姆是个魔法师”“诺姆是个巫师”“诺姆拿着那个想法离开,回来说:现在能跑了”。

Ben: 现在你该明白,为什么如今一起搞下一代 Gemini 的,偏偏是诺姆和杰夫·迪恩了。

David: 诺姆和杰夫·迪恩绝对是一个豆荚里的两颗豌豆。

Ben: 我们跟格雷格·科拉多聊过——他是 Google Brain 的创始人之一——那次对话特别有意思,因为他强调了 Transformer 有多优雅。他说,它优雅到人们的第一反应往往是:这不可能行得通,太简单了。Transformer 简直算不上一个神经网络架构。

David: 跟 AlexNet、杰弗里·辛顿那一脉的神经网络相比,这又是一次大转向。

Ben: 这件事其实改变了我看世界的方式。格雷格指出,在自然界,事物通常以最节能的方式运转。几乎可以说,从进化的角度,最简单、最优雅的方案才能存活下来,因为它们利用资源的效率最高。

你可以把这个想法平移到计算机科学。他说他在研究实验室里练出了一种模式识别能力:当你的方案真正简单、真正高效,而不是很复杂的时候,你多半找对了路。

这很聪明,我觉得也很对。你知道那种感觉:你坐下来啃一个棘手的问题,争论、画白板,想出各种方案,然后突然一拍脑袋:天哪,原来这么简单。而那往往就是正确答案。

David: Transformer 有一种优雅。

Ben: 还有你刚才点到的另一点:这是现代 AI 的开端——只管喂更多数据。里奇·萨顿(Rich Sutton)那篇著名的《苦涩的教训》(The Bitter Lesson)要到 2019 年才发表。给没读过的人概括一下:我们搞 AI 研究的总觉得自己很聪明,工作就是发明下一个伟大的算法;但实际上,从语言到计算机视觉到国际象棋,每个领域的结果都一样——你只要找到一个可扩展的架构,然后就是数据多者胜。就是那种可以无限扩展的……

David: 更多数据,更多算力,更好结果。

Ben: 对。而这一刻才真正是那个时代的开端:哦,我们找到了那个可扩展的架构。然后一路走到今天——我不知道——接近十年,就是数据越喂越多,能源和算力越堆越多,结果越来越好。

David: 于是团队和诺姆都觉得:哟,这东西潜力巨大。

Ben: 这可不只是个更好的 Google 翻译,我们能拿它干真正的大事。

David: 它会远远超出一个更好的 Google 翻译。但谷歌其他人,醒悟得明显慢得多。

Ben: 他们确实做了些东西。一年之内就搞出了大语言模型 BERT。

David: 完全正确。外界流传一种说法,说论文发表后谷歌对 Transformer 什么都没做——那是假叙事。他们其实做了很多。

Ben: 事实上,BERT 就是最早的大语言模型之一。

David: 他们用基于 Transformer 的大语言模型做了很多事。论文发表之后,他们没做的只有一件事:没把它当成一次整体性的技术平台变革来对待。

Ben: 他们做的是 BERT 和 MUM 这类模型,把它们揉进搜索结果质量里。我认为这确实实质性地推动了指标,尽管谷歌没有四处吹嘘。他们的查询理解能力变强了。他们在把它揉进核心业务——就像 Google Brain 以往每次搞出好东西一样。

David: 这也许是人类历史上最有价值的决定之一,但对谷歌这家公司来说,也许是史上最糟糕的商业决策之一:谷歌允许这八位研究员把论文公开发表,标题就叫《Attention Is All You Need》——显然是在致敬披头士那首关于爱的经典歌曲。

到 2025 年的今天,这篇论文已被其他学术论文引用超过 17.3 万次,目前是 21 世纪被引次数第 7 高的论文。而且我想,榜单上排在它前面的论文,发表时间都比它早得多。

当然,几年之内,Transformer 论文的八位作者全部离开了谷歌,或创办或加入 AI 创业公司——包括 OpenAI。

Ben: 太狠了。当然,诺姆创办了 Character.AI,后来——我们管那个叫什么来着?“变相人才收购”(hackquisition)?——他通过一笔几十亿美元量级的、奇怪的授权加知识产权加招聘协议,又回到了谷歌。

David: 谷歌犯的错,代价极其、极其昂贵。

Ben: 可以公允地说,从 2017 年开始,谷歌进入了长达五年的时期:没有充分抓住自己亲手创造的机会。

OpenAI 全押 Transformer:马斯克出局,微软入场

David: 在 Transformer 这件事上,是的。说到抓机会,OpenAI 这段时间在干什么?

Ben: 那边有没有人觉得 Transformer 是个大事?

David: 有。但接下来的历史就变得非常非常疯狂了。2017 年 9 月,谷歌刚发表 Transformer 论文不久,埃隆对 OpenAI 的状况就彻底受够了。

Ben: 那边有七套不同的战略。我们到底做不做电子游戏?做不做竞赛?计划到底是什么?

David: 据我判断,埃隆的想法是:你们干的这一切,不过是在抄 DeepMind。而与此同时,我在搞 SpaceX 和特斯拉,自动驾驶对特斯拉的未来越来越关键。我这边需要 AI 研究员,我需要伟大的 AI 进展来帮特斯拉的忙。OpenAI 这点产出,不够看。

他向萨姆和 OpenAI 董事会其他成员下了最后通牒。他说:“我很乐意全面接管 OpenAI,把它并入特斯拉。”我都不知道这怎么操作——把一家非营利机构并入特斯拉?

Ben: 但在埃隆的宇宙里,只要他出任 OpenAI 的 CEO,操作层面根本无所谓。反正就当同一家公司对待呗,就像我旗下所有公司之间的交易一贯那样。

David: 要么就是他彻底退出,连钱一起撤。萨姆和董事会其他成员说:不。

Ben: 而我们现在知道,他们当时还在往公司里催缴承诺的资本——又不是一开始就真把现金全拿到手了。

David: 他们承诺的 10 亿美元才兑现了 1.3 亿左右。双方没能谈拢,到 2018 年初,埃隆出局了。和他一起走的,还有 OpenAI 的主要资金来源。

要么这是埃隆一次极其、极其严重的误判,要么这场变故给 OpenAI 带来的恐慌成了催化剂,逼他们扑向 Transformer,说一句:好吧,我们得想办法活下去。需求是发明之母。干吧。

Ben: 没错。我不知道在埃隆和萨姆关系紧张的那段时间,他们是不是已经决定全押 Transformer 了。因为你一旦决定全押 Transformer 语言模型,很快就会发现:你需要海量数据,需要海量算力,需要海量能源,还需要海量资本。

如果你最大的金主转身要走,三维象棋的打法是:哦,我们得留住他,因为我们正要转型,需要他的钱来支撑这个大转型。四维象棋的打法是:如果他走了,也许我可以把公司改成营利性公司,往里融资,最终赚到足够的利润来养活这个烧钱的新方向。我不知道当时是哪一种。

David: 我也不知道。我猜真相是两者都有一点。

Ben: 但不管怎么说,这事儿有多疯狂:第一,这些事同时发生;第二,这家公司本来烧钱并不多,然后他们决定全押一个贵到离谱的方向——贵到必须变成一家营利性公司才有可能实现使命,因为在可预见的未来,这需要几千亿美元。

David: 是的。于是在 2018 年 6 月,OpenAI 发布了一篇论文,描述他们如何基于 Transformer 开发出一种新方法:先在海量互联网通用文本上做预训练(pre-training),再把这个通用预训练模型针对具体用例做微调(fine-tuning)。

他们还宣布已经训练并运行了这条路线的第一个概念验证模型,命名为 GPT-1(Generatively Pre-trained Transformer 第一代)。

Ben: 要说明的是,这跟 BERT 差不多是同一时间,也跟西雅图这边艾伦研究所(Allen Institute)的另一个基于 Transformer 的大语言模型差不多同时。

David: 确实如此。

Ben: 所以这并不是什么离经叛道的秘密路线。包括谷歌自家在内的其他 AI 实验室都在做。但从一开始,OpenAI 似乎就把这事看得比谁都重——考虑到这条路走下去的成本,他们得押上整个公司。

David: 或者说是押上整个非营利机构、押上整个实体。看来我们得发明点新词了。

埃隆刚走出门。钱从哪儿来?萨姆找到了 OpenAI 的另一位董事会成员,里德·霍夫曼。就在一年多前,里德刚把 LinkedIn 卖给了微软,现在他是微软的董事。里德说:嘿,你何不去跟萨提亚·纳德拉(Satya Nadella)聊聊这事?

Ben: 你知道他到底是在哪儿见到萨提亚的吗?

David: 哦,我知道。2018 年 7 月,他们约好了萨姆·阿尔特曼和萨提亚的会面,地点就在两人都要出席的艾伦公司太阳谷峰会(Allen & Company Sun Valley Conference),爱达荷州太阳谷。

Ben: 完美。

David: 就在那里,他们敲定了一笔交易:微软向 OpenAI 投资 10 亿美元,现金加 Azure 云额度各占一部分。作为回报,微软将获得 OpenAI 技术的使用权,并获得 OpenAI 技术在微软产品中使用的独家授权。

具体做法是:非营利机构 OpenAI 设立一个受其控制的营利性实体,叫 OpenAI LP,由非营利主体 OpenAI Inc. 控制。微软投钱给这个营利性实体。里德·霍夫曼加入这个新架构的董事会,成员还有萨姆、伊利亚、格雷格·布罗克曼、亚当·迪安杰罗(Adam D'Angelo)和塔莎·麦考利(Tasha McCauley)。就这样,现代 OpenAI 的营利加非营利(?)架构诞生了。

Ben: 这个到今天 2025 年还没扯清楚的东西,就这么诞生了。这可是 AI 的完整通史,不只是谷歌 AI 这一集。

David: 嗯,这些事本来就完全纠缠在一起。我刚要说,这是谷歌三部曲的第三集。微软,他们回来了。微软是谷歌的死敌。我们第一集讲谷歌创立和搜索,第二集讲 Alphabet 和他们做的那一堆产品——谷歌的整个战略从来都是围着微软转的。他们终于在每一条战线上都打赢了微软。而现在——

Ben: 他们又冒出来了。萨提亚那句话怎么说来着?我们就是想看他们跳舞。

David: 我记得那句几年后才说出口的话是:我们想让全世界知道,是我们让谷歌跳起了舞。我的天。

Ben: 但这会儿还是 ChatGPT 之前的事。这只是萨姆在为 GPT-2 及之后那场看起来极其昂贵的规模化(scaling)征程,提前安排好融资。

David: 现在正是时候讲讲,为什么从 OpenAI 的角度看,微软是绝对完美的合作伙伴。原因不只是他们有钱。

Ben: 虽然有钱确实有帮助。

David: 帮助很大。但比钱更重要的是,他们有一朵非常、非常出色的公有云——Azure。

Ben: 2018 年这个时间点,OpenAI 不可能自己去买一堆 英伟达 GPU,然后自建数据中心。他们还没到那个体量。他们需要一家云厂商来承载他们想做的所有计算。如果这些研究员还在谷歌,那当然好,基础设施一应俱全。但 OpenAI 必须把自己绑在一个有基础设施的人身上。

David: 而非谷歌的选项基本上只有两个,还都在西雅图。嘿,其中一个就是微软,兴趣浓厚,现金也多。看起来是一段绝配。

Ben: 确实。我在想他们有没有找 AWS 谈过。因为——这是个疯狂的彩蛋,我都不太敢说出口——AWS 其实参与了最早跟埃隆一起对 OpenAI 的那笔投入。

David: 哦,哇。

Ben: 我不知道是以云额度的形式还是什么形式,但我在好几个地方看到过报道,说 AWS 确实参与了那一轮非营利捐赠。

David: 就是那笔非营利资金,给早期 OpenAI 的捐赠。

Ben: 总之,微软和 OpenAI 最终绑在了一起。

David: 天作之合。

Ben: 萨提亚和萨姆同台亮相,大谈这段美妙的伙伴关系、这场姻缘如何修成正果,然后他们就开足马力训模型去了。

David: 这为 OpenAI 的 GPT 时代铺平了道路。

Ben: 好,我们说到哪儿了,GPT-2?这就是当时在训的东西?

David: 对,GPT-2。

Ben: 那是我第一次听说它。西雅图的数据科学家们都在聊这个。挺酷的。

David: 在微软的第一轮合作、第一笔 10 亿美元投资之后,2019 年 OpenAI 发布了 GPT-2。它还很早期,但前景可期,能做很多事。

Ben: 能做很多事,但需要你这边发挥巨大的创造力。你得是个开发者才用得动它;如果你只是个普通消费者,负担非常重。你得自己写几段话,粘贴进语言模型,然后它会根据你给的原文,建议怎么把你写的东西续完。但它不是交互式的。

David: 它不是聊天界面。它(基本上)没有任何界面。

Ben: 它就是个 API。

David: 但它能做一些事,比如翻译文本——当然,谷歌做这个已经很多年了。但 GPT-2 能玩出这种花样:你编一个假新闻标题喂给它,它能写出一整篇文章。你读完会觉得:嗯,听着像是机器人写的。但再次强调,普通人没有入口。你得真有耐心蹚这趟浑水才用得动这玩意儿。

然后第二年,2020 年 6 月,GPT-3 出来了。模型依然没有面向用户的前门入口,但它已经非常好了。GPT-2 展示了可能性,GPT-3 则开始进入“这东西能不能通过图灵测试”的讨论范畴。你已经很难分辨哪些文章是 GPT 写的、哪些是人写的。它非常出色,围绕它的声量开始大起来。

Ben: 虽然消费者还没真正用上它,但更大的范围里,大家开始意识到地平线上有个有意思的东西。我觉得差不多就在这个时候,风投们看到的 AI 商业计划书数量开始往上走了。

David: 英伟达 的股价也是。接下来一年,2021 年夏天,微软基于 GPT-3 发布了 GitHub Copilot。这是第一款——不只是第一款内置 GPT 的微软产品,而是第一款……

Ben: 产品化。

David: ……任何地方的第一款产品,对。GPT 的第一次产品化。

Ben: 是 OpenAI 任何技术的第一次产品化。

David: 完全烤进去了。这开启了全世界软件编写方式的一场巨变。

Ben: 慢慢地,然后一下子全都变了。一开始只是少数软件工程师在用,到处有人窃窃私语:这也太酷了吧?它让我效率高了一点。而现在你看到的说法已经是:75% 的公司代码是 AI 写的。

David: 在那之后,微软又向 OpenAI 投了 20 亿美元——在当时看已经是一大笔钱了。时间来到 2021 年底。这前后发生了一个有意思的大背景切换。

Ben: 科技股、加密货币、整个大盘,全都崩了。所有人突然从追逐风险变成规避风险。一部分原因是乌克兰战争,但很大一块是利率上升。谷歌被狠狠砸了一波。最高点是 2021 年 11 月 19 日,谷歌市值正好站在 2 万亿美元。那波下跌开始大约一年后,他们只剩 1 万亿美元,回撤接近 50%。

David: 哇,所以跌到 2022 年底附近,正好赶在 ChatGPT 发布之前。

Ben: (我觉得)人们开始意识到谷歌慢了。他们对事情的反应慢了。感觉像一家老旧迟钝的公司。他们会不会像 2000 年代的微软,很久没有突破性产品了?大家对谷歌的未来并不看好。然后 ChatGPT 来了。

David: 这意味着如果你当时看好谷歌、愿意逆向而行,你能在 1 万亿美元市值的位置上车。

Ben: 这就有意思了。2021 年 10 月,市场在说:即将到来的 AI 浪潮不会是谷歌的强项。或者市场其实是在说:我们根本不知道有什么 AI 浪潮要来,因为人们嘴上说的是 AI——

但他们也说过 VR,说过加密货币,说过所有这些前沿科技,而那些根本不是未来。这家公司就是给人感觉又慢又僵。在那个历史节点上,(我觉得)说他们又慢又僵算是公道的评价。他们当时内部有个聊天机器人,对吧?

柜子里的 Meena 与门外的 ChatGPT

David: 对,有。在讲 ChatGPT 之前,谷歌就有个聊天机器人。诺姆·沙泽尔,一位了不起的工程师,重新架构了 Transformer、让它真正跑起来,是那篇论文的主要作者之一,在谷歌内部资历显赫,影响力巨大——或者说本该有巨大的影响力。Transformer 论文发表后,他和团队其他成员就说:伙计们,这东西能做的事远不止谷歌翻译。事实上,论文的最后一段——

Ben: 你这是要朗读 Transformer 论文了?

David: 没错。“我们对基于注意力的模型的未来感到兴奋,并计划将它们应用到其他任务上。我们计划把 Transformer 扩展到文本之外的输入输出模态问题,并研究图像、音频、视频等大型输入输出。”这话就写在论文里。

Ben: 哇。

David: 显然,谷歌在相当长的时间里一样都没做。但诺姆立刻开始向谷歌领导层游说:“嘿,我认为 Transformer 会大到这种程度——我们应该认真考虑直接扔掉搜索索引和十条蓝色链接的模式,全押把整个谷歌变成一个巨大的 Transformer 模型。”然后诺姆真的动手给一个大型 Transformer 模型搭了个聊天机器人界面。

Ben: 这就是 LaMDA 吗?

David: 比 LaMDA 更早。他管它叫 Meena。在 2010 年代末到 2020 年那段时间,诺姆在谷歌内部造了一个聊天机器人,可以说跟 ChatGPT 相当接近了。只不过它没有 ChatGPT 那些后训练(post-training)的安全处理,所以它会彻底失控。

Ben: 有人跟我们说,你可以直接问它“谁该死”,它会给你列出一串该死的人名。这不是个能发布的产品。

David: 那是一个非常原始、不安全、没做过后训练的聊天机器人和模型。但它确实存在于谷歌内部,而他们没发布。

Ben: 而且严格来说,它不只是没做后训练,连 RLHF 也没有。就是今天这些模型的核心组件——基于人类反馈的强化学习(RLHF)。ChatGPT 我不知道 3 代有没有,但 3.5 肯定有,ChatGPT 发布时肯定有。现实地讲,就算这是 OpenAI 的东西也发布不了,因为它太糟糕了。而谷歌这种体量的公司更不可能冒这个险。所以战略上他们先天受制。

但除了战略层面,这里还有两个商业模式问题。第一,如果你提议扔掉十条蓝色链接、把 google.com 变成一个巨大的 AI 聊天机器人——你直接给出答案而不是展示广告、让用户点进网站,收入就会往下掉,这会把整张牌桌都掀翻。显然他们现在正在琢磨这件事,但在 2021 年之前,提这种建议就是绝对的死路一条。

第二,夹在出版商和用户之间有法律风险。到那时为止,谷歌已经花了几十年跟公众舆论和法院判决缠斗,主题就是他们把出版商和读者隔开了。你要做这种事,内部文化上有一道非常高的门槛要过。就连那些弹出的信息框,都是拖到 2010 年代才上线的,而且基本只用在没法变现的查询上。任何时候只要你说“嘿,谷歌要直接给你答案而不是十条蓝色链接”,你都得拿出铁证如山的理由。

David: 还有品牌承诺和信任的问题。消费者太信任谷歌了。就说我们,直到今天我给 Acquired 做研究,需要确保某个事实准确无误,我还是会上谷歌查。

Ben: 我在 Claude 里查个东西,它给我一个答案。我觉得:这答案真不错。然后我会去谷歌搜一遍,核实那些事实也找得到——如果我点不开 Claude 给的来源的话。这就是我的工作流。

David: 这话今天听着好笑,但它很重要。如果你要提议用聊天机器人取代十条蓝色链接,你必须非常确定它给的东西是准的。而在 2020 到 2021 年,这一点绝对不成立——可以说今天也依然不成立。

而且当时也没有非做不可的理由,因为根本没有用户在嚷嚷着要这种产品。诺姆知道,谷歌内部的人也知道,你可以给一个基于 Transformer 的大语言模型套上聊天界面,那会是个非常有吸引力的产品。但大众不知道。OpenAI 自己都不见得真知道。GPT 就在那儿放着。

Ben: 你知道 ChatGPT 发布的故事吗?

David: 嗯,我想我知道。我笔记里记着呢。

Ben: 好。他们手里有了 GPT-3.5。它已经变得非常、非常好用了。

David: 这是 2022 年底。他们有了 3.5。

Ben: 但还是有个问题:我到底该怎么用它?怎么把它产品化?然后萨姆就说:我们应该做个聊天机器人。这对这东西来说像是个顺理成章的界面。谁来做一下——结果一周之内,内部就……

David: 有人做出了聊天界面。

Ben: 他们就是把对 GPT-3.5 API 的调用包成了一个产品:你就跟它聊天,每发一条消息,它就调一次 API 上的 GPT-3.5。结果这东西成了个有魔力的产品。

我觉得他们完全没料到。服务器都快被压垮了。他们找微软要更多算力,实时跟微软谈条件,想拿到更多投资、更多 Azure 额度,或者预支 Azure 额度,就为了扛住 2022 年 11 月涌进来的、潮水一样想用这东西的人。

他们还很随性地立了个付费墙,因为他们原本以为这门生意是做 API 生意,营收预测全是 B2B 授权合作能卖多少钱。然后他们才意识到:哦,怎么有这么多普通消费者在往里挤。立个付费墙,起码能把最烧钱的使用压一压,好让我们对冲成本,或者放慢放量的节奏。

David: 这可不是谷歌搜索那种 89% 毛利率的生意。

Ben: 结果就凭那个周末仓促搭起来的 Stripe 付费墙,他们的收入起飞速度快得惊人。要说 OpenAI 对接下来的事有任何预见,那也是彻头彻尾的假话。发布的时候,他们根本不知道这会是下一个现象级消费产品。

David: 本·汤普森(Ben Thompson)最爱把 OpenAI 叫作“意外撞出来的消费科技公司”。确实纯属意外。不过关于做这个聊天界面的动机,还有另一个略有出入的版本。

Ben: 是那个达里奥……

David: 界面的版本?对,达里奥和 Anthropic 的版本。Anthropic 当时在做后来成为 Claude 的东西。外面有风声,OpenAI 的人听说:哦,Anthropic 和达里奥在做聊天界面,我们大概也该做一个。要做的话,我们大概得赶在他们发布之前先发布。

我觉得这跟发布时点有关系。但再说一遍,我觉得包括 OpenAI 在内,没有任何人预见到接下来会发生什么——Ben 你刚才暗示到了,我来给出具体数字。

2022 年 11 月 30 日……

Ben: 基本就是感恩节。

David: ……OpenAI 发布了基于新版 GPT-3.5 的界面研究预览版,叫 ChatGPT。30 号那天早上,萨姆·阿尔特曼发推:“今天我们发布了 ChatGPT。点这里跟它聊聊”,后面附上 chat.openai.com 的链接。

不到一周,它就拿到了 100 万用户。到年底——一个月后,2022 年 12 月 31 日——它有 3000 万用户。再到下个月底,2023 年 1 月底,也就是发布两个月后,它突破了 1 亿注册用户,是历史上最快达到这个里程碑的产品。彻底疯狂。

在讲这件事在谷歌内部引爆了什么——也就是著名的“红色警报”(code red)——之前,先倒回去一点,说说诺姆和谷歌内部那个聊天机器人 Meena。谷歌一直在继续打磨 Meena,把它发展成了一个叫 LaMDA 的东西,也是个聊天机器人,也是内部的。

红色警报:延续性创新一夜变成生死威胁

Ben: 我记得 LaMDA 是个语言模型。在那个时间点,他们还会区分底层模型的品牌名和上面的应用名。

David: LaMDA 是模型,另外还有一个基于 LaMDA 的聊天界面,仅供谷歌内部使用。诺姆还在向领导层游说:我们得把这东西发出去。2021 年他离职了,创办了一家聊天机器人公司 Character.AI——这家公司至今还在,而且如你所料融了很多钱。然后到 2024 年,ChatGPT 发布之后,谷歌最终付了(我记得是)27 亿美元,跟 Character.AI 做了一笔授权交易,净效果是诺姆回到了谷歌。

Ben: 我觉得拉里和谢尔盖当时的想法是:嗯,如果我们要认真打这场仗,就得把诺姆弄回来,然后开张空白支票去把他请回来。

David: 总之,整个 2021 到 2022 年,谷歌在做 LaMDA 模型和它的聊天界面。2022 年 5 月,他们确实发布了一个对公众开放的东西,叫 AI Test Kitchen——一个 AI 产品试验区,人们可以在里面把玩谷歌的内部 AI 产品,包括 LaMDA 的聊天界面。

Ben: 平心而论,这比 ChatGPT 还早。

David: 你知道他们为了别让 LaMDA 聊天跑得太飞,做了什么吗?这招绝了。

Ben: 不知道。

David: 在 AI Test Kitchen 里的 LaMDA 聊天版本,他们把所有对话都截断在五轮。你跟这个聊天机器人最多聊五轮,然后就是:好了,今天到此为止。谢谢。再见。

Ben: 哦,哇。

David: 他们这么做是出于安全考虑。你跟它聊的轮次越多,它就越可能开始失控。

Ben: 说实话,这个担心很合理。这东西根本不适合公开给大众用。如果你还记得早几年的事,微软发布过 Tay,那个疯狂的种族主义聊天机器人。

David: 他们是把它当 Twitter 机器人发布的,对吧?在 Twitter 上彻底失控。那是 2016 年(我记得)。

Ben: 恶劣影响拉满。尽管早在 2017 年,桑达尔(Sundar)就宣布“我们是一家 AI 优先的公司”,谷歌在真正公开的 AI 发布上却始终谨慎得可以理解,尤其是面向消费者的东西。

David: 而且在 ChatGPT 之前,在外界所有人看来,他们确实是一家 AI 优先的公司,一直在发布各种了不起的 AI 成果——只不过都落在既有产品的延长线上。

然后 ChatGPT 横空出世,成了史上最快冲到 1 亿用户的产品。桑达尔、拉里、谢尔盖,整个谷歌领导层立刻看清了:这是对谷歌的生死威胁。ChatGPT 用更好的用户体验,干着谷歌搜索一样的活。

Ben: 再强调一下:如果你在 2022 年 11 月还没意识到这一点,到 2023 年 2 月你肯定意识到了,因为我们的老对头、最可怕的敌人微软,宣布推出由 OpenAI 驱动的新必应(Bing)。

萨提亚有段话:“这是搜索的新一天。竞赛从今天开始。”发布会上推出了全新的 AI 驱动搜索页面。他说:“我们想重新思考搜索最初的意义。事实上,谷歌当年的成功正来自重新想象搜索能做成什么样。我认为我们正在进入的 AI 时代,让我们也得以重新思考它。”

这是能发生在谷歌身上的最坏剧本:微软现在真的能在谷歌自己的地盘上挑战谷歌——用互联网上的“意图”,用一个真正不同、真正更好、真正有差异化的产品路线。不是必应当年那种山寨打法。这是一次彻底的弯道超车,而且他们手里握着实现它的技术合作关系。

David: 或者说,当时所有人都这么认为。

Ben: 我的天,太吓人了。

David: 就是在这场新必应发布前后,萨提亚在一次采访里说了那句话:“我想让人们知道,是我们让谷歌跳起了舞。”哎哟。不过嘛,你要刺杀国王,最好别失手。而这场声势浩大的发布,失手了。

那么谷歌内部发生了什么?2022 年 12 月,在那场大发布之前、但在 ChatGPT 时刻之后,桑达尔在全公司拉响了红色警报。

Ben: 这是什么意思?

David: 到这一刻为止,谷歌、桑达尔、拉里,所有人一直都把 AI 当作克莱顿·克里斯坦森(Clayton Christensen)意义上的“延续性创新”(sustaining innovation)。这对谷歌是好事,对我们的产品是好事,看看我们在做的这些了不起的东西。

Ben: 它进一步巩固在位者的地位。

David: 它进一步巩固我们在所有已经领先的产品上的领先优势。

Ben: 我们可以用可预测的方式投入更多资本,要么压低成本,要么把产品体验做到让任何创业公司都望尘莫及。

David: 变现也水涨船高,全都更好。可 ChatGPT 一出来,一夜之间,AI 从延续性创新变成了颠覆性创新(disruptive innovation)。它现在是生死威胁。而谷歌过去 10 年、15 年、20 年在 AI 上积累的很多优势,如今成了包袱。他们有太多现成的城堡要守。

Ben: 没错。他们得把每件事都过一遍重重的滤网,才能决定“去比 OpenAI 还 OpenAI”是不是个好主意。

David: 桑达尔拉响的这场红色警报,实际上是个巨大的转折点。因为它的含义、他的原话是:我们必须尽快做出并发布真正的原生 AI 产品。

这正是在位者面对颠覆性创新的教科书式应对。你不能把头埋进沙子,你得说:好,我们得真的去做出并发布能与这些颠覆者掰手腕的产品。

Ben: 而且你得在运营上死磕所有细节,搞清楚新产品到底在哪里蚕食我们的老产品,又在哪里能跟老产品互补。然后在你能互补的所有大大小小的场景里全力压上去。

从 2022 年起,他们真正在跳的这支芭蕾就是:一边保住搜索的增长,一边做出他们能做的最好的 AI 体验。他们的做法很精巧:AI 概览(AI Overviews)只给一部分查询用,不是全部;AI 模式(AI Mode)只给一部分用户开,不是全部;然后还有 Gemini 这个完整的 AI 应用,但他们没把 google.com 重定向到 Gemini。这是一场极其微妙的舞蹈:一边守住现有的基业,一边另起一座但愿尽量少自相残杀的新基业。

David: 你还能看到他们在视频这种不会蚕食搜索的品类里,(我觉得)真的一头扎进去做领先的产品。

Ben: Veo 3、Nano Banana。这些东西丝毫不蚕食现有基业,反而用上了谷歌的一些优势,比如 YouTube 的全部训练数据什么的。

David: 那接下来发生了什么?如你所料,先变得更糟,然后才好转。红色警报是 2022 年 12 月拉响的。

Bard 失利与 Google DeepMind 合并

Ben: Bard,宝贝儿。发布 Bard。

David: 我的天。其实在那之前——1 月 23 日,OpenAI 的 ChatGPT 冲到 1 亿注册用户之际,微软宣布再向 OpenAI 投资 100 亿美元,还说他们现在持有其营利性实体 49% 的权益。

这本身已经够惊人了,但你再从谷歌的视角想想微软这个死敌:他们现在可以说是拥有了——当然事后看他们并没有真正拥有 OpenAI——但当时看起来,我的天,微软可能已经拥有 OpenAI 了,而 OpenAI 是我们公司历史上第一个真正的生死威胁。

Ben: 不太妙啊,老兄。

David: 然后到 2023 年 2 月,那场大整合发布了。萨提亚说了要让谷歌跳舞的话。与此同时,谷歌内部在拼命赶工,想尽快把 AI 产品发出去。他们做的第一件事,就是把 LaMDA 模型和它的聊天机器人界面拿出来,改名叫 Bard。

Ben: 然后把它公开发布了——

David: 立刻发布。2023 年 2 月,公开发布,全量开放,谁都能用。

Ben: 这也许是对的决策,但天啊,那产品是真烂。

David: 是真的烂。

Ben: 我当时还不知道 RLHF 这个词,但很明显,它缺了 ChatGPT 身上的某种魔法组件。就是那个基于人类反馈的强化学习——你可以用它把回答的得体程度、语气、声音、准确性调到刚刚好。Bard 身上就是没有。

David: 雪上加霜的是,在 Bard 的发布视频里——那是一段精心设计、提前录好的视频,展示与 Bard 的对话——Bard 对视频里选的其中一个问题,给出了事实错误的回答。

Ben: 这是史上最糟糕的发布会之一。

David: Bard 发布和那场发布会之后,谷歌股价当天跌了 8%。然后就像刚才说的,等产品真到了大家手里,很快就清楚了:它就是不行。而且很快又清楚了:不只是聊天机器人不行,是模型本身不行。

5 月,他们用 Brain 团队一个叫 PaLM 的新模型换掉了 LaMDA。是好了一点,但明显还是落后——不只落后 GPT-3.5;2023 年 3 月,OpenAI 又放出了更强的 GPT-4,现在你在 ChatGPT 里就能用上它。

就在这儿,桑达尔做了两个非常、非常重大的决定。第一,他说:“谷歌内部不能再有两个 AI 团队了。我们要把 Brain 和 DeepMind 合并成一个实体,叫 Google DeepMind。”

Ben: 这可是件大事。这等于完全违反了当年收购 DeepMind 的原始协议条款。

David: 他摆平这件事的办法是:德米斯,你现在是谷歌 AI 部门——Google DeepMind——的 CEO。现在是全员上阵的时刻,你和 DeepMind 来挂帅,你们要跟 Google Brain 整合,而且我们要把谷歌过去十年围绕 AI 产品开发和发布的整个文化都改掉。

Ben: 再补充说明一下这件事的分量:当年 Alphabet 重组的时候,旗下有一堆独立公司,但对谷歌真正核心的东西——比如 YouTube——其实仍留在谷歌体内。而 DeepMind 是它自己的公司。它独立到这种程度:他们自研自己的模型,而且那些模型是建立在强化学习之上的——那是 DeepMind 一直以来押的主线。

字里行间读出来的意思是:桑达尔看着他的两个 AI 实验室说:听着,我知道你们俩处得不怎么样,但听着。我不在乎你们以前各有什么章程。我现在把 Google Brain 的责任交给 DeepMind,由 DeepMind 吸收 Google Brain 团队。我觉得就该这么解读,因为你看后来模型的走向——都是从 DeepMind 出来的。

David: 这背后还有一段有意思的故事。穆斯塔法·苏莱曼,DeepMind 的第三位联合创始人,在这之前的某个时候……

Ben: 他是不是当了谷歌 AI 政策负责人之类的?

David: ……他已经先转去了 Brain、转到了谷歌。他在那儿待了一阵子,然后跟谁走得很近?还能有谁,里德·霍夫曼。别忘了里德还是 DeepMind 伦理委员会的成员。于是穆斯塔法和里德离开,创办了 Inflection AI。快进到现在——2024 年,先经历 2023 年感恩节 OpenAI 那场彻底疯狂的闹剧:萨姆·阿尔特曼在感恩节周末被开除,然后周一又被请了回来,因为整个团队威胁要集体辞职投奔微软。

Ben: OpenAI 真爱感恩节。等不及看今年了。

David: 他们是真爱感恩节。天哪。那一出肯定让微软的关系变得很紧张。再提醒一次,里德是微软董事。微软跟 Inflection AI 做了一笔那种“类收购”交易,把穆斯塔法请进去当了微软的 AI 负责人。

Ben: 疯了。

David: 太狂野了。

Ben: 剧情的疯狂走向。

David: 好。桑达尔做的第一个重大决定是合并 DeepMind 和 Brain。这很大。同样大的是,他说:“我要你们去做一个新模型,而且我们就只要一个模型。它将是谷歌内部所有场景的模型,也是我们对外所有 AI 产品的模型。它叫 Gemini。不再有五花八门的模型,不再有各自为战的团队,一切就一个模型。”这也是个巨大的决定。

Ben: 是巨大的决定,而且是一推一拉两个方向。推是说:嘿,谁需要 AI 模型,都得开始用 Gemini。拉呢,其实是 Google+ 那一套——他们找到每个团队说:Gemini 是我们的未来,你们得开始想办法把 Gemini 整合进你们的产品。

David: 你提到 Google+ 我太高兴了。我做研究时跟好几个人聊到过这个。显然这一切都在实时上演,但很多谷歌内部的人指出:Gemini 的局面跟 Google+ 的局面非常不同。

首先这是个技术问题——(1)技术向来是谷歌的主场;(2)更重要的是,在巨型模型的时代,这是理性的商业决策。哪怕对谷歌这样的公司,模型的规模化定律(scaling laws)效应也是巨大的。

Ben: 你喂进去的数据越多,模型就越好,所有输出都会更好。

David: 正因为规模化定律,你得把模型做到尽可能大,才能有尽可能好的性能。如果你在公司内部同时维护好几个模型,你就在重复支付好几份维护巨型模型的天价成本。你绝对不想这么干。你必须集中到一个模型上。

Ben: 有意思的是,这里还有一层可以解读:一开始是 Bard 产品底下跑着 Gemini 模型,Bard 还是面向消费者的品牌名。然后到某个时点,他们说:不了,我们干脆全叫 Gemini。Gemini 成了面向用户的名字。

这又呼应了我在 Alphabet 那集里讲的“精髓”(Quintessence)理论。我知道这有点玄乎,但当谷歌说“我们要拿 AI 模型的名字来命名这个消费者服务”时,他们等于对自己承认:这个产品除了技术一无所有,上面没有产品这层东西可做了。

就像 Gmail。Gmail 就是技术:搜索快、存储大、跑在网页上。产品这层东西并不多——不像 Instagram 那样全靠产品。

Gemini 模型、Gemini 聊天机器人,说的就是:我们只是把我们了不起的突破性技术直接摊开给你们,你们直接跟它交互。站在远处做人类学观察,我感觉就是那个原理在起作用。

David: 我完全同意。我觉得这对谷歌、对谷歌文化来说,实际上是一个非常重要的品牌宣示和集结号。

Waymo:从 DARPA 沙漠到无人出租车

Ben: 好,以上就是 2023 年前后谷歌在 AI 上的全部戏码。在我们追上当下之前,Alphabet 还有另外一整个分支,是 AI 领域真正的亮点。我能拐过去吗?我能借这个出口匝道下去吗?

David: 换句话说,你能接过方向盘吗?

Ben: 我可以接过方向盘吗?我可以去侦查另一场赌局吗?

David: 请讲 Waymo 的故事。

Ben: 太好了。我们得一路倒回 2004 年的 DARPA 大挑战赛(DARPA Grand Challenge)。它设立的初衷,是推动军用地面自主机器人的研究。但就我们今天的故事而言,它实际做的是:为 20 年后的整场自动驾驶汽车革命,播下了人才种子。

比赛本身非常酷。赛道全长 132 英里。注意,这可是 2004 年,在莫哈韦沙漠里,赛车要跑完全程。那是一条土路。车里不允许有任何人,人也不许跟车有任何交互,全程 100% 远程监控,冠军奖金 100 万美元。

David: 100 万美元。

Ben: 这本身就是破了惯例——这类项目通常都是拨款,不是奖金。所以这笔钱得由国会专门立法批准。而这 100 万美元后来显得可笑。第二年他们把奖池加到了 200 万美元。想想这些研究者今天值多少钱,而当年的全场大奖就这么多,真是疯狂。

第一年 2004 年还算顺利。在极其有限的预算下有一些了不起的技术演示,但最终,100 支报名队伍里没有一支跑完比赛。

但第二年 2005 年才是真正神奇的一年。整个行业基于第一年的经验,在短短 12 个月里取得的进步,完全不可思议。

23 支入围决赛的队伍里,有 22 支跑过了上一年最好成绩的那个点。整个领域在一年里推进的幅度太疯狂了。

还不止于此。其中五支队伍真的跑完了全部 132 英里。两支来自卡内基梅隆大学,一支来自斯坦福,领队是个你们现在都认识的名字——塞巴斯蒂安·特龙。

David: 确实。

Ben: 这是塞巴斯蒂安加入谷歌之前的起源故事。顺便说,塞巴斯蒂安人很好,帮我们备了这一期的课,但这些内容我其实大多是从一部 20 年前的《Nova》纪录片里看来的,亚马逊 Prime Video 上就有。感谢布雷特·泰勒(Bret Taylor)告诉我们在哪儿能找到这部纪录片。

David: 对,热腾腾的研究小贴士。

Ben: 这支斯坦福队特别在哪儿?第一,所有传感器吐出来的数据噪声巨大,这是个大难题。车在沙漠里颠簸,又热又晒。所以通行的智慧——卡内基梅隆就是这么干的——是在硬件上想尽一切办法消除噪声。比如定制支架、云台和巨型弹簧来稳住传感器。卡内基梅隆基本上是买一辆悍马,拆散,从轮子往上重新造一遍。说的是真刀真枪的焊接、真真正正的汽车改装。

斯坦福队则完全相反。他们把任何新硬件都看作可能出故障的部件。所以为了降低比赛日的风险,他们全用现成的商品级摄像头和传感器,装在一辆几乎没改过的大众汽车上。他们只在软件上创新,赌的是能想出聪明的算法,事后把脏乱的数据洗干净。很谷歌,对吧?

David: 很谷歌。

Ben: 他们做的第二件事,是很早期地用机器学习来融合多个传感器。他们在车顶装了激光雷达,跟其他队伍一样——激光可以测量你正前方物体的纹理和深度。这个数据超级精确,但你开不快,因为激光的视场固定、非常窄,你对远处几乎一无所知。本质上,你回答不了“我能开多快”“前面有没有弯道”这种问题。

在这之上,他们的解法是多装了一台普通摄像机。那台摄像机像人眼一样有很宽的视场,像人眼一样一直看到地平线。关键在于,它还能看见颜色。

它是这么工作的——这招真的很妙——他们用一个机器学习算法实时处理。2005 年,一台电脑就搁在车子正中间。他们把激光的数据叠加到摄像机画面上。从激光你能知道车正前方的区域能不能开。然后算法往上看摄像机画面里帧的内容,找出那块安全区域叠加后是什么颜色,再外推——看画面更远处同样的颜色延伸到哪里,那块安全区域就延伸到哪里,这样你就能算出穿越沙漠的安全路径。

David: 太妙了。

Ben: 妙极了。

David: 我脑子里浮现的画面是,2005 年,一台戴尔 PC 搁在这辆车正中间。

Ben: 差得不远了。我们会在发出去的邮件里分享几张它的照片。于是车就能更有底气地开得更快,还知道前方什么时候有弯道。再说一遍:这是实时处理,全靠车上那台摄像头,2005 年,这技术太疯狂了。

最终,这两个赌注都押对了,斯坦福团队以极具戏剧性的方式夺冠——他们真的在沙漠里自动驾驶超过了一辆卡内基梅隆的车。纪录片里那就是最高潮的一幕。

你可能会想:那接下来塞巴斯蒂安就该去谷歌搞出 Waymo 了吧?并不是。前面说过,他确实通过那个疯狂的路子加入了谷歌——“求你别找 Benchmark 和红杉融资了,我们直接雇你”。但他进去后做的是街景和 Ground Truth 项目,还联合创立了 Google X。

David,就像你前面暗示的:这个后来变成 Waymo 的 Chauffeur 项目,是 Google X 内部的第一个项目。

David: 故事大概是这样的:拉里·佩奇找到塞巴斯蒂安说,嘿,自动驾驶汽车那事儿,去干吧。塞巴斯蒂安说,别闹了,那只是 DARPA 挑战赛玩玩而已。拉里说,不不,你就该去做。

Ben: 他的反应是:不行不行,那不安全。城市里到处是人跑来跑去,我不能就这么把好几吨重的杀人机器人放到马路上,万一伤到人怎么办。拉里最后问他:为什么?到底有什么技术上的原因让这件事不可能?塞巴斯蒂安回家睡了一觉,第二天早上回来说:我想明白问题出在哪了——我就是害怕。

David: 这时刻太妙了。

Ben: 于是他们就开干了。他说:技术上没有理由不行。只要我们做足所有正确的预防措施,把安全门槛定得极高,那就开工吧。拉里接着说:好,那我给你一个基准,用来判断你有没有成功。他挑了加州 10 段他认为极难开的路,加起来约 1000 英里,团队开始管它叫“拉里 1000”(Larry 1000)。里面有开往太浩湖的路、旧金山的九曲花街、去洛杉矶的 1 号公路、海湾大桥。这就是要翻越的标杆。

David: 如果你能自动驾驶跑完这些路段,基本就说明你什么都能干了。

Ben: 他们 2009 年启动项目。18 个月内——这个小团队好像也就招了十几个人——已经自动驾驶跑了几千英里,并且在 18 个月内完成了完整的“拉里 1000”。

David: 快得离谱。而同样离谱的是,之后把它产品化、做成今天这个 Waymo,又花了那么长时间。

Ben: 就像第一个 99% 很快,然后第二个 99% 要花 10 年。自动驾驶是这类特别棘手的问题:起步出奇地容易——尽管看起来完全是件不可能的事。

但接下来就到处都是边缘案例:天气、路况、其他司机、没见过的新道路布局、夜间驾驶。要做出一个真正投产的系统,需要海量的工作。

然后问题来了:我们要做一门什么生意?这里的产品到底是什么?塞巴斯蒂安想要的是高速辅助驾驶——风险最低、最现实的路线,就是做个更好的定速巡航。

埃里克·施密特(Eric Schmidt)想要的就疯狂了。他提议:要不我们直接买下特斯拉当起点,然后把我们所有自动驾驶设备装到他们所有车上。David,你知道当时买下特斯拉要花多少钱吗?

David: 当时埃隆·马斯克、拉里和谷歌谈判的时候,正值 Model S 产能爬坡最痛苦的低谷期。我记得谷歌大概 50 亿美元就能买下这家公司,我记得是这样。

Ben: 是 30 亿美元。

David: 30 亿,我的天。

Ben: 显然这事没成,但那条平行历史会有多疯狂啊。

David: 我觉得如果那事成了,DeepMind 的交易就不会以原来的方式发生,OpenAI 大概也不会成立了。

Ben: 可能是吧。

David: 这显然没法证明。

Ben: 我们节目里老爱做这种反事实推演,但你永远没法知道答案。

David: 反正在我看来,可能性更大的是:至少 OpenAI 不会存在。

Ben: 然后是拉里想做的,第三个选项:做无人出租车(robotaxi)。最终——至少到目前为止——他们走的正是这条路。

这段历程够我们单独做一整期节目了,但时间关系只挑重点讲。这里要记住的关键是:无论谷歌还是公众,站在任何一个时间点上,都不知道自动驾驶是两年后能成,还是还得再等 10 年。

举个例子:Chauffeur 项目的头五年完全没用深度学习。他们不用任何深度学习就跑完了“拉里 1000”,之后又照样跑了三年半。

David: 哇,太疯狂了。但这恰好说明:你永远不知道终点还有多远。

Ben: 这个领域的规律就是:进步只能靠一连串突破来实现。你不知道(a)下一个突破还有多远——因为任何时候领域里都有一堆很有希望的方向,其中大多数最后都行不通;也不知道(b)当突破真的到来时,它到底能比现有方法带来多大提升。所以每次有人预测“AI 在 X 年内就能做到这个那个”,纯属白费力气,连专家自己都不知道。

来看几个大里程碑。2013 年,他们开始用卷积神经网络(convolutional neural nets),能识别物体了,感知能力大幅提升。2013–2014 年正是谷歌对深度学习“找到信仰”的时期——就在那 4 万块 GPU 部署上线之后,他们总算有硬件来跑这些东西了。

2016 年,他们觉得技术验证看够了:该商业化了,可以把它分拆成一家公司。于是 Waymo 成为 Alphabet 旗下的独立子公司,不再属于 Google X。

2017 年,Transformer 论文当然横空出世。他们吸收了一些 Transformer 的成果,尤其是在预测和规划方面。

2020 年 3 月,他们从 Silver Lake、加拿大养老金计划投资公司(CPP Investments)、穆巴达拉(Mubadala)、Andreessen Horowitz 这些机构手里融了 32 亿美元,当然最大的支票(我记得)还是 Alphabet 开的。Alphabet 应该一直是最大出资方,因为后来又融了好几轮,大股东还是它。

2020 年 10 月,他们在凤凰城推出了全球第一个面向公众的商业化、驾驶座上完全无人的服务,这是世界第一。距离跑完“拉里 1000”已经 11 年。这太不可思议了——我当时都已经放弃了,心想:Waymo 和这一堆公司搞自动驾驶,看着挺可爱,但感觉永远成不了。结果他们真的在凤凰城安全地做着大量载客,还收消费者的钱。

David: 然后他们把它带到了旧金山。对我和很多旧金山人来说,它现在是这座城市生活里很大的一部分。太棒了。

Ben: 是啊,我每次去都爱坐。他们很快要在西雅图上线了,我很期待。有意思的是他们不造硬件,用的是捷豹的一款车——据我所知只有 Waymo 在用,我不知道别人开不开那款捷豹、买不买得到。他们接下来在做一款厢式车,还有一些下一代硬件。

给没坐过的人形容一下:就是一辆没有司机的 Uber。这项服务 2024 年 6 月上线。这期间他们还融了“B 轮”,又是 25 亿美元;旧金山铺开之后融了“C 轮”,56 亿美元。今年 1 月有报道说,他们在旧金山的总预订额(gross bookings)已经超过了 Lyft。

David: 哇,我完全信。在旧金山,它是我和我认识的所有人打车的第一选择。逻辑就是:先试试叫 Waymo,要是短时间内叫不到,才顺着列表往下选别的。

Ben: 我们就活在未来里,却这么快就习以为常、不懂珍惜。

David: 对那些城市还没开通、它还没进入生活的人,有一点我觉得很酷:它的好处不只是“驾驶座上没司机”这种新奇体验——那种新奇感很快就会褪去。它其实是一种不同的体验。

如果我要带大女儿出门,我不介意叫一辆 Waymo,带上儿童安全座椅,在车里装好,然后跟女儿一起坐。她可喜欢了,我们管它叫“机器人车”,她会说“机器人车哎”,特别兴奋。坐 Uber 我绝不会这么干。

Ben: 有意思。

David: 还有我家狗。每次要带狗出门,叫 Uber 就特别尴尬,得跟司机说:嗨,我带了条狗,行不行啊?坐 Waymo 完全不是事儿。另外你到旧金山来的时候……

Ben: 我们还真能在车里聊敏感话题了。

David: 你可以打电话。这真的是一种不同的体验。

Ben: 太对了。那干脆把时间线拉到今天。他们现在在五座城市运营——凤凰城、旧金山、洛杉矶、奥斯汀和亚特兰大。每周有几十万单付费行程。无人驾驶累计里程已经超过 1 亿英里,每周还在新增 200 万英里。车队 2000 多辆车,累计付费行程超过 1000 万单。

明年他们会在美国再开一批城市,还要登陆东京——第一个国际城市。慢慢来,然后一下子铺开,这就是这件事的启示。技术上,他们从 DARPA 大挑战赛一路坚持多传感器路线:摄像头、激光雷达(lidar),后来加了雷达,甚至还用麦克风做听觉感知。他们的理念基本上是:能收集到的任何数据都是好的,因为这让车更安全。

车上有 13 个摄像头、4 个激光雷达、6 个雷达,外加一组外部麦克风。这显然比特斯拉只用摄像头的方案贵得多。但 Waymo 的官方口径是:他们相信这是通往完全自动驾驶的唯一路径,才能达到他们瞄准的安全门槛和监管门槛。你跟他们组织里任何人聊,都会发现这是一条划死的红线。

David: 作为两款产品的重度用户——我既是开心的 Model Y 车主兼司机,也是 Waymo 常客——至少以我特斯拉上当前版本的 FSD(Full Self-Driving)来看,这是截然不同的两种产品。

Model Y 的 FSD 很棒,我在高速上一直用,但我绝不敢不看路。而每次坐进 Waymo,感觉几乎就像用谷歌搜索:我就是相信它完全、彻底安全。我坐在后排,可以彻底放空。

Ben: 我对我那辆 Model Y 的 FSD 信任度可能比你高一点,但我懂你的意思。而且说实话,监管上开特斯拉本来就必须保持注意力,坐 Waymo 则不用。

不过安全这件事是实打实的。看数字:每年机动车事故造成的死亡超过 100 万例。光美国每年就有 4 万多人死于车祸,换算下来每天 120 人。这是一个巨大的死因。

Waymo 上个月刚发布的研究显示,和普通人类司机相比,他们造成“严重受伤或更糟”的事故少了 91%——这还是控制了变量的结果:Waymo 目前只在城市地面道路上开,他们拿人类驾驶数据做了苹果对苹果的对照,那些致命或严重受伤的事故降低了 91%。我们为什么不天天都在谈论这件事?这将彻底改变世界上一个巨大的死因。

既然聊到 Waymo 了,我们快速做点分析怎么样?我一直在挠头琢磨:这到底是门什么生意?然后我保证我们回到谷歌 AI 的主线,把故事追到今天。

它的运营成本高得吓人,尤其是早期规模化阶段。训练成本高、推理成本高、硬件成本高,等等等等。

David: 运营本身也很烧钱。

Ben: 事实上他们在各种尝试:有些城市他们干脆把运营外包,德州就有一家租车公司在帮他们管。另外(我记得)还跟 Lyft 和 Uber 有合作。自营(O&O)和合作模式,他们都在试。

David: 所谓运营就是:这些是电动车,得充电、得清洗、得开回场站、得检查、得换传感器。

Ben: 所以问题是:潜在市场机会有多大?这门生意能长多大?有几种量化的思路。

一种估总市场规模的思路,是把今天所有车企的市值加起来:含特斯拉全球约 2.5 万亿美元,不含则是 1.3 万亿。但 Waymo 并不真的造车,这么切分可能不对。

你也可以看今天所有的网约车公司,这可能是更好的可比对象,因为 Waymo 今天实际做的就是这门生意。这块市值大约 3000 亿美元,其中大部分是 Uber。这是今天网约车对应的可及市值。

但 Waymo 的野心比这大。他们想进入你自己拥有的车,想进长途卡车运输。他们相信能扩大交通出行的份额,因为盲人可以因此“拥有”一辆车,老年人可以不用司机自己去到想去的地方,诸如此类。

最虚、但我觉得最有意思的视角是:事故减少创造的价值到底有多大?因为他们真正做的就是这件事——这是一个把“事故”替换成“无事故”的产品。

David: 我觉得这么算是成立的。但再说一次,作为产品的重度用户,我要说:相对人类网约车,它是一种不同的、而且还在扩张的产品。

Ben: 所以你的论点是:不管我算出的“减少事故”价值是多少,真实市场都比那还大,因为产品体验本身还创造了额外价值。

David: 对。只说网约车这块:自从旧金山有了 Waymo,我会在很多场景用它,而那些场景我绝不会叫 Uber 或 Lyft。

Ben: 有道理。来看我们手上的数据。美国疾控中心(CDC)发布过一份报告:2022 年美国车祸死亡造成的总成本是 4700 亿美元,包括医疗费用和对生命损失的估值。CDC 居然有办法给人命标价,这本身就很疯狂,但他们确实做了。

如果事故减少 10 倍——Waymo 的数据似乎就是这个意思,至少对严重事故而言——那就是我们国家每年能省下超过 4200 亿美元的总成本。

当然这不完全是苹果对苹果——我承认——但这笔省下来的成本,比谷歌今天整个公司的全年营收还多。顺着这个思路,你确实能看到一条路径:Waymo 作为一家独立公司,有机会长成一门谷歌体量的生意——前提是他们能把成本降到可以大规模盈利运营的水平。

David: 这是谷歌内部一段不可思议的 20 多年成功史。

Ben: 我想这样收尾:考虑到这个机会的大小,到目前为止的投入其实不算大。他们烧掉的钱大概在 100 亿到 150 亿美元之间。这就是我刚才把历轮融资一一列出来的原因。

David: 跟基础模型比,这简直是零钱。

Ben: 哥们儿,再说,咱就圈在这个行业里比:这不过是 Uber 一年的利润。

David: 哇,这赌注看起来不错。

Ben: 我以前觉得这是在白费力气追野鹅,现在看是真的真的高明。

David: 完全同意。

Ben: 还有,那 100 亿到 150 亿美元,就是谷歌上个月一个月赚的利润。

Gemini 反击与三万亿市值的今天

David: 说到谷歌,我们是不是该把谷歌 AI 的故事追到今天了?

Ben: 对,我记得我们讲到 Gemini 发布。

David: 2023 年中,桑达尔·皮查伊下了两道命令:(1)把 Brain 和 DeepMind 合并成谷歌内部一个统一的 AI 团队;(2)全公司统一用一个模型——未来的 Gemini——由 DeepMind/Brain 团队去打造,然后谷歌所有产品都用它。

Ben: 更别提,据说谢尔盖·布林现在重新以员工身份回来做 Gemini 了。

David: 工号……

Ben: 领回了他的 Newton 工牌。

David: 对,工牌拿回来了。桑达尔拍板之后,Brain 的杰夫·迪恩和奥里奥尔·维尼亚尔斯(Oriol Vinyals)过去和 DeepMind 团队汇合,开始做 Gemini。

Ben: 顺便说,我现在是信徒了。有杰夫·迪恩在做,我就上车。

David: 有杰夫·迪恩在,这事多半能成。如果你刚才还不信,听听我接下来要说的。后来他们跟 Character AI 做了那笔交易,把诺姆·沙泽尔请回阵营,诺姆加入了 Gemini 团队。现在杰夫和诺姆是 Gemini 的两位联合技术负责人。所以……

Ben: 冲了。

David: ……冲了。他们很快就在 2023 年 5 月的 Google I/O 主题演讲上官宣了:发布 Gemini、公布计划,还在搜索里上线了 AI 概览——先是作为 Labs 实验产品,后来变成所有谷歌搜索用户的标配。

Ben: 顺便说,这很疯狂。谷歌搜索的查询量大到无法想象。肯定有具体数字,但你想想:除了视频流这类高带宽业务,这大概是地球上存在的最高级别的计算规模。想想每时每刻发生多少次谷歌搜索。他们在所有这些查询上跑大语言模型推理——好吧,至少是他们愿意展示 AI 概览的那些查询,我确定不是每一条,但有很多。

David: 一个子集,但放在谷歌搜索的体量下仍然是个天文数字。我自己天天都能看到 AI 概览。这说明谷歌立刻决定按“AI 速度”运转。ChatGPT 是 2022 年 11 月 30 日发布的,现在是 2023 年 5 月。所有这些决定都做出了,所有这些变化都发生了,而且已经在 I/O 上官宣了。

Ben: 而且他们这是在真刀真枪地秀基础设施肌肉。“哦,好啊,就在每条查询上都跑推理呗”——谷歌:我们扛得住。

David: 2023 年 5 月官宣的新 Gemini 模型,一个关键点是多模态(multimodal)。再强调一次:一个模型包打一切——文本、图像、视频、音频,一个模型。2023 年 12 月开放早期公开访问。还是疯狂:六个月,造出来、训出来、发出来。

Ben: 太厉害了。

David: 疯了。2024 年 2 月,他们发布 Gemini 1.5,上下文窗口 100 万 token,比当时市场上任何模型都大得多得多。

Ben: 这解锁了各种新用例。之前一堆人说“我试过用 AI,但它搞不定我的某某场景”,现在能搞定了。

David: 第二年,2025 年 2 月,他们发布 Gemini 2.0。2025 年 3 月,一个月后,以实验模式推出 Gemini 2.5 Pro,6 月正式转正(GA)。

Ben: 这发版节奏,跟英伟达有一拼。

David: 可不是。同样在 2025 年 3 月,他们上线了 AI 模式。现在你可以在 google.com 上直接切到聊天机器人模式。

Ben: 而且他们还在做分流测试,自动给一部分用户默认打开 AI 模式,看反应如何。这可是会下金蛋的鹅啊。

David: 大象跳起踢踏舞了。然后是他们发布的其他所有 AI 产品。NotebookLM 就是这期间出来的——AI 生成播客。

Ben: 那玩意儿听着是不是有点像我们俩?感觉多少被拿去训练过。

David: 那东西发布的时候,我们收到的短信数量啊——“这肯定是拿 Acquired 训练的”。我确实知道 NotebookLM 团队里有不少人是 Acquired 粉丝。我不知道他们有没有拿我们训练。然后是视频、图像那边:Veo 3、Nano Banana、最近刚出的 Genie 3。Genie 这东西太离谱了——一个基于提示词和视频的世界生成器。

Ben: 你还没真的用过,对吧?你就看了那个宣传视频?

David: 对,我看了视频,还没上手用过。

Ben: 要是真能做到那样,简直难以置信。那是一个实时生成式……

David: 世界生成器。

Ben: ……世界生成器,对。你往右看,它就在你右边凭空造出东西来。再把这个跟 Vision Pro 硬件一结合,你就直接活在幻想乡了。

David: 他们宣布 Gemini 现在有 4.5 亿月活用户。这包括了所有用 Nano Banana 的人。

Ben: 我没法相信这个数字,太离谱了。就算它最近登上了 App Store 榜首,还是很难相信——不过谷歌既然敢这么说,那肯定是真的。但我就是想问:他们到底把什么算成了 Gemini 应用的使用?

David: 反正用 Nano Banana 的人肯定都算在用 Gemini。

Ben: 但这里面有没有算 AI 概览?有没有算 AI 模式?有没有算那种“误触”的使用——就像 Meta 当年说的那个离谱的 Meta AI 用户数字?那完全是垃圾数字:人们在 Instagram 上搜索时不小心触发了一个 Llama 模型干了点什么,他们的反应是“呃,走开,我只是在找个人”。所以到底是实打实的 4.5 亿,还是打了引号的“4.5 亿”?

David: 问得好。但不管怎么说,在这么短的时间里从零做到这个量级,已经非常惊人了。

Ben: 尤其是在营收创历史新高的同时——至少在目前这个混沌的早期阶段,他们似乎既能让核心业务继续转,又能在 AI 最前沿当一个好竞争者。

David: 先给一会儿要做的多空分析(bull and bear)埋个伏笔:就像我们在 Alphabet 那期讲过的,谷歌在驾驭平台迁移方面战绩辉煌——移动互联网转型就是。

Ben: 确实。

David: 这次 AI 平台迁移的开局绝对颠簸得多,颠簸多了。但你看看,如果要开一张“开局不利之后该怎么应对”的配方,你很难列出比他们过去两年做的更好的一串动作了。

Ben: 好,那我来给大家讲讲今天这门生意的全景快照?

David: 来吧。哦对,顺便一提,联邦政府裁定他们是垄断者,然后又因为 AI 决定什么都不做。

Ben: 在我们发布 Alphabet 那期和这期谷歌 AI 之间——或者说第二集和第三集之间,照顾喜欢简单命名法的朋友——发生了一场“美国诉谷歌”反垄断案。法官先是裁定谷歌在互联网搜索领域构成垄断,然后没有给出任何实质性的救济措施。有一些,但我认为无关紧要:他们不需要剥离 Chrome,也不需要停止每年给苹果等公司输送数百亿美元。

换句话说:没错,谷歌是垄断者,但动手管它的成本会对整个生态造成太多下游连锁后果,所以就让他们继续该干嘛干嘛。法官引用的一条不动手的理由,正是 AI 竞赛:因为数百亿美元的资金涌入了 OpenAI、Anthropic、Perplexity 这样的公司,谷歌实质上有一场新的仗要打,所以交给自由市场自己去创造可行的竞争,我们不会捆住谷歌的手脚。

我个人觉得这个论证有点可笑。这些 AI 公司没有一家在产生净利润,光因为他们融到了巨额资金,不代表这钱永远有。他们会很快烧光手头的现金。如果水龙头哪天关了,谷歌目前在老的搜索业务和 AI 领域都没有任何能自我维持的竞争对手。一切都依赖于人们相信机会大到值得继续往这些竞争者身上砸数百亿美元。

David: 很多人说过那句俏皮话,但它确实有道理:嘿,ChatGPT 发布时谷歌是挺措手不及的,但如果这事的结局是他们躲开了美国联邦法院垄断判决那种“微软级别”的分心和伤害——值了。

Ben: 这里可以画一张好玩的梗图。你知道那个梗吧:一个人推倒一张小多米诺骨牌,最后撞倒一堵大墙?

David: 知道。

Ben: 那张小骨牌就是伊利亚·苏茨克维离开谷歌创办 OpenAI,而下游的最终结果是:谷歌没被拆。

David: 没错。

Ben: 它实际上救了谷歌。

David: 它实际上救了谷歌。

Ben: 太疯狂了。

David: 太疯狂了。

Ben: 好,来看今天的生意。过去 12 个月,谷歌营收 3700 亿美元。利润端,过去 12 个月赚了 1400 亿——比任何其他科技公司都多。全世界利润比它高的公司只有一家:沙特阿美(Saudi Aramco)。别忘了,谷歌是有史以来最好的生意。

David: 我们在 Alphabet 那期结尾也说过:就算身处 AI 时代这一切之中,就算过去 10 年、过去 5 年发生了这么多事,谷歌核心业务自我们 Alphabet 那期(2015–2016 年)以来仍然增长了 5 倍。

Ben: 市值上,谷歌冲破了 2 万亿美元的前高,本月初刚刚摸到 3 万亿美元。他们是全球市值第四的公司,排在英伟达、微软和苹果之后。太疯狂了。

资产负债表上——其实我觉得这次挺有意思,我一般做这种分析不看资产负债表,但这次值得看,原因如下——他们有 950 亿美元现金及有价证券。我本来想说到这就打住,抛出观点:哇,看看他们手里有多少现金和资源。

David: 我其实惊讶这数字没更大。

Ben: 2021 年时是 1400 亿。过去四年,他们从“囤现金”模式大幅转向“花现金”模式。其中很大一部分是 AI 数据中心建设的资本支出(CapEx)。在砸资本支出这件事上,他们和 Meta、微软、亚马逊一样,完全在打进攻。

但我没太想明白的是:占比最大的其实是股票回购,他们还开始派股息了。如果你不是金融背景,这么解读:是的,投资 AI 和数据中心的未来仍然需要海量现金,但我们的现金还是多到用不完,于是决定分给股东。这太疯狂了。

David: 史上最佳生意,对吧?

Ben: 这说明他们核心搜索广告业务是门多疯狂的生意。等于他们在说:商业史上资本最密集的竞赛正在发生,我们打算赢。而且在认为需要的投入之外、再加一层安全垫之外,我们还有大把闲钱躺着。

David: 是啊,哇。

订阅账本与云的翻身仗

Ben: 这里有两块业务值得看:一是 Gemini,搞清楚那边在发生什么;二是谷歌云(Google Cloud)的简史。我想告诉你今天云业务的数字,但值得先搞清楚云是怎么走到今天的。

先说 Gemini。因为这是谷歌——我认为是我们研究过的公司里财务最云山雾罩的一家,他们在财报里藏球的本事最让我火大——我们当然不知道 Gemini 的具体收入。

我们知道的是:Google One 捆绑包有超过 1.5 亿付费订阅用户。大部分在很低的档位,每月 5 到 10 美元。AI 功能从每月 20 美元的档位才开始有,高级 AI 功能都在那档,但我猜今天这 1.5 亿人里只有很小一部分在这档。

David: 我应该就在这档。

Ben: 但有两点要注意:(1)增长很快,这 1.5 亿一年同比增长接近 50%;(2)谷歌拥有一个 1.5 亿人付费订阅的捆绑包。我脑子里一直有个成见:AI 没有“用户掏钱”这种商业模式的未来,它必须像搜索一样靠广告。

David: 但嘿,那可不是小数目。那可是——

Ben: 快赶上半个美国了。

David: Netflix 有多少订阅用户?

Ben: Netflix 是几亿,Spotify 现在两亿五上下。我们今天生活的世界里,已经有真正上规模的消费者订阅服务了。

这个洞见我要归功于希希尔·梅赫罗特拉(Shishir Mehrotra)。其实昨晚我们还聊了——因为上一期我提到了他的名字,他听到了,就联系我聊了聊。这让我来了个 180 度大转弯。我原来以为:你要收费,总可及市场就缩水 90%–99%。但他的观点是:如果你能做出一个真正有吸引力的捆绑包——而谷歌手里有做出这种捆绑包的数字资产……

David: 我的天,YouTube Premium、NFL Sunday Ticket。

Ben: 对,还有 Play 商店里的东西、YouTube Music、Google One 所有存储服务。他们可以把 AI 放进这个捆绑包,靠巧妙的捆绑经济学,找到一种让付费 AI 产品真正触达海量付费用户的办法。

David: 完全同意。

Ben: 所以我们确实算不出 Gemini 现在赚多少钱。反正大概率还没盈利,那分析它还有什么意义呢?

David: 好吧,那讲讲云的故事。我们当初特意没把云放进 Alphabet 那期。

Ben: 也就是事实上的谷歌第二集。

David: 对,谷歌第二集。因为它是谷歌内部的一个新产品——现在已经非常成功——启动时间和我们在第二集里讲的其他产品在同一时期。但它对 AI 的战略意义太大了。

Ben: 事后看,它的战略意义比当年刚推出时看起来大得多。快速交代背景:它起步于 Google App Engine,2008 年的产品,让人能快速给网页应用(很快也包括移动应用)搭起后端。它是平台即服务(Platform as a Service),所以你必须按一种非常狭隘的“谷歌味”方式做事。

它非常有主见:你必须用这个 SDK,必须用 Python 或 Java 写,必须完全按他们要求的方式部署。它不会跟你说“嘿,开发者,你想干嘛都行,用我们的基础设施就好”。它有主见,跟当时 AWS 的做法完全不同。

AWS 当时在做、今天还在做、全世界最终也都认可的事是:云应该是基础设施即服务(Infrastructure as a Service)。连微软都相当快地把 Azure 转到了这条路:你要存储?给你存储。要虚拟机?给你虚拟机。要算力?要数据库?

David: 都给你安排。

Ben: 基础设施的积木块。最终谷歌在 2012 年推出了自己的基础设施即服务——花了四年。他们推出 Google Compute Engine,后来改名 Google Cloud Platform,就是今天这门生意的名字。

对谷歌的质疑一直是:他们从来搞不定怎么跟企业客户打交道。他们的核心业务是做出人们爱用的、打磨到极致的好产品,全部尽量自助服务。而他们赚钱的方式是靠广告主。而且说实话,广告主别无选择,只能用谷歌搜索。

David: 所以对广告客户,他们也不一定需要多好的企业级体验——反正客户自己会来。

Ben: 所以他们全是自助体验。而云计算是贴身肉搏,这些都是同质化的大路货——

David: 全是企业关系。

Ben: 拼的是最低价,拼企业关系,拼巧妙的捆绑方式,拼交付完整“解决方案”的能力。

David: 你说“解决方案”,我听到的是“毛利率”。不过没错,这个领域谷歌离开了自己的天然栖息地。

Ben: 而且早期他们不想交出任何镇馆之宝。他们把自家基础设施看成“这是我们的秘密武器,不想让别人用”。他们自己写的最好的软件工具——Bigtable、Borg(谷歌内部的集群管理系统)、DistBelief——这些都不是放在谷歌云上对外提供的服务。

David: 这些是竞争优势。然后他们请来了甲骨文(Oracle)前总裁托马斯·库里安(Thomas Kurian)。

Ben: 然后一切都变了。2017 年——他上任前两年——这门生意做了十年,营收 40 亿美元。2018 年他们做了第一个非常高明的战略决策:推出 Kubernetes。这里的大洞察是:如果我们让开发者更容易把应用迁走——世界想要的是多云(multi-cloud)……

David: 我们是第三名,没什么可输的,所以可以提供这个工具,对 AWS 和 Azure 形成反定位。

Ben: 我们把开发者范式转到容器上,容器在我们的平台上编排,然后我们提供一流的服务帮你管理。这一招非常聪明。它成了他们战略的支柱之一:你想要多云?我们让它变容易。当然,你也可以同时选 AWS 或 Azure,会很好用的。

David,如你所说,甲骨文前总裁托马斯·库里安 2018 年底入职。论懂企业客户的需求,你找不到比甲骨文前总裁更好的人选了。营收增长立竿见影。

2020 年,他们营收突破 130 亿美元,三年几乎翻了三倍。他们往销售和市场(go-to-market)组织里招了差不多一万人——我没夸张。而他刚来的时候这个团队基数是 150 人,还大多坐在加州,没有按区域分布到全球。最好笑的是:谷歌骨子里一直都是一家云公司,他们有最好的工程师在造这套惊人的基础设施。

David: 产品有,基础设施有,缺的只是销售组织。

Ben: 而且产品化全是“谷歌味”的——给我们自己、给工程师用的。他们没有真正按大企业想要的方式去造东西。这一切全变了。2022 年营收 260 亿美元;2023 年,他们成了真正有竞争力的第三朵云,也在 2023 年扭亏为盈。今天,他们的年化收入超过 500 亿美元,同比增长 30%,是主要云厂商里增长最快的,五年五倍。

归根结底是三件事:(1)对“如何真正服务大企业”找到了信仰;(2)拥抱多云战略,真正给企业开发者想要的东西;(3)AI 对所有超大云厂商(hyperscaler)都是巨大的顺风,因为这些工作负载都得跑在云上——海量数据、海量算力和能源。但在谷歌云上你可以用 TPU,他们造了一大堆;其他所有人都在拼命求英伟达给 GPU 配额。如果你愿意不用 CUDA、建在谷歌技术栈上,他们有的是 TPU 给你。

David: 这就是为什么我们把云留到这期讲。谷歌云有两个层面,我认为他们当年从 App Engine 起步时并没预见到,但对今天的谷歌有巨大的战略意义。

第一就是:云是 AI 的分发机制。想在今天的 AI 里玩下去,你要么得有一个伟大的应用、一个伟大的模型、一块伟大的芯片,要么得有一朵伟大的云。谷歌想四个全都要。而我认为没有任何其他公司拥有超过一项。

Ben: 我觉得这个判断对。数数这些 AI 大玩家:英伟达有云,但算不上——他们只有芯片。造出了最好的芯片、人人都想要的芯片,但只是芯片。

再看其他大科技公司。Meta 目前只有应用,眼下完全退出了前沿模型的竞赛——看看他们这波招聘狂潮能淘到什么吧。看亚马逊:基础设施有,应用——也许吧?我其实不知道 amazon.com 算不算,它肯定在很多方面受益于大语言模型。

David: 主要是云。

Ben: 而且是云的领导者。微软,基本只有云。他们也做一些模型,但……

David: 他们也有应用,不过,对,主要是云。

Ben: 苹果呢?

David: 啥也没有。

Ben: 啥也没有。AMD,只有芯片。

David: OpenAI,模型。Anthropic,模型。

Ben: 这些公司连自己的数据中心都没有。他们放话要自研芯片,但其实没有,肯定也没有规模化的芯片。谷歌有规模化数据中心、规模化芯片、规模化的模型使用量——光 google.com 上跑 AI 概览的查询就是。

David: 还有规模化的应用。AI 的所有支柱他们全有,我认为其他公司没有一家拥有超过一项。

Ben: 而且他们手里亏得起的净利润也是最多的。

David: 再说说芯片这块。如果谷歌没有云业务,就不会有对外的芯片生意,只会有内部芯片业务。外部的人——用户、开发者、模型研究者——能用上 TPU 的唯一途径,就是谷歌有一朵云来交付。因为亚马逊或微软绝不可能把谷歌的 TPU 放进自己的云里。

Ben: 走着瞧。

David: 走着瞧吧。

Ben: 我觉得一年之内可能就发生。已经有传言说,未来几个月一些 neocloud(新兴云厂商)会上 TPU。

David: 有意思。

Ben: 还没官宣,但 TPU 很可能很快登陆 neocloud,这事挺有意思。谷歌图什么?他们是想做成英伟达那种卖芯片赚钱的生意吗?我不觉得。我认为他们更想围绕自家芯片建一个 CUDA 那样的生态,而要做到让人信服,前提是你的芯片随手可得,出现在大家跑现有工作负载的任何地方。

David: 真发生的话就很有意思了。你说的可能对,也许哪天 AWS 或 Azure 里真会有 TPU,但我不认为他们能直接从那一步起步。如果谷歌没有云,开发者根本没机会用上 TPU、开始想要 TPU,亚马逊或微软难道会说“行吧谷歌,给我们来点 TPU,尽管外面没有开发者用过”?

多空对决与七种力量检验

David: 好,那就进入分析环节。这一集我觉得得做多空对决了。

Ben: 这次必须做。

David: 得把这个环节请回来。

Ben: 讲“当下”的这几集,看来我们得把可能的未来都画出来。

David: 多空对决回归,我爱了。然后做打法手册(playbook)、七种力量(powers)、quintessence(精髓),一锤定音。

Ben: 完美。好,我的看多逻辑是这样:谷歌握有通往几乎所有人的分发渠道,是互联网的正门,想怎么导流就怎么导。你们在 AI 概览上看到了,在 AI 模式上也看到了。尽管很多人很多事都在用 ChatGPT,谷歌的流量(我猜)基本仍在历史高位,因为它是默认行为。

David: 对,这很强大。

Ben: 这赌的是执行力——赌谷歌能搞定落地、把 AI 做成一门大生意。但局是它的局,输也只能输在自己手里。

David: 而且他们手里有拿得出手的产品。我看不出 Gemini 比 OpenAI 或 Anthropic 的产品差在哪。

Ben: 完全同意。这是价值创造与价值捕获(value creation / value capture)的问题。价值创造已经爆表,价值捕获机制还没定(TBD)。谷歌旧的价值捕获机制是史上最好的之一,这才是问题所在。别搞混了——不是说体验不好,体验好得很。

我们还说过,谷歌握有赢下 AI 的全部能力,而且甩开别人一大截:基础模型、芯片、超大规模云厂商,全部自带造血能力。另一件疯狂的事是:云厂商能自我造血,英伟达能自我造血,而模型公司没一家能自我造血——全都依赖外部资本。

David: 谷歌是唯一一家自我造血的模型公司。

Ben: 这还不够疯狂吗?基本上其他所有大规模商用的基础模型公司实际上都是创业公司。而谷歌背后是一台大到离谱的印钞机,多余的钱还能随手回馈股东。再说一遍,我们还在看多环节。

David: 你这么一说,还真是。

Ben: 还有一点没提:谷歌的数据中心之间连着超级粗的管道。2000 年互联网泡沫破灭后,谷歌以地板价收购了大量暗光纤(dark fiber),过去十年一直在陆续点亮。现在他们在数据中心之间拥有自己的私有回传网络。没人有这样的基础设施,更别说它还服务着 YouTube。管子是真粗。

David: 这本身就是谷歌未来的又一条看多理由。

Ben: 说得好。

David: 本·汤普森昨天——就录制时间而言——刚发了一篇重磅文章讲这个。

Ben: 本·汤普森这周发的那篇简直是“超级看多雄文”,观点很有意思。文本互联网是旧互联网,只是互联网的第一种形态,因为当时带宽有限。而真正吸引人的用户体验是……

David: 视频。

Ben: ……无处不在、全天候的高清视频。

David: 我们已经活在 YouTube 互联网里了。

Ben: 他们不仅能在真正唯一规模化的 UGC 媒体源上训练模型——长视频短视频通吃——而且 YouTube 还是第二大搜索引擎、巨型目的地网站。他们预告过,你可以直接购买视频里由 AI 标注或 AI 识别出来的商品。

只要他们想,就能把每个视频里的每件商品全标注出来,一键全部可购买,完全不需要人工,然后直接套用现成的广告模式。本昨天发的那篇真是让人大开眼界——不过如果你是在这期上线几周后才听,那就是“几周前”发的了。

David: 还有他们一直在做的那些视频 AI 应用,比如 Flow 和 Veo。这对给 YouTube 生成视频意味着什么?会提升 YouTube 的互动和广告收入。效果会非常好。

Ben: 没错。他们的人才板凳深度依然吓人,尽管到处失血、走了些人。他们也证明了自己愿意为对的人砸下几十亿美元并留住他们。

再说单位经济(unit economics)。聊聊芯片的单位经济。所有人都在给英伟达交 75%–80% 的毛利率,意味着在芯片制造成本上加了四五倍的价。

很多人管这叫“黄仁勋税”或“英伟达税”。你可以这么叫,也可以叫好生意、定价权、供给稀缺,随你怎么叫,但事实就是事实。任何不自研芯片的人,都在向英伟达支付巨额、巨额的溢价。

谷歌仍要分一部分毛利给芯片硬件合作伙伴博通(Broadcom)——后者负责大量实际造芯片的工作、对接台积电。我听说博通跟谷歌合作 TPU 的毛利率大约 50%,而英伟达是 80%。但这中间的腾挪空间依然巨大。供应商毛利率 50% 还是 80%,就是加价 2 倍和 5 倍的差别。

David: 好像是这么算。

Ben: 这么一框定,对你成本的影响其实是天壤之别。你也许会很合理地问:芯片真是运营这些数据中心、训练这些模型的总拥有成本(TCO)的大头吗?芯片正是成本的主驱动,而且折旧极快,撑死五年——因为我们把芯片能力推得太快,下一代模型的需求太猛,台积电的产能爬坡也太快。

David: 五年都算乐观了。你要觉得 AI 芯片能折五年——别忘了五年前,我们离 ChatGPT 还有两年呢。

Ben: 或者想想黄仁勋说的——我们今年就在 GTC 现场。他讲 Blackwell 时顺嘴提到 Hopper,大意是:呃,你不会想要 Hopper 的。我的销售团队会恨死我,但到了这个节骨眼,你真的不想要 Hopper。那说的就是 H100——就在我们录最近那期英伟达节目时还是最炙手可热的芯片。

David: 变得真快。

Ben: 我看到的估算是,运营一个 AI 数据中心,过半成本是芯片及其折旧。人力成本——研发投入其实也不低,招这些 AI 研究员和所有软件工程团队都很烧钱,算 25%–33%。电力占比反而很小,2%–6%。

所以琢磨谷歌这门生意的经济账时,它对“你付给芯片供应商多少毛利”极其敏感,因为芯片是整盘生意最大的成本驱动。

这部分我跟加文·贝克(Gavin Baker)做过核对——他是 Atreides Management 的合伙人,我找他帮我备这期节目。他是一位很出色的公开市场投资人,研究这个领域很多年。我们还在英伟达 GTC 的预热节目里采访过他。

他指出,通常来说——在历史上的技术时代里——做低成本生产商没那么重要。谷歌赢不是因为它是成本最低的搜索引擎,苹果赢也不是因为成本最低。成本最低从来不是赢家的原因。

但这个时代可能真的不同,因为这些 AI 公司没有我们习以为常的科技行业——至少是软件行业——那种 80% 的毛利率。撑死了,这些 AI 公司也就 50% 左右的毛利率。

而谷歌运营全部自有基础设施、又能拿到低加价的硬件,是当之无愧的全球成本最低的 token 生产者,这影响巨大——甚至可能意味着,为全世界生产 token 的赢家就是他们。

David: 这看多逻辑相当有说服力。

Ben: 这论证绕得有点远,但说到底,他们就是生产 token 的。

David: 我再给谷歌的看多逻辑加一条。我们在第二部(Alphabet 那集)里聊过的一切——谷歌旗下所有其他产品,Gmail、地图、Docs、Chrome、Android——全都是谷歌拥有的、关于你的个性化数据,能拿来为你打造别人没有的个性化 AI 产品。

Ben: 又说得好。给看多环节收尾的真正问题是:跟搜索比,AI 算不算一门好生意?搜索是一门绝佳的生意。AI 目前不是,但抽象来看——重申,我们在看多环节,这条送你——它应该是。传统网页搜索,你输入两三个词,那是平均查询长度。

我跟比尔·格罗斯(Bill Gross)聊过,他指出在 AI 聊天里你经常输入 20 多个词,所以应该会演化出一种广告模式,而且广告单价应该高得多,因为精准度近乎完美。

David: 意图也更明确。

Ben: 你对用户想要什么门儿清,所以可以真正决定要不要给他投广告。AI 理应非常擅长广告投放。剩下要搞定的就是用户界面、付费与免费的比例、广告模式的具体形态。但理论上,尽管我们现在还不知道产品长什么样,它应该非常适合变现。

而且 AI 是如此神奇的变革性体验,那些原本发生在现实世界、或根本没发生过的交互——比如问问题、花时间找答案——现在都发生在 AI 聊天里。所以数字交互的蛋糕实际上比搜索时代更大了。再说一遍,蛋糕变大,变现理应随之增加。

然后还有一条看多逻辑:Waymo 自己就可能是一门谷歌量级的生意。

David: 我刚也想到这个。前面那些都还框在“替代搜索市场”里,而 Waymo 和其他超越传统搜索市场的 AI 应用,是在这之上做加法。

Ben: 然后是“银河大脑(galaxy brain)”级的看多逻辑:如果谷歌真造出了 AGI,前面这些全都无所谓了,因为它当然是最有价值的东西。

David: 那感觉超出 Acquired 节目的射程了。

Ben: 超纲了。对,同意。

看空环节。目前聊得都很嗨,但问题是,AI 的产品形态一直不太适合广告。价值创造更多,价值捕获却少得多。按我在餐巾纸背面的粗算,谷歌在美国每用户每年赚大约 400 美元——一个所有人都在用的免费服务,一年赚 400 来美元。谁会为 AI 的使用权一年付 400 美元?只有很小一撮人。

David: 肯定有人付,但不会是每个美国人。

Ben: 有人会付 1000 万美元。但如果只盯着今天场上这局棋,我看不到马上可行的价值捕获路径。想想 1998 年谷歌上线,才两年就有了 AdWords——他们几乎瞬间就找到了绝妙的价值捕获机制。

David: 非常快。再补一条看空:回想 1998 年谷歌上线,它一眼就是碾压级的好产品。今天完全不是。

Ben: 对,今天有四五家产品都很能打。

David: 谷歌的专用 AI 聊天产品,一开始一眼就是明显更差的那个,现在顶多算跟好几家打平。

Ben: 他们握着搜索市场 90% 的份额。AI 市场他们占多少我不知道,但肯定不是 90%。25%?不好说,但稳态大概就是 25%,最多到 50%。这会是多家巨头并存的市场。所以即便他们每用户变现做得跟搜索一样好,手里的用户也少得多。

David: 或者说,至少眼下看起来肯定是这样。

Ben: AI 可能会吃掉搜索的大部分使用场景;就算吃不了全部,我赌它会吃掉很多最高价值的。比如我要规划旅行,我会在 AI 里规划,不再上谷歌搜那些会把 Expedia 广告糊我一脸的东西。

David: 还有医疗,另一个巨型垂直领域。

Ben: 喂,我觉得我身上有点症状,像是间皮瘤,到底是不是?哦对,律师广告往哪放?也许就放那儿,也许只是广告产品形态的问题。但这些可是极高价值的……

David: 查询。

Ben: ……曾经的搜索。这些感觉正是最先被虹吸到 AI 里的东西。还有别的看空理由吗?

David: 我想补的唯一一条是:这一轮他们有额外的挑战——他们是在位者。人们和整个生态未必再像当年谷歌是创业公司时那样为它加油,也不像移动转型时那样还为它加油。

我觉得如今创业公司更得人心。这没法量化,但会让谷歌这一轮的路更难走一点。

Ben: 没错。上一回他们有惊人的公关和民心顺风。

David: 部分也是时代性的。整个科技业、整个大科技,如今在全国和全世界的口碑普遍不如 10 到 15 年前。

Ben: 因为它更重要了,成了巨型基础设施,不再是草根挑战者。

David: 这也波及 OpenAI、Anthropic 和那些创业公司,但我觉得程度轻一些。

Ben: 它们被迫在很早期就得表现得像大科技公司,比谷歌当年早多了。谷歌可是在 IPO 静默期接受了《花花公子》采访的。时代变了。

David: 呃,鉴于 OpenAI 那些抓马,我可不觉得他们算得上“行事像成熟公司”。

Ben: 有道理。

David: 公司实体,管他们是什么呢。但你的意思我接住了。

Ben: 我的打法手册基本都揉进故事里讲了。来做七种力量吗?

David: 好,来做七种力量。汉密尔顿·赫尔默(Hamilton Helmer)的七种力量分析,对象是 AI 时代的谷歌。七种力量是:规模经济、网络经济、反定位、转换成本、品牌、独占资源(cornered resource)、流程力量。

Ben: 问题是:这里面哪一种能让企业实现持久的差异化回报?凭什么让它持续赚到比最接近的竞争对手更多的利润?通常我们会就整个公司来做。这集我觉得应该把范围收窄到 AI 产品。

David: 同意。

Ben: 比的是 Gemini、AI 模式和 AI 概览的使用量,对阵 Anthropic、OpenAI、Perplexity、Grok、Meta AI 这组竞争对手。

David: 等等。规模经济,肯定有,而且在 AI 里比传统科技业更甚。

Ben: 他们就是强太多。你想,他们把模型训练成本摊到了每一次谷歌搜索上。AI 概览背后跑的肯定是某个高度蒸馏(distill)的小模型。但你想想,其他模型公司产生多少推理 token,Gemini 又产生多少推理 token——他们就是把固定的训练成本摊到了巨大、巨大的推理量上。我看过一张很夸张的图,回头发给邮件订阅用户。

2024 年 4 月,谷歌全平台处理 10 万亿 token。到 2025 年 4 月,接近 500 万亿。一年之内,谷歌各项服务通过推理吐出的 token 量涨了 50 倍。

2025 年 4 月到 6 月,又从略低于 500 万亿涨到略低于 1000 万亿——严格说是 980 万亿。而现在——因为已是夏末——他们吐出的 token 量肯定奔着好几千万亿去了。

David: 哇。

Ben: 所以除了摊薄硬件成本这些明摆着的规模经济,他们还把训练成本摊到了海量的价值创造上。

David: 规模经济肯定是最大的一条。

Ben: 我觉得转换成本相当低。我拿 Gemini 干点活,然后换走毫无障碍。等到个人 AI 真到那一步——像你说的,跟你的日历、邮箱全打通——可能就不是这样了。

David: AI 产品的转换成本目前还没真正显现,不过我预期会有的。

Ben: 企业市场里肯定已经有了。网络经济呢?我不觉得别人也用 Gemini 对我有什么好处——反正不管有没有人参与,他们都在把整个互联网吸进去。

David: 同意。我确信 AI 公司迟早会长出网络经济,我能想到几种玩法,但目前确实没有。至少对基础模型公司来说,眼下想不出明显的机制。

Ben: 汉密尔顿把“分发”归到哪一类?这是他们现在有而别人没有的东西。尽管 ChatGPT 已经像 Kleenex 一样成了品类代名词,谷歌的分发依然不可思议。这算独占资源吗?

David: 算独占资源吧,嗯。

Ben: 肯定是。

David: 谷歌搜索绝对是一项独占资源。

Ben: 反定位肯定没有——他们正在被别人反定位。流程力量我觉得也没有,除非他们能稳定地再憋出下一个 Transformer,但我们未必看到了这种迹象——一堆实验室都在做很棒的研究。品牌他们有。

David: 品牌这条挺微妙。我刚想说,这跟我看空那条有点像——他们是在位者。

Ben: 它是双刃剑,但我觉得净效应为正。

David: 可能吧。多数人信任谷歌。

Ben: 他们可能不信任那些谁知道哪来的 AI 公司,但“我信谷歌”。只要他们还愿意发布最前沿的东西,我赌这条的正向作用大于任何减分。

总结一下:最大的一条是规模经济,外加品牌和独占资源。

David: 以及未来出现转换成本的潜力。嗯,我觉得对。

Ben: 但很说明问题的是,不是七条全占。当年的搜索,明摆着是全占或占了绝大多数。

David: 相当说明问题。

精髓:创新者的窘境最迷人样本

Ben: 告诉你吧,花了好几个月、无数小时研究这家公司之后,我把一切浓缩成的精髓只有一句:这是“创新者的窘境”有史以来最迷人的样本。

拉里和谢尔盖控制着公司。他们反复公开说过:宁可破产,也不能输掉 AI。他们真的会吗?如果 AI 不如搜索那样是好生意——当然感觉它一定是、必须是,就凭那巨大的价值创造——如果真不是,而他们要在两个结局里二选一:一边是践行“整合全球信息,使人人皆可访问并从中受益”的使命,另一边是保住全球最赚钱科技公司的宝座,哪个赢?因为只要使命优先,他们在 AI 模式上就该远比现在激进,直接全面切换到 Gemini。这根针实在太难穿了。

我其实非常佩服他们目前护住核心基业的手法。但这也可能是那种地基正在被侵蚀、只是财报上还没显现的局面。我不知道。

David: 完全同意。而且——也许是受你影响——我的精髓也是这个的一个版本。我觉得放眼所有大科技公司,尽管开局形势看似不利,谷歌大概是在 AI 上“穿针引线”做得最好的一家。

这非常难能可贵,要记在桑达尔和管理层头上。他们在做艰难的决定:合并 DeepMind 和 Brain,收敛统一到一个模型,然后飞快地把东西发出去——同时又不做鲁莽的决定。

Ben: 很难。快速但不鲁莽,对吧?

David: 对。显然这一切还在开局阶段,十年后才知道结局。

Ben: 既要当使命的守护者,又要当上市公司股东眼里基业的守护者,这是个艰难的双重使命。桑达尔和公司处理得异常出色,尤其考虑到他们五年前的处境。而且我认为,看它如何演进,会是历史上最迷人的商业样本之一。

David: 完全同意。好了,谷歌系列就此收官——暂时。

私货与致谢

Ben: 好,上 carve out(私货)。

David: 好,上私货。先插一句,我们有一个特别、特别好玩的宣布要告诉大家:NFL 给我们打电话了。

Ben: 我们要去超级碗了,宝贝。

David: Acquired 要去超级碗了。太酷了。

Ben: 史上最疯的事。

David: NFL 要在超级碗那一周——超级碗周日之前的周五——办一场创新峰会。今年超级碗二月在旧金山举行。超级碗回到旧金山,NFL 顺理成章办一场创新峰会,而主持人是我们。

Ben: 没错。前一个周五会有很棒的台上对谈和节目。各位大多数人——超级碗那一周旧金山每个场馆都爆满,我们没法把几百万人塞进一个小礼堂——所以会有线上直播观看的机会。临近二月那个日子,我们一定告诉大家怎么收看超级碗周的主持、对谈和现场盛况。

David: 那将是通往那个伟大周日的、无比精彩的一天。

Ben: 说到体育,我的私货是:我终于去看了《F1》电影。太棒了,强烈推荐给所有人,不管你是不是 F1 车迷。它就是纯粹的大银幕美学。

David: 太赞了。你是去影院看的还是……?

Ben: 影院,对。

David: 哇,讲究。

Ben: 可惜错过了 IMAX 窗口期,但依然很棒。那是我好久没进电影院之后的第一次。不管你在家看还是影院看——我推荐影院——不管在哪,都会是很棒的环绕声体验。

David: 我上次进电影院还是时代巡演(Eras Tour)大电影,这大概更多反映了我目前带俩娃的家庭生活状态。

Ben: 我的第二个——要笑就笑吧——是 Travelpro 行李箱。

David: 就是飞行员和空乘用的那个牌子?

Ben: 也许吧,我见过他们中有人用。他们通常用更高端的,比如 Briggs & Riley 或 Tumi……Travelpro 不算最高端的箱子,但我们带两岁娃出国旅行,我买了两个超大号。

必须说,真结实。轮子滑起来特别顺。该有的功能都有。软壳,可以塞得满满当当,但保护层也够厚,塞爆了估计也坏不了。这差不多是你能买到的最便宜的行李箱了。

我看的是国际托运大箱款,亚马逊现在 416 美元,我见过更便宜的——他们经常打折。这箱子方方面面都戳中我。我原本百分百以为自己会是买 Rimowa 那种高端箱的人,结果这个就完美。我可能会再入手几个 Travelpro。

David: 更多 Travelpro,不错。家庭出行嘛,你不会想要娇贵的东西。

Ben: 对,我买的时候想的是“这趟就随便买个便宜的凑合”,结果好用爆了。我不明白我有什么理由不来一整套 Travelpro 装备……

David: 绝了。

Ben: 这就是我“买便宜货却买对了”的推荐,强烈安利给各位。

David: 我爱看 Acquired 越来越像 Wirecutter 了。

Ben: 我今天就这些。

David: 好。我有两个私货——一个正经的,外加我的谷歌主题私货连续剧的更新。先说正经的:Glue Guys 播客。

Ben: 哦那个很赞,那几位太棒了。

David: 太棒了。我们的好哥们、红杉合伙人拉维·古普塔(Ravi Gupta),跟他的朋友们——前篮球运动员肖恩·巴蒂尔(Shane Battier),以及 49 人、堪萨斯城酋长、华盛顿红皮的前四分卫亚历克斯·史密斯(Alex Smith)——三个人的化学反应好得不得了,玩得特别嗨。

他们一半的节目像我们一样就他们自己聊,另一半请嘉宾。我和 Ben 几周前上过一次,特别开心。我们在节目里聊到一种心态:有的集数据好有的差,做节目会有压力什么的。

那几位提到他们采访过一个叫赖特·汤普森(Wright Thompson)的人。他们说:你看,那一集只有 5000 收听,没人听,但它太好了。我们的心态不是“没人听很丢脸”,而是“我们为还没听过的人感到遗憾,因为它太好了”。我一听:这才是对待自己节目的正确心态。

Ben: 所以你这就给大家送福利了……

David: 我们就是在给大家送福利——因为我当时的反应就是:行,那我得去听听这集。

赖特·汤普森,我之前对他一无所知,这些年多半在杂志上读过他的文章而不自知。这哥们太酷了,口音跟比尔·格利(Bill Gurley)一模一样。听他说话就像:假如比尔·格利没当风投,而是只写体育,把一辈子献给研究运动员和教练的心态与心理——就是这么个感觉。太酷了,太酷了。那一集很棒,强烈推荐。

Ben: 行,我现在就真心实意把它排进收听队列。

David: 好,那是我的私货。然后是我的家庭游戏连续剧的更新。在谷歌第一部里我说过,我在 Switch 2 和 Steam Deck 之间纠结。

Ben: 对。然后你先买了 Steam Deck,因为你断定女儿还没到能跟你一起打游戏的年纪,所以就先给自己买了。

David: 更新一下:我出于那个原因选了 Steam Deck,想着只给我自己玩的话它更合适。现在又有更新了。

Ben: 你又买了台 Switch?

David: 还没。但最神奇的事发生了:我女儿注意到家里多了这么个爸爸时不时玩的设备。我们在度假,我在玩 Steam Deck,她凑过来问:这是什么?那我就跟你讲讲。

我在玩一个很酷的独立复古 RPG,叫《Sea of Stars》,是《时空之轮》(Chrono Trigger)那种超任风格的 RPG。我正玩着,女儿凑过来问:我能看你玩吗?我说:当然能看。我能打游戏,你又能坐这儿跟我腻在一起,完美。

Ben: 我能打游戏,还能管这叫带娃。

David: 然后更妙的来了。大概两周前,我们正玩着,她说:爸爸,我能试试吗?我说:当然可以。我把 Steam Deck 递给她,那是我当爹以来最奇妙的体验之一——她完全不会玩游戏,我看着她学怎么用摇杆、怎么按键。

Ben: 哇,监督学习(supervised learning)。

David: 对对对,监督学习。我在旁边告诉她该做什么,两三个晚上她就上手了。她还不识字呢,但她自己琢磨明白了,我就这么实时看着她学会。

最近这周,已经变成主要是她在玩、我在旁边当顾问,问她:你觉得这里该怎么办?要不要去这儿?我觉得目标是这个,我觉得这里应该……太好玩了。

她生日快到了,我可能很快真的会买台 Switch,这样我们就能一起玩了。但纯属意外——Steam Deck 成了我快四岁女儿的游戏启蒙。

Ben: 太棒了。瞧瞧,年度最佳老爸在此。又能打游戏,又能跟老婆说“亲爱的,娃我来带”。

David: 对,我来带。

Ben: 好,听众朋友们,这期我们要感谢很多人,跟太多人聊过,他们对这期节目至关重要。

David: 首先感谢《连线》(Wired)的史蒂文·利维和他写谷歌的经典著作《In the Plex》,它是我们三期谷歌节目的重要资料来源,绝对值得买来读。

还要感谢彭博社的帕米·奥尔森,她写 DeepMind 和 OpenAI 的书《Supremacy》是这期的主要资料来源。

我猜也得感谢凯德·梅茨吧?

Ben: 感谢他的《Genius Makers》,对,好书。

David: 调研致谢名单:马克斯·罗斯(Max Ross)、利兹·里德(Liz Reid)、乔希·伍德沃德(Josh Woodward)、格雷格·科拉多、塞巴斯蒂安·特伦、安娜·帕特森(Anna Patterson)、布雷特·泰勒、克莱·巴沃尔(Clay Bavor)、德米斯·哈萨比斯、托马斯·库里安、桑达尔·皮查伊。

特别感谢尼克·福克斯(Nick Fox)——他是唯一一位我们三期谷歌节目都采访到的调研对象。帽子戏法达成。

Ben: 感谢 Worldly Partners 的阿尔温德·纳瓦拉特南(Arvind Navaratnam),他那篇 Alphabet 深度研报很棒,链接在节目备注里。

感谢乔纳森·罗斯——TPU 的原始团队成员,如今是 Groq 的创始人兼 CEO,做推理芯片。

感谢 Waymo 的德米特里·多尔戈夫(Dmitri Dolgov)和苏珊娜·菲利翁(Suzanne Philion)。

感谢 Atreides Management 的加文·贝克。

感谢 Spyglass 的撰稿人 M.G.·西格勒(M.G. Siegler)。M.G. 是我最喜欢的科技作者和评论员之一。

David: TechCrunch 的元老级作者。

Ben: 没错。感谢本·艾德尔森(Ben Eidelson),他是这期节目的绝佳思想伙伴,他最近在 Stepchange 播客上讲数据中心历史的那期也非常棒,没听过的话强烈推荐。那档播客总共才做到第三集,单集就已经有大概三四万收听了,起飞了。

David: 厉害。兄弟,比我们第三集的时候强多了。

Ben: 比我们当年强多了。如果你喜欢 Acquired,你会爱上 Stepchange 播客。Ben 是我的至交,强烈推荐去听听。

感谢 DeepMind 团队的科雷·卡武克丘奥卢(Koray Kavukcuoglu),他在构建 Gemini 核心模型。

感谢 Grammarly 的 CEO 希希尔·梅赫罗特拉,他之前管过 YouTube 的产品。

感谢 Phaidra 的 CEO、DeepMind 前成员吉姆·高。

感谢 Benchmark 合伙人切坦·普塔贡塔(Chetan Puttagunta)。

感谢阿卡什·帕特尔(Akash Patel)帮我梳理结论,也感谢 Oakcliff Capital 的布赖恩·劳伦斯(Bryan Lawrence)帮我想清楚 AI 数据中心的经济账。

喜欢这期的话,可以去听我们 Alphabet 那集,讲的是 2010 年代谷歌的历史,当然还有我们的微软系列和英伟达系列。听完这期,去听 ACQ2 对 Shopify 创始人兼 CEO 托比·吕特克(Tobi Lütke)的访谈,然后来 acquired.fm/slack 的 Slack 社区跟我们一起聊。

David: 别忘了 Acquired 十周年庆典。我们要办一场开放的 Zoom 电话会,像当年一样的 LP 电话会,任何人都能来。听众们,Zoom 上见,时间是太平洋时间 10 月 20 日下午 4 点,详情在节目备注里。

Ben: 好了听众朋友们,下期见。

← 返回洞见列表