ARTICLE SIGNAL

Anthropic崛起史深度解析:Claude背后的安全信仰与商业博弈

深入解读Anthropic崛起史,探索Claude背后的AI安全理念、与OpenAI的决裂真相,包含Claude官网,Claude国内使用,Claude镜像站,Claude教程等核心关键词。

type
status
date
slug
summary
tags
category
icon
password
网址
五年,年化营收超过800亿美元,上市首日完全稀释估值一度触及2万亿美元。这是一条在人类商业史上几乎从未出现过的增长曲线。
先知、救世主情结、宗教领袖,这也是在一个以技术与理性著称的行业里,几乎从未看到的标签。而如今,它们同时落在了一家公司身上:Anthropic。在巨大的光环和争议声中,Anthropic于美国时间11月19日,以股票代码ANT正式登陆纳斯达克。
它创造了人类商业史上的众多奇迹,同时,也深陷于AI安全、开源与权力的巨大争议漩涡。有人说,Anthropic是这个AI狂热时代里,唯一还在坚守AI安全底线的“良心企业”。也有人说,这不过是一场打着“为全人类”的旗号,精心设计的传教式表演。
那么,一家曾经站在行业边缘的AI实验室,是如何用不到几年的时间,就长成了一个前所未见的庞然大物的?这场疯狂增长的背后有哪些不可忽视的关键节点?Anthropic的胜利,究竟是一场理想主义者的坚持,还是一场另辟蹊径的商业叙事?IPO之后,它又将面临什么样的前路与挑战?
带着这些问题,我们采访了投资人、资深媒体人、律师,以及与Dario Amodei早期共事过的从业者,并进行了多次匿名交流。我们尝试从技术、资本、架构、文化信仰等多个方面,重新梳理这家公司走过的每一步,呈现出一个完整的Anthropic崛起史。
2014年11月,深度学习那场革命似乎已经进行到后期了。图灵奖得主们、“深度学习三巨头”Geoffrey Hinton、Yann LeCun、Yoshua Bengio早把地盘分完。而Dario Amodei,这个在十年之后的大模型时代家喻户晓的名字,在当时刚念完博士、做完博士后。此前他是一名研究型学者,先在普林斯顿做计算神经科学,又转到斯坦福医学院。百度硅谷AI实验室,是他真正意义上的第一份工作。
很多年以后,Dario Amodei已经成了华盛顿最强硬的对华鹰派之一,他在百度到底经历了什么,到今天几乎成为了一个人人都在调侃的梗。我们在他的一些采访和早期同事的交谈中了解到,很多后来定义Dario、影响Anthropic的思想和技术判断,都可以追溯到他在百度的那一年。
当时的百度 AI实验室位于硅谷Sunnyvale的一栋一层小楼里,由斯坦福教授吴恩达掌管,最开始只有二十几号人。他们有一屋子显卡、一堆数据,以及一个明确的目标:造出全世界最好的语音识别系统。
Greg Diamos,他是英伟达CUDA系统的联合缔造者之一,也是被吴恩达招进百度硅谷实验室的第一批研究员。他在硅谷101的采访中告诉我们,当年Dario Amodei差一点就被挡在了百度门外,但他“力排众议”把他招进了百度,因为Dario的代码实在写得太好了。
Greg Diamos
英伟达CUDA早期架构师、前百度美国研究院AI研究员
我记得当时是我面试的Dario。其实挺奇怪的,因为Dario的背景是神经科学和生物学。他当时给我看了一段类似计算生物学模拟的代码。
我把那段代码看了一遍,当时就觉得,这是我见过最好的软件代码之一。所以我当时想,好吧,我根本不在乎你的背景是什么,这个人应该有能力把这件事搞明白。
但其他很多面试官都反对,因为他没有GPU背景,没有明确的计算机科学背景,也没有AI背景。所以我当时真的花了很大力气去争取。但最后,他们就说,好吧,那我们没意见了。
进入百度之后,Dario当时的工作并不复杂。用他自己的话说,他只需要“拧旋钮”。给循环神经网络加几层,多喂点数据,多训一会儿,然后坐在那看指标会往哪儿走。然后他发现,结果每一次都指向同一个方向:数据更大,效果就更好。平滑,稳定,像有只看不见的手在后台匀速推着一个刻度盘。
这项工作最后长成了Deep Speech 2,被《麻省理工科技评论》评选为2016年的十大突破技术。在此之前,语音识别中,声学模型、语言模型、发音词典,一层层都需要手工调试处理,每一块都得耗上好几年去搭。但Deep Speech 2让一个端到端的神经网络接管所有工作:只需要把音频和文本喂进去,剩下的交给网络自己学。
这件事在旁人看来更多是一个产品上的突破,但在Dario眼里,这就是他第一次意识到的scaling law(规模定律)的雏形。
Dario Amodei
Anthropic联合创始人、CEO
我只是看到了一些非常一致的规律。当时我其实并不知道这有什么特别,也不知道其他人并不是这么想的。这有点像新手的运气,因为这是我第一次接触这件事。而且当时除了语音识别,我也没有想得更远。我只是觉得,好吧,我对这个领域什么都不了解,机器学习能做的事情太多了。
但我当时就觉得,很奇怪,这个规律在语音识别领域似乎确实成立。
Scaling law只是百度给Dario埋下的第一颗种子,在那里,另外一颗日后影响巨大的种子也被埋下,那就是——AI安全。在百度开发语音系统时,Dario发现模型在干净、无口音的美式英语上表现近乎完美,可一旦换成带口音的语音,准确率就断崖式下跌。模型在训练分布内极其强大,在分布之外却异常脆弱。关键是他没法看进内部,也弄不清模型究竟为什么会这样,又在什么时候会突然失灵。
所以他也开始思考AI安全问题。能力和风险,或许就是AI的一体两面,这也成为了日后Anthropic创立的地基。
而在我们梳理Dario的早期经历的时候,还有一点挺让人感慨的发现:百度,其实曾经是站在了离GPT最近的地方。Greg Diamos告诉我们,英伟达GPU在AI领域几乎无人问津的时代,是百度率先发现了它的潜力。而百度的硅谷实验室,也是当时行业内最早一批发现、并系统性总结Scaling law的团队。
Greg Diamos
英伟达CUDA早期架构师、前百度美国研究院AI研究员
如果没有百度,英伟达可能就不会成为市值最高的公司。我们当时从来没有发表过 Deep Speech里关于 scaling law的那部分,但它其实一直都在我们的实验记录里。
几年之后,等我们完全确定这个规律是正确的,我们才发表了一篇论文,叫《Deep Learning Scaling is Predictable》。然后当然,Dario后来去了 OpenAI,又把这件事复现了一遍,他们把它叫做GPT。
2017年12月发表的论文《Deep Learning Scaling is Predictable, Empirically》,核心发现是模型性能会随着训练数据和计算规模的扩大,呈现稳定且可预测的幂律增长。那时距离GPT-1论文问世还有半年。参与过这项研究的Dario也曾在采访中证实,这篇论文的发现,在一定程度上重新塑造了他思考和研究问题的方式。
Dario Amodei
Anthropic联合创始人、CEO
我离开百度之后,他们又继续探索了这个方向,后来就变成了一篇叫《Deep Learning Scaling is Predictable, Empirically》的论文。
这件事一直很影响我的思考方式。也就是说,一旦你知道了怎么解决某一个特定任务,一旦那些概念层面的东西都理顺了,那么随着规模扩大,它的表现就会呈现出一种非常平滑的规律。
遗憾的是,百度最终与GPT失之交臂。Dario也在百度工作约一年后,转而加入谷歌。
2015年,Dario加入Google Brain,手里的算力和数据一下子又上了几个量级。紧接着,他在下棋、游戏、机器人这些不同领域里,都看到了在语音识别里出现的类似曲线。
当时,硅谷有一股重要的思潮正在崛起,那就是EA(有效利他主义)。EA最初兴起于哲学和慈善领域,主张用理性和科学的方法,让有限的资源创造最大的社会价值。其中,超级人工智能可能带来的生存风险,是这个社群的重要议题。
2010年前后,EA逐渐在硅谷科技圈影响力加深,不少科技领袖、投资人和创业者都成为EA的重要资助者和倡导者,Dario和当时在谷歌与他邻桌的Chris Olah,也投身其中。
Chris Olah是一个没读完大学、痴迷于拆解神经网络内部构造的自学者。他研究的那门学科当时几乎无人问津,但现在在AI业界是关键的存在,叫做:可解释性。后来,他和Dario一起去了OpenAI、又一起创立了Anthropic。
Chris和Dario的合作非常紧密,并且互补,他们一个人盯着模型做大之后外面会怎样,另一个人盯着里面为什么会这样。在2016年,两人合作写下了后来 AI 安全领域最具影响力的论文之一《Concrete Problems in AI Safety》。这篇论文让AI安全第一次有了清晰的研究框架,也直接推动了AI 安全从一个小众议题逐渐成为行业公认的重要研究方向。
前《纽约时报》的科技评论员Kevin Roose对硅谷101表示,正是因为EA的浪潮,把这群最聪明的年轻人们聚集了起来。
Kevin Roose
《纽约时报》前科技评论员、知名科技作家
这些年来,EA(有效利他主义)在很多方面都做得不错,但其中一项具有最深远长期影响的贡献是:它促使了一批非常聪明的年轻人对“人工智能安全”产生浓厚兴趣,并引导他们积累专业技术能力、攻读博士学位,最终投身于人工智能安全领域。因为他们认为,这是自己发挥影响力、做出改变的最佳途径。
就在Dario写这篇论文的过程中,一位叫Jack Clark的Bloomberg记者找上了门。没错,后来他也成为了Anthropic的创始人之一。Jack Clark当时密切地追踪着AI领域的动态,隐隐约约感觉到一种强大的趋势正在形成,但当时几乎没有人相信他。
Jack Clark
Anthropic联合创始人
我记得2015年时,我曾试图说服彭博社让我写一篇关于英伟达的报道,因为当时每一篇人工智能研究论文都开始提到GPU的使用,但他们觉得这简直是疯了。后来,2016年我离开新闻界转投人工智能领域时,还收到过一些邮件,上面写着:“你正在犯下人生中最糟糕的错误。”
2016年10月,Jack Clark从记者转行,加入了OpenAI。就在Jack Clark加入OpenAI的几个月前,Dario Amodei和Chris Olah 也已相继入职。至此,一支日后改变AI格局的团队,开始在OpenAI悄然集结。
他们加入时,OpenAI刚成立不久。作为一个拥有十亿美元启动资金的非营利组织,顶着“确保AGI造福全人类”的使命,它吸引了一大批当时的顶级AI研究员。为了摸索AGI的正确道路,机器人、游戏智能体、生成模型,各种方向都在OpenAI内部展开。
坦白地说,Dario一开始站的位置离聚光灯很远。他手里攥着刚在Google写完那篇论文,在OpenAI负责安全团队。大语言模型这条线,起点其实和Dario也没什么关系。
2018年,Google的Transformer架构问世后,Alec Radford敏锐地嫁接Transformer,并使用包含超过7000部未出版小说的资料集,约1.17亿参数进行了训练。接着,2018年6月,《Improving Language Understanding by Generative Pre-Training》论文发表,而这,就是GPT-1。
当时,这篇论文只有短短几页,作者一共四个人,在当时的OpenAI内部,就只是个兴趣小组的规模。GPT-1反响平平,但Dario却从中看到了熟悉的东西:他在百度和谷歌看到的那条曲线,又出现了。他把这个观察写成一份后来在OpenAI内部广为流传的备忘录《大算力团块》(The Big Blob of Compute),核心论点就是:通往更强AI的路,大概率就是砸算力。
2019年2月,15亿参数的GPT-2问世,Dario Amodei的名字第一次出现在GPT论文的作者栏里。GPT-2能一口气写出几段模仿新闻和小说的腔调文字,甚至还显现出了初步推理的能力,开始在OpenAI内部收获更多关注。
2019年底,Dario升任OpenAI研究副总裁,他开始有了更多资源和能力来组织关于GPT的研究。首先,就是要说服世界,Scaling law是值得押注的道路。于是Dario拉来了他物理学博士时期的老朋友、约翰·霍普金斯的教授Jared Kaplan,与擅长实验设计的研究员Sam McCandlish、以及日后GPT-3的第一作者Tom Brown。
他们把不同规模的模型摆在一起测量分析后发现,语言模型的能力提升遵循着一条非常清晰的数学规律:随着模型参数、训练数据和算力的增加,模型性能会以一种可以预测的方式持续提升。并且让人惊讶的是,这条规律非常精确。
2020年1月,《Scaling Laws for Neural Language Models》发表。至此,scaling law从一份内部备忘录正式变成了带公式的科学。剩下的事,就是把更大的数字代进这个公式。微软的十亿美元投资换来了一台专用超级计算机,2020年6月,1750亿参数的GPT-3问世,震动了整个AI行业。
GPT-3会写代码、能翻译、能写出真假难辨的文章、能够实现多步推理,它甚至不用为每件事单独训练,提示里给几个例子,它就能照着做出来。日后Anthropic的联合创始人们和核心科学家,也几乎全员出现在这篇论文的作者栏中。
从GPT-1到GPT-3,短短两年,大语言模型的能力一路狂飙。可越往前走,作为亲手推动者的Dario心里越不踏实。他同时看到硬币的另一面:AI安全受到的重视,并没有跟上模型能力的发展。而对于安全的坚持,也成为这群关键研究者日后与OpenAI分裂的导火索。
▍OpenAI的内部分裂
2020年末,当时的OpenAI表面上正沐浴在GPT-3无上荣光之中。但在内部,一场决定AI未来的路线斗争,其实已经悄然到达了沸点。
Ben Mann
Anthropic联合创始人、前OpenAI研究员
OpenAI有一点奇怪的地方是,我在那里的时候,Sam谈到公司内部存在三个派别需要相互制衡的:安全派、研究派和创业派。
在公司内部,围绕这些问题的张力却无处不在。当真正需要做出抉择的时候,我们感觉安全并不是真正的第一优先级。
Sam Altman和Dario Amodei之间的“爱恨情仇”,如今是科技圈里大家吃瓜吃得最津津乐道的话题。两人的关系甚至僵到了不愿在公开场合维持表面和谐的程度:在印度一场大会上同台合影时,两人连手都不愿意碰一下。其实他俩的裂缝,早在OpenAI时期就开始了。
Kevin Roose
《纽约时报》前科技评论员、知名科技作家
一直有一种说法,Anthropic团队离开OpenAI,是出于对安全问题的担忧。这是当时公开的解释,但事实的真相却在于:Sam Altman、Greg Brockman以及Dario 和Daniela Amodei之间,多年来一直存在着极其离奇的矛盾。这些矛盾对他们个人而言,有着非常切身的影响。
双方的分歧,可以从几件事中看到。2019年中旬,微软10亿美元的投资谈判接近落地。Dario希望在协议中保留一些重要的安全约束,Altman也表示同意。
但在协议落定前夕,Dario却发现微软获得了对相关条款的否决权。Dario找到Altman对质,却遭到否认。于是,他干脆打开合同,把相关内容直接念了出来,最后还找来另一位同事当面确认,Altman才勉强承认。Dario后来就回忆说:“OpenAI章程的80%,就在那天被背叛了。”
到了GPT-3准备发布时,类似的冲突又出现了。当时,OpenAI准备通过API向外部客户开放GPT-3。Dario担心模型被滥用,专门向Altman确认了测试客户名单。但后来他发现,公司内部还有一份更长的版本,而Altman并没有告诉他。
Sam Altman甚至还曾随意提出,要把当时保密性仍然很高的GPT-3内测版本,提供给歌手Kanye West使用。
Kevin Roose
《纽约时报》前科技评论员、知名科技作家
Sam Altman在一次派对上遇到了Kanye,提出可以给他开通GPT-3的内测权限。后来Sam Altman回到OpenAI就问,我们能不能想办法让Kanye West也参加内测。大家都听懵了,也很不满。大家觉得,这人疯了吧,我们不能让他参加内测。
Dario他们非常怀疑,为了推进商业化,管理层正在绕过他们和原定的安全机制。这类事情一次次累积,双方的分歧就变得愈发地不可调和了。此后,Dario和妹妹Daniela便开始在OpenAI内部组建自己的核心圈子。他们开设私密的Slack频道,单独开会,讨论AI产品和安全。而在一些没有被邀请进圈子的OpenAI的员工眼中,也开始觉得这群人变得越来越封闭、疏离,有些难以合作。
一开始,Dario想过跳槽去DeepMind,但Jared Kaplan给了他另一个建议,那就是大家一起出去自立门户。但是,当时Dario没有立刻走,他决定先找Altman谈判一下。
2020年,他和其他几个核心成员一起秘密建了一个Slack群,名字叫“BATNA”(Best Alternative to a Negotiated Agreement),大意是:如果谈不拢,备选方案是什么?
而这个Slack群组里的初始成员,就是如今Anthropic的那7位创始人,包括Dario Amodei、Daniela Amodei、Jack Clark、Sam McCandlish、Tom Brown、Chris Olah、Jared Kaplan。这些人,可以说是亲手参与搭建GPT-2和GPT-3,并且塑造了OpenAI整个研究文化的技术核心。
当时Dario想,或许他们这批核心人才对OpenAI足够重要,所以有可能OpenAI会妥协。他们拟了一系列条件,其中包括让安全团队拥有新产品发布的一票否决权,Dario可以直接向OpenAI董事会汇报等等。但最后,OpenAI的管理层没有接受他们的要求。于是七个人请来了律师,给这场离职起了一个名字:“The Divorce”——离婚。
Dario Amodei
Anthropic联合创始人、CEO
人们说我们离开是因为不满微软那笔交易,不对。也有人说我们离开是因为反对商业化,那也不是真的。GPT-3就是我们做的,我本人也参与了商业化的推进。问题的核心还是在于:你怎么做。
人类文明正在走向一个极其强大的AI时代,怎样才是走这条路的正确方式?怎样才能做到审慎、坦诚、诚实,真正在组织层面和个人层面建立起信任?安全,怎么能不只是我们挂在嘴边用来吸引招聘的一句口号。
2020年12月,OpenAI召开了一场全员线上会议。Sam Altman像往常一样讲完公司进展之后,然后把时间交给Dario。接着Dario宣布,自己和另外六名核心成员将一起离开OpenAI,聊天框瞬间被震惊的表情和消息刷屏。
Jack Clark留下最后一句:“I love you all” ,随后七个人就被移出会议,邮箱和Slack权限被立即撤销,电脑也被远程锁定。仅仅几个小时后,这七个人出现在另一个视频会议里,开始讨论成立新公司的问题。
Anthropic的故事,就从这里正式开始了。当时正是新冠疫情最严重的阶段,最早的筹建工作几乎全部在Zoom上完成。等到居家禁令解除,这些早期成员把据点搬到了旧金山的Precita公园。他们各自从家里拎一把椅子,带着热狗和Pizza,在公园草地上谈招人、算力和AI的未来。
最开始,他们想过把公司叫做“Sparrow Systems”,这个名字来自哲学家Nick Bostrom所写的《超级智能》。这本书里面有一个寓言,大致是说一群麻雀想找来强大的猫头鹰,却没想好该怎么控制它。2014年出版的《超级智能》,是早期AI安全...
Loading...

没有找到文章