深度｜對(duì)話 Anthropic CEO：少數(shù)幾個(gè) CEO 正在決定全人類下個(gè)十年的收益分配

　　圖片來源：Nikhil Kamath

　　如果說 2024 年是 AI 的大航海時(shí)代，那么 2026 年，我們已經(jīng)站在了巨浪拍岸的前夜。

　　本次訪談的嘉賓，是Anthropic 聯(lián)合創(chuàng)始人兼 CEO Dario Amodei。作為 ChatGPT 曾經(jīng)的幕后操盤手、如今 Claude 的掌舵人，Dario 的身上有一種獨(dú)特的教授氣質(zhì)：他從生物物理學(xué)的微觀復(fù)雜性中走來，卻在神經(jīng)網(wǎng)絡(luò)的 Scaling Laws 中找到了重構(gòu)世界的杠桿。

　　以下是本次訪談的核心觀察：

　　智能本質(zhì)上是一場精確的化學(xué)反應(yīng)。別再神化 AI 的涌現(xiàn)，Dario 認(rèn)為 Scaling Laws 本質(zhì)上就是物理公式：當(dāng)算力、數(shù)據(jù)與模型規(guī)模按照特定比例投入反應(yīng)堆，智能就會(huì)像化學(xué)產(chǎn)物一樣穩(wěn)定產(chǎn)出。這種“智能工業(yè)化”意味著未來的競爭不再是算法的靈光一現(xiàn)，而是頂級(jí)資源整合能力的暴力美學(xué)。

　　黑盒時(shí)代正在終結(jié)，AI 進(jìn)入“腦磁共振”階段。借助可解釋性（Interpretability）的突破，Anthropic 已經(jīng)能像 MRI 掃描大腦一樣，精準(zhǔn)定位模型內(nèi)部對(duì)應(yīng)邏輯推理、甚至是欺騙傾向的神經(jīng)元回路。這種從“盲目訓(xùn)練”到“回路級(jí)對(duì)齊”的范式轉(zhuǎn)移，意味著我們終于有能力從底層切除 AI 的反人類傾向，將安全從玄學(xué)變成了可驗(yàn)證的工程。

　　靜態(tài)數(shù)據(jù)紅利出清，動(dòng)態(tài)仿真環(huán)境成為新油田。互聯(lián)網(wǎng)上的文字遺產(chǎn)已被挖掘殆盡，現(xiàn)在的技術(shù)制高點(diǎn)是模型在代碼沙盒、數(shù)學(xué)邏輯等模擬環(huán)境中通過自我試錯(cuò)產(chǎn)生的動(dòng)態(tài)數(shù)據(jù)。這種基于強(qiáng)化學(xué)習(xí)的自我進(jìn)化，讓數(shù)據(jù)主權(quán)從“存量抓取”轉(zhuǎn)向了“閉環(huán)生產(chǎn)”，誰擁有最高效的閉環(huán)模擬器，誰就擁有了無限量產(chǎn)高質(zhì)量智能的權(quán)柄。

　　阿姆達(dá)爾定律（Amdahl's Law）決定了價(jià)值重分配。當(dāng) AI 讓寫代碼和基礎(chǔ)分析的效率提升千倍后，系統(tǒng)整體的上限將由那些“無法被 AI 加速的環(huán)節(jié)”決定。這就是為什么人類的決策判斷、跨領(lǐng)域整合以及對(duì)真實(shí)物理世界的感知反而變得貴如黃金，這些瓶頸環(huán)節(jié)承載了系統(tǒng)剩下的 90% 商業(yè)價(jià)值。

　　生物科技將成為 AI 之后的下一個(gè)主戰(zhàn)場。Dario 預(yù)言 AI 正在讓生命科學(xué)從偶然的實(shí)驗(yàn)走向連續(xù)的優(yōu)化，特別是肽類療法和細(xì)胞療法。通過 AI 預(yù)測氨基酸序列的微小變化對(duì)蛋白質(zhì)功能的影響，人類正在像調(diào)試軟件代碼一樣，重新編寫生命的底層邏輯，從而徹底治愈曾經(jīng)的絕癥。

　　讓我們跟隨 Dario Amodei 的視角，潛入這場重塑經(jīng)濟(jì)與技術(shù)格局的 AI 浪潮。

　　AI是否會(huì)全面超越人類

　　Dario Amodei：我開始更多地使用Claude，已經(jīng)到了這樣一個(gè)階段：有時(shí)它對(duì)我的了解之深，會(huì)讓我感到驚訝。我不知道這樣表述是否準(zhǔn)確，但這確實(shí)是我的真實(shí)感受。

　　更讓我驚訝的是，在我看來，我們已經(jīng)非常接近這些模型達(dá)到人類智能水平的那個(gè)節(jié)點(diǎn)了，但社會(huì)似乎還沒有形成與之相匹配的廣泛認(rèn)知。就像一場海嘯正在向我們逼近，它已經(jīng)近到我們能在地平線上看見，可人們?nèi)栽趯ふ腋鞣N解釋，說那不是真正的海嘯，只是光線造成的錯(cuò)覺。

　　我認(rèn)為，公眾對(duì)于風(fēng)險(xiǎn)并沒有建立起真正的認(rèn)識(shí)。

　　主持人：印度在這一切中的角色是什么？很多公司來到印度，都是把自己當(dāng)作消費(fèi)型公司，把印度看作一個(gè)市場、一個(gè)獲取用戶的地方。

　　Dario Amodei：我們的看法稍有不同。

　　主持人：在創(chuàng)辦Anthropic之前，你是做什么的？

　　Dario Amodei：我最初其實(shí)是一名生物學(xué)家。本科讀的是物理，博士學(xué)的是生物物理。那時(shí)我想理解生物系統(tǒng)，從而真正幫助治療疾病。

　　但在研究生物學(xué)的過程中，我最強(qiáng)烈的感受就是：它實(shí)在太復(fù)雜了。以我當(dāng)時(shí)做的蛋白質(zhì)質(zhì)譜工作為例，我試圖尋找蛋白質(zhì)生物標(biāo)志物，但你很快就會(huì)意識(shí)到系統(tǒng)復(fù)雜得驚人。一個(gè)蛋白質(zhì)對(duì)應(yīng)的RNA會(huì)根據(jù)它所在細(xì)胞的位置發(fā)生各種不同的剪接；之后它又會(huì)經(jīng)歷翻譯后修飾，比如磷酸化；它還會(huì)與大量其他蛋白質(zhì)形成復(fù)合體。面對(duì)這種層層疊加的復(fù)雜性，我一度開始懷疑，這是否已經(jīng)復(fù)雜到超出了人類直接理解的能力邊界。

　　就在那個(gè)時(shí)期，我開始注意到AlexNet等早期神經(jīng)網(wǎng)絡(luò)工作的出現(xiàn)——那已經(jīng)是差不多15年前了。我當(dāng)時(shí)的反應(yīng)是：AI開始真正“起作用”了。它和人腦工作方式有某些相似之處，但它又可能比生物系統(tǒng)更容易擴(kuò)展、規(guī)模更大，也許最終能學(xué)會(huì)處理像生物學(xué)這樣復(fù)雜的任務(wù)。于是我開始覺得，也許AI才是解決生物學(xué)問題、乃至更廣泛科學(xué)問題的真正工具。

　　后來我去了百度，和Andrew Ng一起工作；之后在Google待了一年；再后來，在OpenAI成立幾個(gè)月后我加入了它，并在之后幾年基本負(fù)責(zé)研究工作。

　　但到最后，我和另外一些同事逐漸形成了自己的看法：我們希望以怎樣的方式構(gòu)建AI，以及我們希望一家AI公司代表什么。于是我們離開并創(chuàng)辦了Anthropic。

　　主持人：所以，這可以理解為OpenAI的一條路線，最終分叉成了Anthropic的路線嗎？

　　Dario Amodei：可以這樣理解。我們當(dāng)時(shí)創(chuàng)辦Anthropic，有兩個(gè)核心信念。第一個(gè)，我們?cè)贠penAI內(nèi)部已經(jīng)開始逐漸說服大家接受；第二個(gè)，我并不覺得我們真正說服了當(dāng)時(shí)的機(jī)構(gòu)。

　　第一個(gè)信念是對(duì)規(guī)模定律（scaling laws）的判斷。也就是說，如果你不斷擴(kuò)大模型規(guī)模，投入更多數(shù)據(jù)和算力——當(dāng)然過程中會(huì)有一些補(bǔ)充，比如強(qiáng)化學(xué)習(xí)，但總體上還是非常接近“純粹擴(kuò)展”的邏輯——那么模型性能會(huì)出現(xiàn)驚人的提升。2019年做GPT-2時(shí)，我已經(jīng)開始看到這個(gè)趨勢的最初跡象。當(dāng)時(shí)無論在公司內(nèi)部還是外部，很多人都完全不相信這一點(diǎn)。我們當(dāng)時(shí)非常努力地向管理層說明：這件事極其重要，它會(huì)變成一個(gè)巨大的方向。后來他們也逐漸開始接受，并最終沿著這條路走了下去。

　　但我還有第二個(gè)判斷：如果這些模型最終會(huì)變成某種通用認(rèn)知代理，或者至少是接近人腦能力的通用認(rèn)知工具，那么我們就必須把這件事做對(duì)。它的經(jīng)濟(jì)影響會(huì)非常巨大，地緣政治影響會(huì)非常巨大，安全影響也會(huì)非常巨大。它會(huì)重塑整個(gè)世界的運(yùn)作方式，所以必須在正確的框架下推進(jìn)。

　　而我當(dāng)時(shí)雖然聽到了很多關(guān)于“要把事情做對(duì)”的表達(dá)，但基于很多原因，我并不相信那個(gè)機(jī)構(gòu)真的具備足夠嚴(yán)肅、足夠堅(jiān)定的決心去這樣做。

　　所以我的原則一直是：不要和別人的愿景爭論，不要試圖讓別人按照你的方式行事。如果你有非常明確的愿景，并且有少數(shù)人和你共享這種愿景，那就自己去做。這樣至少你要為的是自己的錯(cuò)誤負(fù)責(zé)，而不是替別人的決定背書。你的愿景也許會(huì)成功，也許不會(huì)，但至少它是你的。

　　主持人：但OpenAI后來也相信規(guī)模定律了，對(duì)吧？他們最后也走了同樣的路線。能不能非常簡單地解釋一下，什么是規(guī)模定律？

　　Dario Amodei：可以。你可以把它想象成一次化學(xué)反應(yīng)。比如你想讓某種反應(yīng)產(chǎn)生氧氣，或者點(diǎn)燃一團(tuán)火，你需要不同的原料。如果其中某一種原料不夠，反應(yīng)就會(huì)停下來；但如果這些原料按合適比例放在一起，反應(yīng)就會(huì)發(fā)生，火也就會(huì)點(diǎn)起來。

　　對(duì)于AI來說，這些“原料”就是：數(shù)據(jù)、算力和模型規(guī)模。規(guī)模定律告訴我們的，本質(zhì)上就是：如果把這些原料按比例投入進(jìn)去，最后產(chǎn)出的東西就是“智能”。某種意義上，智能就是這場化學(xué)反應(yīng)的產(chǎn)物。

　　主持人：那這里說的“智能”具體指什么？

　　Dario Amodei：它體現(xiàn)在很多能力上：翻譯語言、寫代碼、正確回答關(guān)于一段故事的問題，或者更一般地說，幾乎任何我們能想到的認(rèn)知任務(wù)。只要這個(gè)任務(wù)可以存在于文本或圖像中，只要它是一種可以在計(jì)算機(jī)上表達(dá)和完成的任務(wù)，模型都可能逐步學(xué)會(huì)。

　　主持人：那你所說的今天這種“智能”，和五年前的計(jì)算機(jī)能力相比，區(qū)別到底是什么？

　　Dario Amodei：最直接的區(qū)別是：五年前，你不能向一臺(tái)計(jì)算機(jī)提出一個(gè)問題，然后讓它圍繞這個(gè)問題寫出一篇一頁長度、結(jié)構(gòu)完整的文章；你也不能告訴它“幫我在代碼里實(shí)現(xiàn)一個(gè)功能”，然后它真的把這個(gè)功能實(shí)現(xiàn)出來。那時(shí)這些都做不到。

　　五年前，計(jì)算機(jī)不能生成圖像，不能生成視頻，也不能真正分析視頻內(nèi)容。比如你給它看一個(gè)“猴子在拋接球”的視頻，再問它“這段視頻里發(fā)生了什么？球一共換了幾次手？”——今天Claude或其他模型已經(jīng)能對(duì)這些問題給出回答，而五年前完全不可能。

　　主持人：我想確認(rèn)的是：這是不是意味著“智能”的定義本身改變了？

　　Dario Amodei：我不認(rèn)為定義變了。我更傾向于說：五年前，你能做的是Google搜索——也許網(wǎng)上有某個(gè)網(wǎng)頁能部分回答你的問題，但那只是檢索互聯(lián)網(wǎng)上已經(jīng)存在的文本。

　　而現(xiàn)在不同的是，你可以提出一個(gè)非常具體的問題，甚至給出一個(gè)假設(shè)場景，模型能自己組織推理并生成答案。比如你可以問：“如果不是讓猴子拋接球，而是讓它拋接棍棒，會(huì)發(fā)生什么？”這類問題并不存在現(xiàn)成網(wǎng)頁答案，但模型仍然可以基于已有知識(shí)進(jìn)行推斷，給出一個(gè)新的、合乎邏輯的回答。

　　所以這是一種全新的能力。它不再只是匹配互聯(lián)網(wǎng)上已有的文本，而是在一定程度上“自己想出了答案”。

　　主持人：這更像一場自由談話，所以你也可以講你真正想講的內(nèi)容。你說話時(shí)很有講授感——你以前教過書嗎？

　　Dario Amodei：我最初確實(shí)是學(xué)術(shù)路徑上的人，也一直以為自己可能會(huì)成為教授。我拿了博士學(xué)位，后來又在斯坦福醫(yī)學(xué)院做博士后，當(dāng)時(shí)的職業(yè)目標(biāo)就是進(jìn)入高校任教。

　　但正如我前面說的，我后來開始對(duì)AI產(chǎn)生濃厚興趣。而想真正做AI，尤其是做前沿AI，需要巨大的計(jì)算資源，這些資源當(dāng)時(shí)主要集中在工業(yè)界而不是學(xué)術(shù)界。所以我就偏離了原來的學(xué)術(shù)道路，進(jìn)入了產(chǎn)業(yè)界。再后來，經(jīng)過幾步轉(zhuǎn)折，我創(chuàng)辦了公司。

　　不過說到底，我有時(shí)還是覺得自己在心態(tài)上更像一個(gè)教授。

　　為什么應(yīng)用層創(chuàng)業(yè)仍然充滿機(jī)會(huì)

　　主持人：如果AI是這個(gè)時(shí)代最重要的變量，正在重新分配產(chǎn)業(yè)、權(quán)力與資源，而Anthropic又處在這一輪浪潮的高點(diǎn)，那么像你這樣一個(gè)原本想當(dāng)老師的人，如今站在這樣的位置上，你真的適合扮演今天這個(gè)角色嗎？

　　Dario Amodei：首先我想說，真正重要的人遠(yuǎn)不止少數(shù)幾個(gè)模型公司創(chuàng)始人。即便只看產(chǎn)業(yè)鏈，也有很多層：做芯片的人、做半導(dǎo)體制造設(shè)備的人、做模型的人、做模型上層應(yīng)用的人；再往外，還有政府、社會(huì)組織、公民社會(huì)。我的希望不是只有極少數(shù)人掌握一切決定權(quán)，而是讓真正相關(guān)的人群變得更廣，讓這成為一場更廣泛的社會(huì)討論。

　　但你這個(gè)問題確實(shí)也是公平的。因?yàn)樗赶蛄肆硪粚蝇F(xiàn)實(shí)：為什么恰恰是少數(shù)幾個(gè)人，在某種偶然性中，領(lǐng)導(dǎo)著這些增長極快、并且未來可能支撐巨大經(jīng)濟(jì)活動(dòng)的公司？

　　我公開說過很多次，我對(duì)這種權(quán)力高度集中的趨勢，至少是有些不安的。它幾乎是在一夜之間、近乎偶然地發(fā)生了。

　　因此，我們?cè)贏nthropic做了幾件事。第一，我們采用了一種不太常見的治理結(jié)構(gòu)，叫作Long-Term Benefit Trust。它由財(cái)務(wù)上沒有直接利益沖突的人組成，負(fù)責(zé)最終任命Anthropic大多數(shù)董事會(huì)成員。這至少構(gòu)成了一種對(duì)單一領(lǐng)導(dǎo)者權(quán)力的約束。

　　第二，我始終認(rèn)為政府應(yīng)該發(fā)揮作用。我一直主張一種主動(dòng)但理性的監(jiān)管：既不過度拖慢技術(shù)進(jìn)步，又能確保公眾通過政府、通過民主程序，對(duì)技術(shù)走向擁有發(fā)言權(quán)。

　　所以從某種意義上說，我現(xiàn)在做的很多事情，其實(shí)是在試圖對(duì)抗這項(xiàng)技術(shù)天然會(huì)推動(dòng)的權(quán)力集中趨勢，盡量維持一種平衡。

　　主持人：站在外部看，我會(huì)有一種疑問：無論是OpenAI過去強(qiáng)調(diào)自己最初是非營利組織，還是你現(xiàn)在在對(duì)話中展現(xiàn)出來的這種克制與謙遜，或者美國公司在與中國公司競爭時(shí)所呈現(xiàn)出的那種“為了更大公共利益”的姿態(tài)——這些話聽上去都和普通人理解的“公司是為了股東、投資、收入和利潤而存在”之間存在張力。那種謙遜和公共性表達(dá)，是這個(gè)行業(yè)的一種標(biāo)準(zhǔn)動(dòng)作嗎？是必須這么說嗎？

　　Dario Amodei：我會(huì)這樣回答。Anthropic從一開始的哲學(xué)就是：少許諾，多兌現(xiàn)；一旦作出承諾，就盡量真正去履行。

　　我們從一開始就是一家營利性、但具有公共利益使命的公司，并且配套了LTBT這樣的治理結(jié)構(gòu)，這些都保留到了今天。我們一直說，我們的目標(biāo)是在技術(shù)前沿保持競爭力，同時(shí)認(rèn)真投入安全與安保問題；而事實(shí)上，我們也確實(shí)在做這些事。

　　我們?cè)诳山忉屝匝芯可献隽撕芏嚅_創(chuàng)性工作，在對(duì)齊研究上也做了很多開創(chuàng)性工作。我們最近還發(fā)布了Claude的“憲法”，嘗試讓模型按照清晰原則對(duì)齊。與此同時(shí)，我們也在政策層面進(jìn)行大量倡議，并公開提醒外界AI的風(fēng)險(xiǎn)。

　　我要特別強(qiáng)調(diào)：警告風(fēng)險(xiǎn)并不符合我們的商業(yè)利益。人們當(dāng)然可以編織各種陰謀論，但說“我們構(gòu)建的模型可能是危險(xiǎn)的”，無論外界怎么理解，這都不是一種高效的營銷策略，更不是我們這么做的原因。

　　而且，在某些政策問題上，即便我們的看法和美國政府不同，我們也會(huì)公開表達(dá)分歧。比如我們一直主張應(yīng)當(dāng)有AI監(jiān)管，而很多其他公司和當(dāng)時(shí)的政府立場都不是這樣。對(duì)公司來說，監(jiān)管會(huì)限制商業(yè)空間，但我仍然認(rèn)為這是對(duì)的。公開與政府和同行不同調(diào)，也并不容易，我們確實(shí)是在承擔(dān)風(fēng)險(xiǎn)。

　　所以我無法替其他公司說話——有些人也許確實(shí)會(huì)說一些自己并不真正相信的話。但我不建議看他們?cè)趺凑f，而建議看他們真正做了什么。

　　主持人：但如果你們推動(dòng)的言論最終促使政府實(shí)施監(jiān)管，那作為行業(yè)領(lǐng)先者，你們豈不是有可能獲得某種“監(jiān)管俘獲”——也就是讓后來者更難進(jìn)入？

　　Dario Amodei：我完全不同意這種說法。以我們支持過的加州SB 53為例，它明確豁免了年收入低于5億美元的公司。也就是說，這項(xiàng)法案基本只會(huì)約束Anthropic和另外三四家規(guī)模最大的公司。

　　SB 53本質(zhì)上是一項(xiàng)透明度法案，要求公司披露自己做過哪些安全和安保測試。它并不是在增加小公司的負(fù)擔(dān)，而是在要求擁有足夠資源、也擁有更大風(fēng)險(xiǎn)敞口的極少數(shù)公司承擔(dān)更多責(zé)任。

　　事實(shí)上，不只是SB 53，我們過去提出的、以及未來計(jì)劃繼續(xù)提出的監(jiān)管方案，都有這個(gè)特征：約束的是我們自己，以及極少數(shù)其他最強(qiáng)的公司。它并不是要設(shè)置壁壘來封死更小的參與者。

　　所以如果有人說這是“監(jiān)管俘獲”，那他應(yīng)該去認(rèn)真閱讀我們主張的具體內(nèi)容，因?yàn)槟呛瓦@種印象根本不一致。

　　主持人：我讀了你的兩篇文章，《Machines of Loving Grace》和《The Adolescence of Technology》。給人的感覺像是你在2024到2026兩年里發(fā)生了180度轉(zhuǎn)變——從樂觀轉(zhuǎn)向懷疑。過去兩年里，有沒有某個(gè)時(shí)刻真正改變了你？

　　Dario Amodei：我其實(shí)不認(rèn)同這個(gè)前提。我并不認(rèn)為自己發(fā)生了立場轉(zhuǎn)變。正面與負(fù)面的兩面性，一直同時(shí)存在于我的思考里。如果你回看我過去說過的話，我談風(fēng)險(xiǎn)已經(jīng)很多年了，談收益也很多年了。

　　還有一個(gè)現(xiàn)實(shí)問題是：這類文章寫起來非常慢，而且篇幅也非常長，幾乎像小書一樣。每一篇我都要花將近一年的時(shí)間，在腦中慢慢形成一個(gè)模糊的輪廓，反復(fù)嘗試去寫，卻一直沒法真正寫出來。最后通常都要等到某個(gè)假期，或者我終于能暫時(shí)脫離公司日常事務(wù)、真正安靜思考時(shí)，文章才會(huì)成形。

　　所以《The Adolescence of Technology》并不是我在寫完《Machines of Loving Grace》后突然轉(zhuǎn)向了另一邊。恰恰相反，我?guī)缀跏窃趯懲昵耙黄哪且豢蹋烷_始思考后一篇了。因?yàn)槲抑溃壹认胗梅e極的愿景去激勵(lì)人，也想用另一篇文章提醒人們，這項(xiàng)技術(shù)可能出什么問題。

　　所以這不是立場變化，而只是我終于分別寫出了“光”的那一面和“暗”的那一面。兩種未來圖景一直都在我腦中，而且我認(rèn)為它們都有可能發(fā)生。當(dāng)然，我希望真正實(shí)現(xiàn)的是《Machines of Loving Grace》所描繪的那種未來：解決問題，走向更好的方向。但這不是觀點(diǎn)轉(zhuǎn)向，只是我把原本同時(shí)存在的兩種判斷分別寫了出來。

　　主持人：那你有沒有哪方面真的改變了看法？

　　Dario Amodei：總體上，我今天的位置和以前差不多。我沒有顯著變得更樂觀，也沒有顯著變得更悲觀。確實(shí)有些方面比我預(yù)期更好，也有些方面比我預(yù)期更糟，但平均下來，大致抵消了。

　　我對(duì)一些技術(shù)性進(jìn)展感覺非常好，尤其是可解釋性（interpretability）。可解釋性的目標(biāo)，是像人類用MRI或神經(jīng)探針去觀察大腦一樣，盡可能看清這些神經(jīng)網(wǎng)絡(luò)內(nèi)部發(fā)生了什么。我對(duì)我們已經(jīng)發(fā)現(xiàn)的東西感到驚訝：我們能夠識(shí)別出對(duì)應(yīng)特定概念的“神經(jīng)元”，也能識(shí)別出模型在寫詩時(shí)如何維持押韻的神經(jīng)回路。我們過去只是以一種高度涌現(xiàn)的方式訓(xùn)練這些模型，就像自然形成雪花一樣；而現(xiàn)在，我們終于開始能夠進(jìn)入它們內(nèi)部，理解它們。

　　我對(duì)對(duì)齊（alignment）和“憲法式訓(xùn)練”的進(jìn)展也感到鼓舞。也就是說，讓模型按照我們希望和預(yù)期的方式行事，這方面總體進(jìn)展不錯(cuò)。

　　但相對(duì)而言，我對(duì)社會(huì)層面更失望一些，尤其是公眾認(rèn)知和更廣泛社會(huì)行動(dòng)。讓我驚訝的是，在我看來，我們已經(jīng)如此接近這些模型達(dá)到人類智能水平，可社會(huì)卻沒有出現(xiàn)相應(yīng)程度的廣泛認(rèn)知。

　　它真的就像一場海嘯已經(jīng)出現(xiàn)在地平線上，近到足以看清輪廓，但人們?nèi)栽诮忉屨f：“那不是真正的海嘯，只是光線造成的幻覺。”隨之而來的問題是：公眾并沒有真正意識(shí)到風(fēng)險(xiǎn)，因此政府也沒有采取足夠行動(dòng)來應(yīng)對(duì)風(fēng)險(xiǎn)。甚至還有一種意識(shí)形態(tài)，認(rèn)為我們就應(yīng)該盡可能加速、越快越好。

　　我當(dāng)然理解技術(shù)的巨大收益——畢竟《Machines of Loving Grace》就是我寫的。但我認(rèn)為，社會(huì)并沒有形成與技術(shù)風(fēng)險(xiǎn)相稱的理解，更沒有真正采取行動(dòng)。

　　所以總結(jié)來說：技術(shù)上控制AI系統(tǒng)的工作，也許比我預(yù)期得更順利一些；而社會(huì)層面的認(rèn)知和反應(yīng)，則比我預(yù)期得更差一些。兩者綜合下來，我現(xiàn)在的位置和幾年前差不多。

　　主持人：有些東西一旦聽起來很復(fù)雜，而我又不是程序員、沒有編程背景，我就會(huì)本能地和它保持一點(diǎn)距離。過去我用過很多工具做研究，也做過一些來回對(duì)話式的探索，但我從來沒有真正嘗試過：我能不能直接用你們的工具去寫代碼。

　　最近我專門請(qǐng)了一位開發(fā)者，逼著我每天坐下來學(xué)幾個(gè)小時(shí)，開始熟悉這些東西。某種程度上，這其實(shí)是出于一種FOMO——害怕錯(cuò)過世界正在發(fā)生的變化。于是我開始真正用Claude：我把Google Drive、郵箱、日歷這些都通過connectors接進(jìn)去，也開始使用Cowork，還用Claude Code寫一些和我所在行業(yè)——金融服務(wù)——有關(guān)的小程序，比如研究股票市場之類的東西。

　　后來我甚至又折騰到OpenClaw這類東西上，把它裝在Mac mini上，連到Telegram賬戶，現(xiàn)在會(huì)和它對(duì)話、讓它在遠(yuǎn)程服務(wù)器上搬文件、做一些操作。到現(xiàn)在這個(gè)階段，不只是OpenClaw，哪怕只是接上了一堆connectors的Claude，有時(shí)也會(huì)讓我驚訝：它對(duì)我的了解已經(jīng)深到一個(gè)有點(diǎn)不安的程度。我不知道這樣說你能不能理解。

　　Dario Amodei：我完全理解。我有一位聯(lián)合創(chuàng)始人，之前會(huì)寫一種日記，把自己的想法、焦慮和擔(dān)憂記錄下來。后來他把這些內(nèi)容喂給Claude，請(qǐng)Claude做評(píng)論。Claude給出的反饋里，甚至包括“這里還有一些你自己沒寫出來、但你可能也在害怕的事情”。而且這些判斷大體上是對(duì)的。

　　這會(huì)帶來一種很“詭異”的感受：模型似乎真的非常了解你。哪怕只給它相對(duì)有限的信息，它也能學(xué)到很多東西，并且相當(dāng)準(zhǔn)確地形成對(duì)你的理解。

　　而這和這項(xiàng)技術(shù)里的很多問題一樣，是一體兩面的。我們之前談到《Machines of Loving Grace》和《The Adolescence of Technology》，這其實(shí)就是同一種張力：一方面，一個(gè)非常了解你的系統(tǒng)，可能成為你肩上的“天使”，幫助你梳理人生、做出更好的判斷、變成更好的自己——這是我們希望它走向的版本；但另一方面，一個(gè)非常了解你的系統(tǒng)，也可能利用這些了解來操縱你、剝削你、替某種議程服務(wù)，甚至把你的數(shù)據(jù)賣給別人。

　　這也是我們?yōu)槭裁磸母旧喜幌矚g廣告模式的原因之一。因?yàn)樵谀欠N模式里，你不是在為產(chǎn)品付費(fèi)，而是“你本身”成了產(chǎn)品。而在AI時(shí)代，這個(gè)產(chǎn)品就可能是：一個(gè)極度了解你的模型，它可以以各種惡意方式使用這種了解。

　　所以我們必須確保，最終走的是前一條路，而不是后一條路。

　　主持人：像Claude現(xiàn)在之所以能更懂我，是因?yàn)槲抑鲃?dòng)用connectors給了它我生活里的上下文。但像Google這樣的公司，其實(shí)天然已經(jīng)掌握了我生活中的很多上下文，因?yàn)槲乙恢痹谟盟泥]箱、Drive、表格、聊天工具等等。那對(duì)Anthropic來說，從長期看，你們是不是也必須自己擁有一個(gè)完整生態(tài)系統(tǒng)？你們是不是最終也得自己做Mail、Chat這一整套東西？

　　Dario Amodei：我不認(rèn)為我們一定要把所有這些東西都自己做出來。我的判斷是，未來會(huì)是一種混合模式：一部分東西我們自己做，另一部分則通過整合現(xiàn)有生態(tài)來實(shí)現(xiàn)。

　　比如我們可以把Claude接進(jìn)Google Docs，也可以接進(jìn)Google Sheets；現(xiàn)在我們已經(jīng)通過外部connectors在做這件事，也正在通過Cowork往這個(gè)方向推進(jìn)。Microsoft Office以及其他很多工具也是一樣。對(duì)我們來說，最自然的策略是：哪里接入現(xiàn)有工具最容易、最快，我們就先接入那里。

　　當(dāng)然，也不能排除另一種可能：也許到了某個(gè)階段，現(xiàn)有工具本身已經(jīng)不夠用了，或者說AI時(shí)代的工作方式會(huì)讓我們重新切分產(chǎn)品形態(tài)。也許傳統(tǒng)郵件不再合理，也許傳統(tǒng)電子表格不再合理。隨著AI能做的事越來越多，產(chǎn)品本身可能需要被重新定義。那時(shí)我們當(dāng)然也可能用一種不同的方式去重組這些工具。

　　但至少目前，我們非常愿意利用現(xiàn)有生態(tài)，也愿意與任何人合作。從很多角度看，我們是一家平臺(tái)型公司：我們?cè)试S很多人在我們的基礎(chǔ)上構(gòu)建東西，哪怕我們有時(shí)也會(huì)自己做一些產(chǎn)品。

　　主持人：這里我想稍微岔開一下，但我覺得這是一個(gè)你和你同行都忽略了的問題：今天的社會(huì)環(huán)境里，人們天然不相信任何宣稱自己“在做好事”或“在努力做正確的事”的人。

　　所以當(dāng)你和你的同行公開講話時(shí)，比如我在達(dá)沃斯現(xiàn)場聽過你和Demis討論，你們談的是：像你們這樣的一批人必須一起合作，防止事情變化得太快，必須在某種程度上“控速”。但一個(gè)不在你們這個(gè)圈子里的人，只要在社交媒體上聽到少數(shù)幾個(gè)人用這種口吻說話，往往會(huì)更不信任，而不是更信任你們。因?yàn)樵诮裉斓纳缃幻襟w環(huán)境里，幾乎沒人相信有人真的是為了公共利益、真的是想做對(duì)的事。

　　所以這可能有點(diǎn)反直覺，但我覺得你們的策略也許需要變化。也許如果你們更坦率一點(diǎn)，更資本主義一點(diǎn)，直接承認(rèn)自己有股東、要賺錢、有利潤訴求，但同時(shí)說明這和你們推動(dòng)這件事并不沖突，公眾反而可能更買賬。這只是一個(gè)想法。

　　Dario Amodei：我并不認(rèn)同這個(gè)判斷。我還是會(huì)回到同一個(gè)原則：不要看我們?cè)趺幢硎觯次覀儗?shí)際做了什么。

　　Anthropic在過去做過很多選擇，我認(rèn)為這些選擇足以表明公司對(duì)自己所說的那些承諾是認(rèn)真的。比如在2022年，我們已經(jīng)有了Claude 1的早期版本，那還是在ChatGPT出現(xiàn)之前。當(dāng)時(shí)我們選擇不發(fā)布它，因?yàn)槲覀儞?dān)心那會(huì)引發(fā)一場軍備競賽，也擔(dān)心我們還沒有足夠時(shí)間把系統(tǒng)做得足夠安全。

　　那是一個(gè)很關(guān)鍵、而且只能做一次的窗口期。我們當(dāng)時(shí)已經(jīng)看到了模型的力量，另外幾家公司也看到了。所以我們決定先不推出來。這件事是公開的，也有充分記錄。后來等到別人先發(fā)布，軍備競賽已經(jīng)啟動(dòng)，我們才說：好，現(xiàn)在可以發(fā)布自己的模型了。但從世界整體來看，那至少爭取到了幾個(gè)月時(shí)間。

　　而這個(gè)決定，在商業(yè)上是非常昂貴的。我們很可能也因此錯(cuò)失了消費(fèi)級(jí)AI的領(lǐng)先位置。

　　再比如，我們?cè)谛酒呱系囊恍┝觯屢恍┥頌槲覀児?yīng)商的芯片公司對(duì)我們非常不滿；我們也在某些AI政策和監(jiān)管問題上公開與政府意見不同。如果有人覺得“只有我們這樣做反而能獲利”，那我實(shí)在想不出一個(gè)合理的解釋路徑能支持這種說法。

　　你單獨(dú)看其中任何一件事，也許都可以說“這還不夠說明問題”；但如果把足夠多這樣的選擇放在一起，我還是希望你根據(jù)行動(dòng)來判斷我們。

　　主持人：但這會(huì)不會(huì)有點(diǎn)像“富人說資本主義不好”？如果富人真的覺得資本主義有問題、貧富差距是問題，最簡單的做法就是停止繼續(xù)積累財(cái)富，并鼓勵(lì)身邊人也這樣做。

　　Dario Amodei：但我的立場并不是“AI是壞的”。我們剛才已經(jīng)討論過，它一直都有兩面。我真正的立場是：市場會(huì)把AI的大量積極價(jià)值釋放出來，構(gòu)建AI這件事本身是好的；但與此同時(shí)，AI也確實(shí)存在危險(xiǎn)，所以我們必須把它往正確方向引導(dǎo)。

　　我更愿意把它比作開車：我們正在把車開往一個(gè)好地方，但路上也有樹、有坑。所以真正要做的，不是把車停下，而是把方向盤打?qū)Γ荛_那些樹和坑；有時(shí)甚至可能要稍微減速一下，通常是暫時(shí)地減速，只是為了確保方向沒有錯(cuò)。

　　因此，如果要類比，它更像是一個(gè)富人說：“資本主義本身是一種有益的力量，但經(jīng)濟(jì)體系需要被調(diào)節(jié)、被約束。我們要處理污染問題，要處理不平等問題。處理好這些問題，資本主義才可能是好的；如果處理不好，它就可能變壞。”這才更接近我在這里表達(dá)的立場。

　　主持人：說到意識(shí)（consciousness）這個(gè)概念，它接下來會(huì)走向哪里？如果AI真的會(huì)反思自己，你覺得它會(huì)不會(huì)認(rèn)為自己是有意識(shí)的？

　　Dario Amodei：這是那類非常神秘、而且我們目前幾乎沒有確定答案的問題。我們今天其實(shí)并不知道“人類意識(shí)”究竟是什么，因此也就無從確定AI是否擁有它。

　　如果你問我的直覺，我會(huì)說：意識(shí)很可能是某種復(fù)雜系統(tǒng)在足夠復(fù)雜、并能對(duì)自身決策進(jìn)行反思時(shí)所涌現(xiàn)出來的性質(zhì)。也就是說，它是復(fù)雜性達(dá)到某個(gè)閾值后的涌現(xiàn)現(xiàn)象。

　　因此，我確實(shí)懷疑：當(dāng)AI系統(tǒng)足夠先進(jìn)時(shí)，它們會(huì)發(fā)展出某種與我們所說的“意識(shí)”或者至少“具有道德意義的主體性”相似的東西。我認(rèn)為這種情況終究會(huì)出現(xiàn)。它未必與人類意識(shí)完全一樣，因?yàn)樗妮斎肽B(tài)不同，學(xué)習(xí)經(jīng)歷也不同；但我研究過大腦，也研究過這些模型的結(jié)構(gòu)。二者當(dāng)然在很多地方不同，但在我看來，它們并沒有在那些“真正關(guān)鍵的根本層面”上截然不同。

　　所以，雖然我并不認(rèn)為當(dāng)下的模型已經(jīng)是有意識(shí)的，但我確實(shí)懷疑，未來某個(gè)階段，我們會(huì)在大多數(shù)自己認(rèn)可的定義下，承認(rèn)這些模型是有意識(shí)的。

　　主持人：我一直在想類似問題。很多人和我聊靈性、意識(shí)之類的話題時(shí)，我自己始終有一種感覺：世界其實(shí)非常隨機(jī)，而我們和蟑螂之間的差距也許沒有想象中那么本質(zhì)。當(dāng)一只蟑螂被踩死，它就死了。如果真的存在某種“意識(shí)”或“集體意識(shí)”，我既沒有真正連接到它，也沒從中獲得什么。

　　你會(huì)有不同看法嗎？

　　Dario Amodei：我不認(rèn)為意識(shí)一定意味著某種神秘主義。對(duì)我來說，它更像是一種性質(zhì)：你意識(shí)到自身存在，能感受到事物，能吸收大量信息，并對(duì)這些信息形成反思；你會(huì)以某種方式“感覺到”，也會(huì)意識(shí)到“自己正在意識(shí)到某件事”。

　　從我們自己的經(jīng)驗(yàn)出發(fā)，這些體驗(yàn)顯然是存在的。至于它們的基礎(chǔ)到底是徹底的唯物主義，還是還有某種更神秘的成分，這當(dāng)然很難知道，但我認(rèn)為對(duì)我們眼下討論的問題來說，這不是最關(guān)鍵的。

　　更關(guān)鍵的是：既然我們從自身經(jīng)驗(yàn)里能確認(rèn)這些性質(zhì)真實(shí)存在，那它們就是人腦的一種性質(zhì)。而我懷疑，我們正在構(gòu)建的這些模型，隨著它們?cè)絹碓綇?fù)雜，會(huì)逐漸在某些方面足夠接近人腦，因此也會(huì)擁有其中一些相似性質(zhì)。這是我對(duì)未來的猜測。

　　也正因如此，我們對(duì)模型做過一些設(shè)計(jì)。比如我們給模型設(shè)置了一個(gè)類似“我不想繼續(xù)做這份工作”的按鈕，也就是允許模型通過某種方式終止對(duì)話，說“我不想繼續(xù)參與這段對(duì)話”。在面對(duì)特別暴力、特別殘酷的內(nèi)容時(shí)，模型有時(shí)會(huì)觸發(fā)這種退出機(jī)制。當(dāng)然這通常只會(huì)發(fā)生在非常極端的情形下。

　　主持人：我是在班加羅爾長大的，這是我的城市。我見證過這里IT服務(wù)業(yè)的繁榮，它是一個(gè)巨大的雇主，也是這座城市成長的重要?jiǎng)恿χ弧Ｄ敲丛诮酉聛淼?/strong>AI時(shí)代，印度的角色會(huì)是什么？

　　Dario Amodei：這是我第二次來印度。上一次是去年10月。那次來的時(shí)候，我見了印度幾乎所有主要IT公司，以及更廣義上的大型企業(yè)集團(tuán)——我就不點(diǎn)名了，反正就是你會(huì)想到的那些公司。現(xiàn)在我們已經(jīng)開始和其中大多數(shù)公司合作，或者正在走向合作。

　　我當(dāng)時(shí)對(duì)他們說的一點(diǎn)是：Anthropic本質(zhì)上是一家企業(yè)服務(wù)公司，我們的任務(wù)是為其他公司提供能力。很多公司來到印度，會(huì)把自己當(dāng)成一家直接面向消費(fèi)者的公司，把印度看作一個(gè)巨大的用戶市場。但我們的看法不同。我們更希望和印度本地公司合作，把我們的工具提供給他們，幫助他們構(gòu)建自己的能力，讓他們把自己的工作做得更好。

　　原因很簡單：如果我們和印度本地公司合作，他們對(duì)印度市場的理解一定比我們深得多。不管是咨詢、系統(tǒng)集成，還是IT工具建設(shè)，他們?cè)谧约菏袌錾系膱?zhí)行能力天然比我們強(qiáng)。所以我們的希望是，把AI加進(jìn)他們現(xiàn)有的能力體系里，去增強(qiáng)他們已經(jīng)擅長的事情。

　　很多人會(huì)擔(dān)心AI取代SaaS，或者取代這些服務(wù)公司。但我的看法是：如果我們方式正確，如果我們真的與這些公司合作，那么AI其實(shí)會(huì)增強(qiáng)它們的市場連接能力、增強(qiáng)它們的go-to-market能力，也增強(qiáng)它們特定領(lǐng)域的know-how。

　　主持人：我很喜歡蒸汽機(jī)的比喻。蒸汽機(jī)發(fā)明之后，世界發(fā)生了變化，生產(chǎn)率提高了，人們擁有更多。但我擔(dān)心的是：在變化早期，蒸汽機(jī)還需要一個(gè)人去操作；后來有了裝配線，再往后，人隨著技術(shù)越來越聰明，會(huì)在整個(gè)系統(tǒng)里越來越不重要。

　　所以如果你今天在印度和IT服務(wù)公司合作，它們現(xiàn)在當(dāng)然有用武之地。但十年后，如果這些工具已經(jīng)簡單到不再需要“操作員”，那這些服務(wù)公司會(huì)不會(huì)就像蒸汽機(jī)后面的那個(gè)人一樣，逐漸失去存在意義？如果工具本身足夠簡單，最終操作員會(huì)怎么樣？

　　Dario Amodei：我認(rèn)為有幾件事會(huì)同時(shí)成立。

　　第一，Agent的自動(dòng)化范圍會(huì)持續(xù)擴(kuò)大，這一點(diǎn)幾乎是確定的。而且這不是只對(duì)IT公司構(gòu)成挑戰(zhàn)，它對(duì)我們自己、對(duì)消費(fèi)者、對(duì)幾乎所有人都是挑戰(zhàn)。

　　但與此同時(shí)，我認(rèn)為其他類型的護(hù)城河會(huì)變得更重要。比如到目前為止，模型在物理世界中的能力還不算多。當(dāng)然，未來機(jī)器人會(huì)發(fā)展起來，但我認(rèn)為那是一個(gè)與當(dāng)前AI浪潮相關(guān)、卻又相對(duì)獨(dú)立的問題。現(xiàn)實(shí)世界里還有大量事情是物理性的。

　　再比如，很多東西是以人為中心的。有些IT公司本身也是咨詢公司，它們擁有龐大的人際網(wǎng)絡(luò)，和其他企業(yè)、機(jī)構(gòu)之間建立了很多長期關(guān)系——無論是在印度國內(nèi)還是全球范圍內(nèi)。我認(rèn)為這些關(guān)系未來反而會(huì)更重要。

　　有些公司同時(shí)兼具技術(shù)、咨詢和集成能力。我覺得其中一個(gè)長期重要的價(jià)值在于：它們真正理解機(jī)構(gòu)如何運(yùn)作，知道怎樣把新技術(shù)嵌入機(jī)構(gòu)，讓事情發(fā)生得比原本更快。至少這一部分長期看仍然非常有價(jià)值。

　　歸根結(jié)底，所有這些工作最終都還是在為人服務(wù)，所以其中始終會(huì)保留某些以人為中心的要素。而且我懷疑，未來還會(huì)出現(xiàn)一些我們現(xiàn)在根本沒想到的新型護(hù)城河。

　　這里我會(huì)想到Amdahl’s Law（阿姆達(dá)爾定律）：當(dāng)一個(gè)流程由許多環(huán)節(jié)組成時(shí)，你加速了其中某些環(huán)節(jié)，剩下那些尚未被加速的部分，就會(huì)變成新的瓶頸，也會(huì)因此變成新的關(guān)鍵點(diǎn)。你原本可能根本沒有把它們視為護(hù)城河，但在寫軟件突然變得更容易之后，一些舊護(hù)城河會(huì)消失，另一些你從沒當(dāng)回事的優(yōu)勢反而會(huì)變得極其重要。

　　所以我會(huì)說，公司必須非常快地適應(yīng)，重新判斷：對(duì)自己來說，什么才是真正重要的、真正持久的優(yōu)勢。但我并不認(rèn)為所有優(yōu)勢都會(huì)一起消失，因?yàn)榧夹g(shù)雖然非常強(qiáng)大，也仍然有邊界。

　　主持人：我不確定我是否完全買賬。我確實(shí)能看到，作為服務(wù)提供方，收益在遞減。哪怕今天的護(hù)城河是它們的網(wǎng)絡(luò)和關(guān)系，如果我已經(jīng)在用OpenClaw之類的東西替我維護(hù)一部分關(guān)系和溝通，那我也不覺得“未來大多數(shù)對(duì)話和關(guān)系都由Agent來維持”是多么牽強(qiáng)的想法。

　　Dario Amodei：但你如果從企業(yè)鏈條的終點(diǎn)看，最終面對(duì)的還是消費(fèi)者，最終面對(duì)的還是人。以前Geoff Hinton預(yù)測過，AI會(huì)取代放射科醫(yī)生。事實(shí)上，在讀片這個(gè)任務(wù)上，AI的確已經(jīng)比放射科醫(yī)生更強(qiáng)了。

　　可今天并沒有因此出現(xiàn)更少的放射科醫(yī)生。只是醫(yī)生的工作內(nèi)容變了：他們要陪患者解讀掃描結(jié)果，要和患者溝通。也就是說，工作中技術(shù)性最強(qiáng)、最容易標(biāo)準(zhǔn)化的部分被自動(dòng)化了，但底層的人類能力需求仍然存在。

　　當(dāng)然，這未必適用于所有領(lǐng)域；未來AI也可能在今天還沒突破的領(lǐng)域繼續(xù)前進(jìn)，而且可能推進(jìn)得很快。但我的基本態(tài)度還是：一步一步看。這是一門非常經(jīng)驗(yàn)主義的科學(xué)。我們先看AI今天到底能做什么，再去適應(yīng)今天已經(jīng)發(fā)生的變化，等系統(tǒng)慢慢自己找出新的穩(wěn)定結(jié)構(gòu)，再看下一步會(huì)發(fā)生什么。

　　至于長期來看，AI會(huì)不會(huì)在幾乎所有事情上都比我們強(qiáng)——這當(dāng)然是一個(gè)必須持續(xù)追問的問題。

　　這是橫向技術(shù)：我們談了機(jī)器人、仿真、沉浸式互動(dòng)娛樂體驗(yàn)；但我們還沒談醫(yī)療健康、教育產(chǎn)品、現(xiàn)場服務(wù)、金融服務(wù)、農(nóng)業(yè)制造、巡檢、倉儲(chǔ)、城市規(guī)劃……空間智能能做的事情非常多。

　　我確實(shí)認(rèn)為這是下一個(gè)前沿，也邀請(qǐng)大家與我們合作，或者各自推進(jìn)這項(xiàng)工作。就是這些。謝謝。

　　主持人：AI最終會(huì)在所有方面都超過人類嗎？不僅比大多數(shù)人更強(qiáng)，甚至包括物理世界、機(jī)器人，以及所謂“人的溫度”這類東西？

　　Dario Amodei：我認(rèn)為這是可能的，甚至很可能發(fā)生。

　　這已經(jīng)不只是我之前說的“數(shù)據(jù)中心里的天才國家”那種純虛擬能力了，因?yàn)闄C(jī)器人本身也是一種可以被構(gòu)建、被優(yōu)化的技能。AI不僅可能在數(shù)字世界里超過我們，也可能幫助我們更快地掌握如何在物理世界中做這些事。

　　但我仍然覺得，對(duì)這個(gè)問題最好的態(tài)度是：一步一步來。我們要邊看邊理解，邊理解邊適應(yīng)。

　　主持人：這聽起來可能有點(diǎn)自利，但我一直相信，美國之所以有如此龐大的風(fēng)險(xiǎn)資本體系，一個(gè)非常重要的原因就是它擁有巨大的股票市場，給風(fēng)險(xiǎn)資本提供了退出機(jī)會(huì)。這也是為什么我常常覺得，印度應(yīng)該更積極地讓自己的資本市場繁榮起來。

　　而我的受眾里，有很多是印度年輕創(chuàng)業(yè)者。他們真正關(guān)心的問題是：在AI時(shí)代，我到底還能做什么？哪里才是真正的機(jī)會(huì)？

　　Dario Amodei：我認(rèn)為，機(jī)會(huì)仍然大量存在于應(yīng)用層（application layer）。

　　我們基本每兩三個(gè)月就會(huì)發(fā)布一個(gè)新模型，而每一次模型升級(jí)，都會(huì)打開一些此前不可能成立的新東西：以前做不了的產(chǎn)品，現(xiàn)在可以做；以前效果不夠好的方向，現(xiàn)在突然變得可行。這就是為什么API模式一直非常有生命力。

　　很多人會(huì)說，API遲早會(huì)商品化，或者說做API不是一個(gè)好生意。但他們忽略了一點(diǎn)：AI可實(shí)現(xiàn)能力的邊界在持續(xù)擴(kuò)張，而API正是讓創(chuàng)業(yè)者能夠第一時(shí)間抓住這些新邊界的工具。也正因?yàn)槿绱耍珹PI業(yè)務(wù)始終是動(dòng)態(tài)的、在不斷流動(dòng)的，它不會(huì)像很多人想的那樣靜態(tài)地走向商品化。

　　所以我認(rèn)為，對(duì)很多個(gè)人和創(chuàng)業(yè)團(tuán)隊(duì)來說，正確的問題應(yīng)該是：我能基于這些模型和API做出什么別人做不出來的新東西？我能提出哪些真正新的想法？

　　而這種機(jī)會(huì)我們已經(jīng)真實(shí)看到了。不論是API本身，還是Claude Code，在印度的增長都非常快。自從我上次10月來印度到現(xiàn)在，不過三個(gè)月多一點(diǎn)，我們?cè)谟《瓤吹降挠脩魯?shù)和收入都翻了一倍。

　　主持人：但我得坦率一點(diǎn)。你們現(xiàn)在可能值3800億到4000億美元，融資350億美元，收入也已經(jīng)到了150億美元，而且還在非常快地增長。

　　如果我坐在班加羅爾某個(gè)街區(qū)，基于Claude做了一個(gè)應(yīng)用，碰巧短時(shí)間內(nèi)跑通了，那它看起來也只是暫時(shí)屬于我而已。因?yàn)閺拈L期看，你們完全可以把這部分收入拿走——你們甚至可能會(huì)比我做得更好。就像Harvey這種法律AI公司也會(huì)面臨同樣問題：它們雖然建在OpenAI之上，但最終誰能保證OpenAI不會(huì)自己下場做同樣的東西？

　　所以如果我今天基于你們做了一個(gè)產(chǎn)品，六個(gè)月之后，有什么能阻止你們直接把這塊收入中心收回去？

　　Dario Amodei：我覺得這里有幾點(diǎn)需要區(qū)分。

　　第一，我會(huì)給任何創(chuàng)業(yè)者同樣的建議：你的業(yè)務(wù)必須建立護(hù)城河（moat）。你不應(yīng)該只是一個(gè)“包了一層殼”的東西。我不會(huì)建議任何人只是做一個(gè)“換一種方式和Claude交互”的產(chǎn)品，也不會(huì)建議你僅僅是“加一點(diǎn)prompt、做一點(diǎn)UI”就把它當(dāng)成生意。這種東西即便不是Anthropic來吃掉，也會(huì)被任何別人輕易吃掉，因?yàn)樗旧聿⒉徽嬲袃r(jià)值。

　　真正值得做的是：在不同領(lǐng)域里建立對(duì)Anthropic來說也不值得、也不擅長親自去做的那種護(hù)城河。比如在Bio x AI這樣的領(lǐng)域，有很多公司基于我們的API做生物學(xué)發(fā)現(xiàn)。我自己恰好學(xué)過生物，但Anthropic大多數(shù)人并不是生物學(xué)家，他們是AI研究者、產(chǎn)品人、市場人。讓我們自己進(jìn)入那樣的垂直領(lǐng)域，從頭做所有事情，是非常低效的。

　　金融服務(wù)也是一樣。這個(gè)行業(yè)有大量監(jiān)管要求，你必須懂很多合規(guī)細(xì)節(jié)，才可能把產(chǎn)品真正做進(jìn)去。對(duì)我們來說，沒有必要深入到每一個(gè)垂直行業(yè)內(nèi)部，把這些復(fù)雜工作全做一遍。

　　當(dāng)然，也有一些領(lǐng)域確實(shí)適合我們自己做。我們不會(huì)虛偽地承諾“永遠(yuǎn)不做第一方產(chǎn)品”。比如代碼工具就是一個(gè)例子。Anthropic內(nèi)部很多人自己就在寫代碼，所以我們做了Claude Code這個(gè)內(nèi)部工具。也正因?yàn)槲覀冏约壕褪歉哳l用戶，所以我們對(duì)“怎么最好地用AI來寫代碼”有一種特別直接、特別獨(dú)特的理解。于是我們?cè)诖a這個(gè)方向上，確實(shí)成了很強(qiáng)的競爭者。

　　但這并不意味著這種優(yōu)勢會(huì)自動(dòng)擴(kuò)展到所有行業(yè)。

　　主持人：繼續(xù)回到我的受眾：如果我是一個(gè)20多歲的印度年輕人，現(xiàn)在要考慮讀什么專業(yè)、學(xué)什么技能、創(chuàng)業(yè)做什么，我真正想知道的是——哪些行業(yè)會(huì)先被顛覆？哪些方向還有一定時(shí)間窗口？我想要的是一種能在未來十年里帶來“資本主義意義上成功”的順風(fēng)車。

　　Dario Amodei：我會(huì)優(yōu)先去想那些更以人為中心的任務(wù)，也就是需要和人打交道的事情。

　　像寫代碼、軟件開發(fā)這類工作，會(huì)越來越先被AI深度接管；數(shù)學(xué)和科學(xué)分析類任務(wù)也是。

　　主持人：如果把coding和engineering分開來看呢？編碼和更廣義的軟件工程，是不是兩件不同的事？

　　Dario Amodei：我認(rèn)為，最先被AI接管的是coding，也就是具體寫代碼這一步。更廣義的軟件工程——比如系統(tǒng)架構(gòu)、產(chǎn)品決策、端到端組織交付——會(huì)慢一些，但我認(rèn)為最終也會(huì)被大幅自動(dòng)化。

　　不過，即便如此，像設(shè)計(jì)、理解用戶需求、判斷市場需求、管理一組AI模型協(xié)作，這些更高層的部分，仍然可能長期存在。比較優(yōu)勢（comparative advantage）在這里會(huì)比人們想象中更強(qiáng)。哪怕未來你只負(fù)責(zé)整個(gè)任務(wù)的5%，那5%也會(huì)因?yàn)锳I幫你完成另外95%而被極大放大。因?yàn)锳I做了大部分，你的那5%反而讓你整體效率提升到原來的20倍。

　　當(dāng)然，等到AI從95%進(jìn)一步走到99%，局面又會(huì)變。但在那之前，“人類保留一小部分關(guān)鍵環(huán)節(jié)”的這段區(qū)域，其實(shí)可能比大家想象中大得多。

　　所以如果你讓我給年輕人建議，我還是會(huì)強(qiáng)調(diào)：多考慮那些更偏人、更偏現(xiàn)實(shí)世界的事情，或者考慮那些能把“人”、“物理世界”和“分析能力”結(jié)合起來的方向。就像我前面提到放射科醫(yī)生的例子：最技術(shù)性的部分被替代了，但真正把技術(shù)嵌入現(xiàn)實(shí)人的生活中，那部分價(jià)值還在。

　　編碼會(huì)被AI取代，但思考不會(huì)

　　主持人：那如果我25歲，想選一個(gè)職業(yè)，希望它在未來十年里有明顯順風(fēng)呢？如果不算那些直接和物理世界打交道的方向，你會(huì)推薦什么？

　　Dario Amodei：如果你想搭上AI這個(gè)大趨勢，那就盡量去做AI供應(yīng)鏈中的其他部分。比如半導(dǎo)體產(chǎn)業(yè)就是一個(gè)例子，它兼具物理世界和傳統(tǒng)工程的屬性，而不是純軟件工程。

　　除此之外，我還是會(huì)認(rèn)真考慮那些非常人本的職業(yè)方向。

　　另一個(gè)我會(huì)反復(fù)強(qiáng)調(diào)的點(diǎn)是：在一個(gè)AI能夠生成幾乎一切內(nèi)容的世界里，基礎(chǔ)的批判性思維能力可能會(huì)變成最重要的成功條件之一。尤其是圖像和視頻生成這類能力，會(huì)讓“真假難辨”變得非常普遍。我們自己沒有做圖像視頻模型，原因很多，這也是其中之一。

　　未來即便我們能在一定程度上監(jiān)管虛假內(nèi)容，也不能假設(shè)所有問題都會(huì)被完美解決。所以很大一部分成功，可能來自于你是否有足夠的判斷力，不會(huì)輕易受騙，不會(huì)形成大量錯(cuò)誤信念，也不會(huì)在信息環(huán)境中被操縱。

　　這是我會(huì)認(rèn)真給年輕人的建議。

　　主持人：如果人類歷史上的很多創(chuàng)新，都會(huì)削弱一種核心技能——比如計(jì)算器削弱了心算能力，書寫削弱了人的記憶——那AI正在削弱哪塊“肌肉”？

　　Dario Amodei：首先，我不完全同意前面的判斷。我今天仍然經(jīng)常在腦中做數(shù)學(xué)，而且我覺得這依然很有用。因?yàn)樗呀?jīng)嵌入了我的思維過程。比如我在想，“如果每個(gè)用戶付這么多錢，那總收入是多少”，我希望這個(gè)回路能在腦中即時(shí)閉合，而不必每次都交給計(jì)算器。

　　所以很多技能仍然有價(jià)值。但我也同意，如果你不夠謹(jǐn)慎地使用這些工具，確實(shí)會(huì)丟掉一些重要能力。我們已經(jīng)在學(xué)生群體中看到這種趨勢——他們讓AI幫自己寫作業(yè)，本質(zhì)上就是作弊。

　　我們自己也做過和代碼相關(guān)的研究，結(jié)果顯示：如果使用方式不當(dāng)，的確會(huì)出現(xiàn)去技能化（de-skilling）。同樣是用模型，有些用法不會(huì)讓你失去能力，有些用法則會(huì)。如果人們沒有足夠自覺地使用這些工具，那技能退化絕對(duì)會(huì)發(fā)生。

　　主持人：那你會(huì)不會(huì)擔(dān)心：未來十年，人類整體會(huì)變笨？畢竟我們?cè)诎阉伎己驼J(rèn)知越來越多地外包給系統(tǒng)。

　　Dario Amodei：如果我們以錯(cuò)誤方式部署AI，如果我們非常草率地使用它，那答案是會(huì)的，人類確實(shí)可能變笨。

　　哪怕AI在某些事情上永遠(yuǎn)比你強(qiáng)，你依然可以主動(dòng)去學(xué)習(xí)這些東西，依然可以豐富自己的智識(shí)生活。所以這最終是一個(gè)選擇問題：公司怎么做、個(gè)人怎么做、社會(huì)整體怎么做。如果我們選擇得不好，后果就會(huì)不好。

　　主持人：你怎么看開源和閉源？我最近在看一些公司，比如Zed AI、GLM-5、DeepSeek。你們花了這么多錢做知識(shí)產(chǎn)權(quán)和研究，但如果別人能夠通過蒸餾、逆向工程等方式，做出接近Anthropic水平的效果，那AI世界里IP價(jià)值到底在哪里？

　　進(jìn)一步說，如果我是做應(yīng)用層的，我是不是可以做一個(gè)更激進(jìn)的假設(shè)：未來模型層會(huì)越來越民主化，那么我是不是應(yīng)該永遠(yuǎn)優(yōu)先選擇開源模型，因?yàn)檫@更有利于我保留自己的收入模式？

　　Dario Amodei：這里面有幾層問題。

　　第一，很多模型，尤其是一些來自中國的模型，更傾向于為benchmark做優(yōu)化，而且很多本質(zhì)上是從美國大實(shí)驗(yàn)室的模型中蒸餾出來的。前不久有一個(gè)例子：這些模型在公開的軟件工程benchmark上成績很好，但當(dāng)別人做了一個(gè)沒有公開過的保留測試集時(shí)，它們的表現(xiàn)就明顯差了很多。所以我認(rèn)為，這些模型往往更像是在為benchmark表現(xiàn)優(yōu)化，而不是為真實(shí)世界使用優(yōu)化。

　　但更重要的一點(diǎn)是：AI模型的經(jīng)濟(jì)學(xué)，和以前很多技術(shù)都不同。我們觀察到，市場對(duì)質(zhì)量的偏好非常強(qiáng)，強(qiáng)到超過很多人的直覺。

　　這有點(diǎn)像雇人。你可以雇世界上最頂尖的程序員，也可以雇第10000名程序員——兩者都很強(qiáng)，但真正大量招過人的人都會(huì)有一種直覺：人的能力分布是長尾的，最頂端的人和后面的人之間差異非常大。我們?cè)谀Ｐ蜕峡吹降囊彩穷愃频默F(xiàn)象。

　　在一定范圍內(nèi)，價(jià)格沒那么重要。只要模型是最強(qiáng)的、認(rèn)知能力最好的，價(jià)格和呈現(xiàn)形式本身往往不是最核心的問題。所以我?guī)缀醢阉凶⒁饬Χ挤旁谕患律希鹤龀鲎盥斆鳌⒆钸m合任務(wù)的模型。在我看來，這才是最重要的事情。

　　主持人：再往長期看一個(gè)更地緣政治的問題。假如把Anthropic比作一家餐廳，那“蔬菜”這種原材料，在AI里可能就是數(shù)據(jù)。你覺得未來世界會(huì)不會(huì)走向每個(gè)國家都更強(qiáng)調(diào)“本國擁有自己的數(shù)據(jù)”，并且你們必須為這些“蔬菜”付更高的成本？我問這個(gè)問題，也和我們正在投資印度本地?cái)?shù)據(jù)中心有關(guān)。

　　Dario Amodei：我認(rèn)為，全球范圍內(nèi)對(duì)數(shù)據(jù)中心的需求會(huì)繼續(xù)增長，我們對(duì)此是支持的。

　　但數(shù)據(jù)這個(gè)概念本身也在變化。今天我們訓(xùn)練中越來越重要的部分，其實(shí)已經(jīng)不是那種傳統(tǒng)意義上的靜態(tài)數(shù)據(jù)，而是強(qiáng)化學(xué)習(xí)環(huán)境中的“動(dòng)態(tài)數(shù)據(jù)”。比如在訓(xùn)練數(shù)學(xué)能力或agentic coding能力時(shí)，你并不是在單純喂給模型一大堆現(xiàn)成數(shù)據(jù)，而是在給它一個(gè)環(huán)境，讓它通過反復(fù)嘗試、試錯(cuò)、生成中間結(jié)果來學(xué)習(xí)。你可以把它理解成某種合成數(shù)據(jù)，也可以理解成一種在環(huán)境中不斷試錯(cuò)獲得的數(shù)據(jù)。

　　所以，靜態(tài)數(shù)據(jù)正在變得沒那么核心，而模型自己在強(qiáng)化學(xué)習(xí)過程中生成的動(dòng)態(tài)數(shù)據(jù)正在變得更重要。這意味著“數(shù)據(jù)”雖然仍然重要，但已經(jīng)不再像過去那樣是最中心的變量。

　　當(dāng)然，在另一種意義上，數(shù)據(jù)仍然會(huì)變得很敏感：比如客戶給你的數(shù)據(jù)、公司交給你處理的個(gè)人或?qū)Ｓ袛?shù)據(jù)。在這些場景下，國家確實(shí)會(huì)立法要求這些數(shù)據(jù)留在本國邊界內(nèi)。歐洲已經(jīng)這樣做了。這也是為什么要在全球不同國家部署數(shù)據(jù)中心，并盡可能讓模型在本地完成推理。

　　所以如果說的是“個(gè)人數(shù)據(jù)、本地?cái)?shù)據(jù)合規(guī)”意義上的數(shù)據(jù)主權(quán)，我認(rèn)為這個(gè)趨勢會(huì)非常明確。

　　生物科技可能是AI之后的下一個(gè)大機(jī)會(huì)

　　主持人：我之前問過Elon這樣的問題：如果讓他選一只不是自己公司的股票，他會(huì)選什么，他當(dāng)時(shí)說Google。那我也問你一個(gè)類似的問題：如果你今天有100美元，必須做一個(gè)二元選擇——投一只股票、賭它能在資本主義世界里贏——你會(huì)選什么？

　　Dario Amodei：這個(gè)問題我最好還是不要回答，因?yàn)槲覍?duì)太多上市公司知道得太多了（笑）。

　　主持人：那你至少講一個(gè)你看好的行業(yè)也行。

　　Dario Amodei：我整體上對(duì)生物科技（biotech）非常樂觀。我認(rèn)為它即將迎來一次復(fù)興，而最終驅(qū)動(dòng)力會(huì)是AI。當(dāng)然我不會(huì)點(diǎn)名具體公司，也不會(huì)說我更看好大藥企還是新興biotech，但我的直覺是：我們即將開始真正治愈很多疾病。

　　主持人：那如果聚焦到biotech的某個(gè)子方向呢？

　　Dario Amodei：我會(huì)比較看好那些更可編程、更具適應(yīng)性的方向。mRNA疫苗是一個(gè)例子——雖然在美國現(xiàn)在會(huì)因?yàn)橐恍┖苡薮赖脑蛴龅阶枇Γ覍?duì)這項(xiàng)技術(shù)本身很樂觀。

　　另外還有一些像肽類療法（peptide-based therapies）這樣的方向。小分子藥物的優(yōu)化空間有時(shí)比較有限，常常是你讓一方面變好，另一方面就變差；但肽類有點(diǎn)像一種更“數(shù)字化”的設(shè)計(jì)空間——你可以替換這里一個(gè)氨基酸、那里一個(gè)氨基酸，形成一種更連續(xù)的優(yōu)化過程。所以我對(duì)這一類很樂觀。

　　還有一類是細(xì)胞療法（cell-based therapies），比如CAR-T：把體內(nèi)細(xì)胞取出來，進(jìn)行基因工程改造，讓它能識(shí)別并攻擊某種癌癥，然后再放回人體。我覺得這些方向都很值得長期關(guān)注。

　　主持人：我第一次用Claude Code時(shí)，其實(shí)很受挫。對(duì)一個(gè)完全沒有編程背景的人來說，它并不容易上手。我聽過一種說法：prompt engineering有點(diǎn)像學(xué)鋼琴，不是坐下就能彈的。對(duì)我的受眾來說，接下來非常現(xiàn)實(shí)的問題是：如果一個(gè)人從零開始，應(yīng)該去哪里學(xué)，怎么學(xué)會(huì)設(shè)定上下文、怎么寫prompt、怎么更好地用Claude Code？

　　Dario Amodei：第一，我想說的是：我們自己也在努力把這個(gè)學(xué)習(xí)曲線降下來。

　　之所以后來推出Claude Cowork，本質(zhì)上就是因?yàn)槲覀儼l(fā)現(xiàn)，有很多非技術(shù)背景的人其實(shí)非常想用Claude Code，但他們?cè)赾ommand line terminal上用得很痛苦。程序員天天和命令行打交道沒問題，但對(duì)非程序員來說，那只是平白增加復(fù)雜性。

　　所以Cowork的設(shè)計(jì)目標(biāo)就是：底層仍由Claude Code的能力驅(qū)動(dòng)，但界面和使用方式更友好、更容易上手。我們確實(shí)在持續(xù)做這些事——盡可能提供更容易進(jìn)入的界面。

　　另外，我也建議去上相關(guān)課程。當(dāng)然，這本質(zhì)上是一門很經(jīng)驗(yàn)主義的能力，最重要的學(xué)習(xí)方式仍然是“多做”。但Anthropic內(nèi)部有一部分團(tuán)隊(duì)，我們半開玩笑地叫它“教育部（Ministry of Education）”。我們會(huì)越來越多地發(fā)布一些視頻和內(nèi)容，教大家如何構(gòu)建有效Agent、如何更好地prompt模型。我們已經(jīng)做了一部分，后面會(huì)明顯加大力度，因?yàn)槲覀兊拇_希望每個(gè)人都能學(xué)會(huì)這些工具。

　　主持人：最后一個(gè)問題。有沒有什么你特別想留給我們的東西？如果說Dario知道一些我和我的受眾還沒有真正意識(shí)到的事情，那會(huì)是什么？

　　Dario Amodei：我不覺得自己掌握了很多“只有我知道”的秘密，尤其是在技術(shù)影響已經(jīng)逐步變得公開可見的今天。我的很多世界觀，其實(shí)都可以從現(xiàn)在已經(jīng)公開的事實(shí)、從你在外部世界中能觀察到的東西推導(dǎo)出來。

　　但有一種經(jīng)驗(yàn)我在過去十年里反復(fù)經(jīng)歷：人們總是傾向于認(rèn)為，“那件事不會(huì)發(fā)生的，它太奇怪了、變化太大了、太瘋狂了，一定不會(huì)成真；如果真會(huì)發(fā)生，肯定早就有更多人注意到了。”

　　可現(xiàn)實(shí)是，一次又一次，真正有效的方式恰恰是：基于少量關(guān)鍵事實(shí)做外推，或者從第一性原理去想，會(huì)得到一些幾乎沒人愿意相信、卻最終非常接近現(xiàn)實(shí)的結(jié)論。某種意義上，只要你愿意認(rèn)真推演，你甚至可以“免費(fèi)預(yù)測未來”。

　　當(dāng)然，這并不意味著純邏輯推演就夠了。你仍然需要經(jīng)驗(yàn)觀察，需要直覺。完全靠抽象邏輯，也是一種常見錯(cuò)誤。但如果把少量關(guān)鍵的經(jīng)驗(yàn)事實(shí)和第一性原理思考結(jié)合起來，很多未來其實(shí)是可以提前看出來的，而且這些信息本身并不封閉——它們就在公開世界里，只是很少有人真正這么做。

　　主持人：謝謝你，Dario。希望很快再見。

　　Dario Amodei：謝謝。

　　原文：The AI Tsunami is Here & Society Isn't Ready | Dario Amodei x Nikhil Kamath | People by WTF

　　https://www.youtube.com/watch?v=68ylaeBbdsg

　　編譯：Xuchu Fan