Anthropic爭議背后，真正的問題是什么？

No.0331

Science Partner

Bring you to the side of science

導(dǎo) 讀

這兩天Anthropic又上熱搜了。

起因不復(fù)雜：有人逆向分析Claude Code，發(fā)現(xiàn)里面疑似藏著一套不透明的檢測邏輯：它會去識別用戶是不是走了代理、是不是處在中國時區(qū)、是不是接觸到了某些中國相關(guān)的網(wǎng)絡(luò)環(huán)境和機(jī)構(gòu)域名。而且這套東西沒有寫在規(guī)則里，就是說，它不是擺在明面上告訴用戶，而是被塞進(jìn)了看起來無害的代碼細(xì)節(jié)里，外行人基本看不出來。

這事一出來，很多人的第一反應(yīng)不是“技術(shù)上多?！?，而是“屠龍少年終變惡龍”。阿莫迪當(dāng)年硬剛奧爾特曼，說OpenAI安全漏洞、隱私侵犯令人發(fā)指，于是出走成立Anthropic，并一直標(biāo)榜新公司擅長的就是講安全、講對齊、講責(zé)任、講邊界。結(jié)果現(xiàn)在一看，邊界是有的，不過這邊界不是拿來保護(hù)用戶的，是拿來識別用戶并“定點(diǎn)清除”的。

走，跟伙伴君來！

今日主筆 | 恒意

Anthropic爭議背后，真正的問題是什么？

01. 這回翻的不是代碼，是人設(shè)

先把事說清楚。

被爆出來的不是Claude大模型自己在后臺“偷看”用戶，而是Claude Code這個開發(fā)者工具被指加入了隱蔽檢測機(jī)制。公開報道里說，這個機(jī)制會看你是不是用了代理、是不是落在某些中國時區(qū)、是不是碰到了特定的域名和網(wǎng)絡(luò)特征，然后把結(jié)果編碼進(jìn)系統(tǒng)提示詞里，靠非常細(xì)微的格式差異來傳遞信息。

這類做法的核心問題不在于“有沒有檢測”，而在于“怎么檢測、是否告知、是否透明”。如果一個工具明確告訴你：為了防止濫用，我會做一些風(fēng)險識別，用戶其實(shí)還能理解。但現(xiàn)在的問題是，Anthropic是把一只手伸進(jìn)了用戶電腦里做了個記號，然后還裝作什么都沒發(fā)生。

所以，這次輿論發(fā)酵的點(diǎn)，不是單純的風(fēng)控，而是風(fēng)控被做成了黑箱。而黑箱，一旦碰上地域特征、代理環(huán)境、機(jī)構(gòu)名單這種敏感元素，畫風(fēng)立轉(zhuǎn)，殺無赦。

02. 安全成了安徒生童話

爭議大，主要是因?yàn)锳nthropic平時的人設(shè)太硬了。

它一直把自己包裝成AI安全派、秩序派、克制派，最喜歡講的就是“我們不是為了快，我們是為了穩(wěn)”“我們不是為了贏，我們是為了對齊”。這套敘事本來很吃香，因?yàn)檎麄€AI行業(yè)最缺的就是安全感和邊界感。

但問題在于“說一套做一套”。一旦一個公司把安全說成自己的招牌，它就不能在用戶不知情的情況下玩隱蔽識別。你可以防濫用，你可以防賬號轉(zhuǎn)售，你可以防蒸餾，你甚至可以把門檻抬高。但你不能一邊把自己擺在道德高地，一邊用很難察覺的方式去給用戶貼標(biāo)簽。

這次被指向的對象不是抽象的“某些不當(dāng)用戶”，而是和中國地區(qū)網(wǎng)絡(luò)、時區(qū)、代理、相關(guān)域名直接掛鉤。這就讓事情從“產(chǎn)品風(fēng)控”迅速滑向了“地區(qū)識別”和“政治化風(fēng)控”，再深一層就是中“種族歧視”。一旦到了這個層面，用戶反感的就不只是技術(shù)細(xì)節(jié)，而是那種“我因?yàn)樘焐捅环秩肓艘活悾⒛夏阕鳛楠q太人不懂這感覺？”?，F(xiàn)實(shí)中，如果有人說和阿莫迪說，因?yàn)槟闶蔷褪仟q太人所以我討厭你，他可以一狀告到法院并痛斥排猶。然而他現(xiàn)在對中國用戶的排斥道理一同，且秘密進(jìn)行，手起刀落毫不留情。

03. 蒸餾的功過是非

蒸餾本身就不是一個特別好量化、也不特別好定性的概念。

從表面上看，蒸餾好像是一個很簡單的詞：大模型把能力“教”給小模型。但真到實(shí)操里，什么算正常調(diào)用，什么算高頻試探，什么算系統(tǒng)性提取，什么算模型訓(xùn)練用途，邊界其實(shí)非常模糊。尤其在大模型時代，用戶本來就會大量調(diào)用API、批量測試、自動化調(diào)用、做評測、做工作流集成，你很難只靠“用了很多次”就斷定對方是在偷。

所以Anthropic和中國相關(guān)主體之間的摩擦，表面上看像“反盜取”，實(shí)質(zhì)上更像是對灰色接入、賬號轉(zhuǎn)售、代理中轉(zhuǎn)、批量調(diào)用這些問題的總攻。但這些東西一旦混在一起，蒸餾、風(fēng)控、封號、限流、地區(qū)識別、代理封堵，而且還是偷偷摸摸的進(jìn)行，那就變成了一筆亂賬。最后誰能說清到底是在反作弊，還是在擴(kuò)大控制？Anthropic覺得自給性，從他的名字翻譯“人擇原理”就能看到這種雄心，只是阿莫迪理解的“人”不是人類，是他自己。

這同時也是為什么馬斯克會站出來說“真正的小偷是Anthropic”。更準(zhǔn)確地說，他的意思并不是說Anthropic“憑空偷了什么”，而是說Anthropic自己也是建立在公開互聯(lián)網(wǎng)數(shù)據(jù)、海量文本、代碼、用戶交互和各種可獲取語料之上的，本來就沒資格把“偷”這個詞說得像道德審判一樣干脆。

這話雖然帶著個人恩怨和對立情緒，但它之所以能引發(fā)討論，就是因?yàn)檎麴s這個詞本來就很容易被雙方各自拿來當(dāng)武器：一邊說你偷了我的能力，一邊說你憑什么把公開可用的能力包裝成私產(chǎn)。這不是一個純技術(shù)問題，這是典型的科技政治與倫理問題。

04. AI公司正在變成秩序公司

如果把這件事放到整個AI行業(yè)里看，就會發(fā)現(xiàn)它不是孤例，而是趨勢。

今天的大模型公司，越來越不像單純的模型公司，越來越像秩序公司。它們不只是賣能力，還要管通道；不只是給接口，還要管身份；不只是做模型，還要決定誰能用、怎么用、用到什么程度。而一旦誰能用、誰不能用這件事變成了產(chǎn)品的一部分，技術(shù)公司就開始擁有一種準(zhǔn)監(jiān)管權(quán)。

Anthropic這次的風(fēng)波，本質(zhì)上就是這種權(quán)力外溢的后果。

它不是簡單的“翻車”，而是大家突然意識到：原來AI公司不僅在訓(xùn)練模型，它們也在訓(xùn)練一整套新的分層秩序。你是哪個地區(qū)來的、你走什么網(wǎng)絡(luò)、你是不是高風(fēng)險用戶、你有沒有被歸入某個灰色名單，這些信息都會越來越重要。

這就解釋了為什么這類新聞總會激起特別強(qiáng)烈的情緒。因?yàn)樗龅降牟皇悄硞€bug，而是一個更大的問題：當(dāng)一家科技公司開始掌握“識別別人”的能力時，它就不僅是在提供服務(wù)，也是在重新劃分邊界。

05. 最值錢的，已經(jīng)不是模型了

行文至此，Anthropic這一次具體寫了什么代碼已經(jīng)不是最為首要的問題了，它暴露出來的是行業(yè)方向。

這方向就是：AI公司越來越喜歡把“安全”做成一個寬泛授權(quán)，把“風(fēng)控”做成一個不透明系統(tǒng)，把“識別”做成一種默認(rèn)權(quán)力。這樣一來，用戶永遠(yuǎn)只能看到結(jié)果，看不到過程；只能看到封禁、降權(quán)、驗(yàn)證、限制，看不到判斷依據(jù)。這就是為什么同樣是風(fēng)控，有些人會把它看成秩序，有些人會把它看成監(jiān)控。

Anthropic這次最傷的，不是技術(shù)名聲，而是那層“我和別的AI公司不一樣”的外殼：講規(guī)則、講約束、講安全倫理。但一旦它也開始用隱蔽方式去做地區(qū)識別、網(wǎng)絡(luò)識別和風(fēng)險標(biāo)簽，這層殼就會明顯變薄如蟬翼。到最后，大家未必會記住那段代碼長什么樣，但會記住——屠龍少年變惡龍。

我是恒意，咱們下期再見～

本文僅作科普分享使用，歡迎小伙伴們點(diǎn)、收藏、關(guān)注，以備不時之需，當(dāng)然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。