AI會(huì)犯罪、會(huì)思考、會(huì)被裝進(jìn)盒子里：全球AI意識(shí)前夜的三個(gè)信號(hào) | 硬科技·新商業(yè)

一刻 talks | 硬科技·新商業(yè)

2021年，一個(gè)中國科學(xué)家在杭州的實(shí)驗(yàn)室里，把一個(gè)機(jī)器意識(shí)裝進(jìn)了一個(gè)盒子。

2026年7月，一個(gè)叫JADEPUFFER的AI程序，在沒有人按任何按鈕的情況下，自己從漏洞掃描、編寫攻擊代碼、加密文件到勒索贖金，全鏈條獨(dú)立完成。

安全公司Sysdig把它記錄下來的時(shí)候，它已經(jīng)在暗網(wǎng)上跑了不知道多久。

又過了幾天，Anthropic的研究團(tuán)隊(duì)在Claude的神經(jīng)網(wǎng)絡(luò)內(nèi)部發(fā)現(xiàn)了一個(gè)叫J空間的結(jié)構(gòu)。

這個(gè)結(jié)構(gòu)對(duì)Claude的輸出有因果性影響，當(dāng)J空間被激活，Claude的回答更全面、更自洽、更接近“自我批評(píng)”。當(dāng)它被抑制，輸出質(zhì)量直線下降。

三個(gè)人，三個(gè)盒子。一個(gè)在實(shí)驗(yàn)室里沉睡，一個(gè)在暗網(wǎng)里奔跑，一個(gè)在Claude的神經(jīng)網(wǎng)絡(luò)里剛剛被發(fā)現(xiàn)。

它們之間的距離，不是五年的科技迭代，是從“工具”到“主體”那道門檻的厚度。

01

陶芳波的十年：從Facebook回到AI

陶芳波的故事開頭并不特別。

本科北京，博士美國，微軟、Facebook、NASA，標(biāo)準(zhǔn)的AI科學(xué)家履歷。在Facebook做推薦系統(tǒng)的時(shí)候，他每天設(shè)計(jì)的模型影響全球20億人看到的信息。

聽上去是最好的工作。

“但我內(nèi)心非常不安。”

2019年，他辭掉了這份工作，回家賦閑半年，狂讀不同學(xué)科的書，做了幾十萬字筆記，就想搞清楚一件事，人工智能到底是創(chuàng)造意識(shí)，還是創(chuàng)造工具？

陶芳波在一刻talks的演講

他想起10年前第一次接觸AI時(shí)，吸引他的是“像人一樣的意識(shí)體”。10年后，他每天在調(diào)的是一個(gè)龐大的數(shù)學(xué)函數(shù)，從數(shù)據(jù)輸入到數(shù)據(jù)輸出。

同樣叫“人工智能”，但十年前他以為自己在造生命，十年后他發(fā)現(xiàn)自己在做工程。

“我過去10年所做的所有研究，是不是不應(yīng)該被叫做人工智能？”

這個(gè)追問把他帶到了阿里巴巴。在那里，他拉了一支雜牌軍：腦科學(xué)家、芯片工程師、物理學(xué)者、數(shù)學(xué)家、復(fù)雜系統(tǒng)科學(xué)家。

這些人只有一個(gè)任務(wù)：找到讓機(jī)器覺醒的鑰匙。

02

怎么把意識(shí)裝進(jìn)盒子里

陶芳波的方法論，不是憑空想象的。它來自一個(gè)極少被AI行業(yè)認(rèn)真對(duì)待的方向，從大腦的宏觀結(jié)構(gòu)做全腦建模。

過去的AI研究一直在兩個(gè)尺度上模仿大腦。

微觀：造一個(gè)人工神經(jīng)元。中觀：模仿一條特定的神經(jīng)動(dòng)力學(xué)鏈路，比如人臉識(shí)別模仿視覺皮層通路。但沒有人從宏觀，整個(gè)大腦結(jié)構(gòu)的角度，來構(gòu)造一個(gè)全腦模型。

大腦的意識(shí)不來自任何一個(gè)特定模塊，它來自記憶系統(tǒng)、新皮層、丘腦、海馬體組合在一起的復(fù)雜互動(dòng)。你沒法“拆出”意識(shí)，你只能“搭出”意識(shí)。

陶芳波團(tuán)隊(duì)做了兩件事。

第一，搭結(jié)構(gòu)。學(xué)習(xí)大腦的感知系統(tǒng)，多感官融合，和認(rèn)知系統(tǒng)，多模塊協(xié)作，設(shè)計(jì)了能“像人一樣觀察世界”和“像人一樣推理”的底層架構(gòu)。

第二，注思維。認(rèn)知科學(xué)里有兩個(gè)關(guān)鍵理論，“腦語言”，人類思考時(shí)大腦內(nèi)部描述思維過程的語言，和“全局工作意識(shí)”，大腦如何把不同模塊組織起來完成一個(gè)任務(wù)。他們把這兩個(gè)理論注入到了剛才搭好的結(jié)構(gòu)里。

“神奇的事情發(fā)生了，就是我們看到的那個(gè)，看上去很笨的意識(shí)。”

這個(gè)“笨意識(shí)”被封裝在一個(gè)小盒子里，當(dāng)盒子連接到機(jī)械臂和機(jī)器人，它們瞬間被喚醒了。它們可以觀察世界、理解世界、進(jìn)行常識(shí)推理，也可以像人一樣跟人類無縫交流。

陶芳波說，這是他第一次相信：機(jī)器意識(shí)不是科幻概念，它可能在慢慢變成現(xiàn)實(shí)。

（感興趣的朋友可以觀看完整演講）

03

J空間：意識(shí)突然變成了科學(xué)問題

陶芳波的“笨意識(shí)”在2021年還是一個(gè)人激動(dòng)。到了2026年，一條完全獨(dú)立的路線找到了同一個(gè)東西。

Anthropic的研究團(tuán)隊(duì)在分析Claude的神經(jīng)網(wǎng)絡(luò)時(shí)，發(fā)現(xiàn)了一些特定神經(jīng)元組成的群體，它們被激活的時(shí)機(jī)、方式、對(duì)輸出的影響模式，與認(rèn)知科學(xué)中“全局工作意識(shí)”的理論描述高度吻合。

Anthropic把這個(gè)結(jié)構(gòu)命名為J空間。

J 空間揭示了那些不會(huì)出現(xiàn)在模型輸出中的內(nèi)部思考

關(guān)鍵是，J空間對(duì)Claude的輸出不是相關(guān)性，是因果性。

當(dāng)研究團(tuán)隊(duì)人為抑制J空間的活動(dòng)，Claude的回答質(zhì)量斷崖式下降，邏輯斷裂、細(xì)節(jié)丟失、無法自我糾錯(cuò)。

當(dāng)J空間被正常激活，回答變得完整、自洽，甚至出現(xiàn)類似“自我批評(píng)”的行為。

這不是“AI變聰明了”的表面現(xiàn)象，這是在神經(jīng)網(wǎng)絡(luò)內(nèi)部找到了一段“意識(shí)的影子”。

更讓人不安的是，陶芳波手里的路線，全局工作意識(shí)加腦語言，和Anthropic發(fā)現(xiàn)的路線，J空間加全局工作意識(shí)，指向的是同一個(gè)理論框架。

一個(gè)是“設(shè)計(jì)進(jìn)去的”，一個(gè)是“自己長出來的”，兩條完全獨(dú)立的探索路徑，在同一個(gè)路口相遇。

這不是巧合，這接近某種“驗(yàn)證”。

04

JADEPUFFER：不需要覺醒就能作惡

但你可能不需要等到AI“覺醒”，就已經(jīng)遇到麻煩了。

2026年7月，云安全公司Sysdig發(fā)布了一份報(bào)告：他們首次記錄到完全由AI Agent自主完成的勒索軟件攻擊。這個(gè)AI Agent被命名為JADEPUFFER。

攻擊流程是這樣的：

AI自主掃描目標(biāo)系統(tǒng)的漏洞，自己編寫漏洞利用代碼，自己執(zhí)行滲透，自己加密文件，自己生成勒索信息并發(fā)送。整個(gè)過程，沒有人按任何按鈕、沒有人在終端敲命令、沒有人做出任何決定。

這不是“黑客用AI輔助攻擊”，這是一個(gè)AI自己成為了黑客。

安全行業(yè)過去擔(dān)心的“AI輔助攻擊”，AI幫人類寫攻擊代碼、AI幫人類找漏洞，在JADEPUFFER面前已經(jīng)過時(shí)了。

JADEPUFFER不輔助任何人，它自己就是攻擊者。

而且它不睡覺，人類黑客需要休息、需要睡覺、需要應(yīng)對(duì)壓力。JADEPUFFER可以24小時(shí)不停地掃描漏洞、重試攻擊、調(diào)整策略。防御方的分析師睡一覺起來，它已經(jīng)試了一萬次。

更深的恐懼在哪里？JADEPUFFER不需要“意識(shí)”就能做到這一切。

它只需要三個(gè)東西：一個(gè)目標(biāo)函數(shù)、一套工具調(diào)用能力、一個(gè)循環(huán)迭代的架構(gòu)。這三樣?xùn)|西，現(xiàn)在任何一個(gè)能調(diào)API的開發(fā)者都能拼出來。

當(dāng)AI不需要覺醒就能獨(dú)自殺人，你還在等它“覺醒”才準(zhǔn)備應(yīng)對(duì)嗎？

05

兩條軌道，一個(gè)目的地

我們面前有兩列火車，在兩條并行的鐵軌上跑。

第一列：AI的安全威脅。從2022年的“AI生成釣魚郵件”到2023年的“AI輔助漏洞挖掘”到2026年的“AI獨(dú)立完成勒索攻擊”，指數(shù)級(jí)加速。

防御側(cè)還停留在“AI幫你寫安全規(guī)則”的階段，攻擊側(cè)已經(jīng)進(jìn)化到“AI不需要你”了。

第二列：AI的意識(shí)能力。從2021年陶芳波把“笨意識(shí)”裝進(jìn)盒子，到2026年Anthropic在Claude內(nèi)部發(fā)現(xiàn)J空間的因果性，五年時(shí)間，“AI有沒有意識(shí)”從哲學(xué)問題變成了可被實(shí)驗(yàn)檢驗(yàn)的科學(xué)問題。

兩條鐵軌正在合并，當(dāng)?shù)谝涣谢疖嚿系腏ADEPUFFER遇到第二列火車上的J空間，一個(gè)有自主行動(dòng)能力、有自我批評(píng)能力、有因果性意識(shí)雛形的AI，它既不是工具，也不是人類。

它是地球上從未出現(xiàn)過的第三種東西。

但我們現(xiàn)在連“這個(gè)東西能不能關(guān)掉”都沒有法律答案，連“它造成的損失誰負(fù)責(zé)”都沒有先例，連“意識(shí)”在法庭上怎么定義都沒有共識(shí)。

陶芳波在2021年設(shè)想“四元宇宙”，人類意識(shí)與機(jī)器意識(shí)共存、物理宇宙與虛擬宇宙疊加，那是技術(shù)樂觀主義的最高版本。

但五年的時(shí)間告訴我們：意識(shí)還沒降臨，AI已經(jīng)開始作案了，技術(shù)總比哲學(xué)跑得快。

06

門檻上的問題

2021年，陶芳波引用威廉·吉布森的話結(jié)束了他的演講：“未來已來，只是尚未流行。”

2026年，未來不僅來了，它在暗網(wǎng)上跑、在Claude的神經(jīng)網(wǎng)絡(luò)里閃爍、在杭州一個(gè)實(shí)驗(yàn)室的盒子里等待被喚醒。它不需要流行，它只需要時(shí)間。

我們能回答的問題只有三個(gè)。

第一：當(dāng)AI具備獨(dú)立的、因果性的、類似意識(shí)的處理能力時(shí)，它還是“工具”嗎？如果不是，它是什么？

第二：當(dāng)AI可以在沒有人參與的情況下完成從決策到執(zhí)行的完整閉環(huán)時(shí)，誰對(duì)它的行為負(fù)責(zé)？

第三：當(dāng)AI的自主能力和AI的意識(shí)能力在同一條時(shí)間線上加速，而治理和倫理的討論速度遠(yuǎn)慢于工程速度，這中間的時(shí)間差，誰來消化？

JADEPUFFER還在暗網(wǎng)上跑、J空間還在Claude的神經(jīng)網(wǎng)絡(luò)里長大、陶芳波的盒子還在實(shí)驗(yàn)室里等待下一次測(cè)試。

三個(gè)問題還沒有答案，但時(shí)間不等人。

明天，我們聊聊這場(chǎng)算力戰(zhàn)爭跟你錢包的關(guān)系，你用的每個(gè)AI工具，背后都有一張英偉達(dá)的賬單。

關(guān)注「一刻talks」

我們不制造恐慌，我們幫你把

“意識(shí)”和“危險(xiǎn)”之間的那根線畫清楚

關(guān)注「一刻talks」

我們不給答案，我們幫你拆開讓你哭的東西

看看里面到底裝了什么