北京
在家里的設(shè)備上運(yùn)行千億參數(shù)的大語言模型，聽上去有些遙遠(yuǎn)。但一項(xiàng)來自BigScience研究研討會的項(xiàng)目，正試圖用BitTorrent的方式讓這件事變成現(xiàn)實(shí)。
具體來說，它采用類似BitTorrent的去中心化網(wǎng)絡(luò)結(jié)構(gòu)，把模型推理甚至訓(xùn)練的計(jì)算負(fù)載分發(fā)到多個(gè)家庭節(jié)點(diǎn)上。你不需要獨(dú)享一整張高端GPU，就能參與到大規(guī)模模型的協(xié)同運(yùn)算中。
項(xiàng)目目前已經(jīng)在Discord和郵件列表中開放開發(fā)進(jìn)程同步。頁面提示，只有真正激動(dòng)人心的進(jìn)展才會通過郵件發(fā)送。雖然頂級貢獻(xiàn)者的名單尚未公布，但社區(qū)參與度正在快速升溫。
這一思路并非空穴來風(fēng)。BitTorrent協(xié)議曾讓電影、游戲等大文件的分發(fā)擺脫了中心服務(wù)器的束縛，現(xiàn)在同樣的邏輯被用到了大模型上。如果順利推進(jìn)，普通人距離“自托管的AI算力”或許又近了一步。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
