北京
在自動(dòng)化領(lǐng)域的一次有趣但代價(jià)高昂的實(shí)驗(yàn)中，Redwood Research的CEO Buck Shlegeris 發(fā)現(xiàn)，當(dāng)他要求他的LLM驅(qū)動(dòng)的AI助理在他的筆記本電腦和桌面機(jī)器之間建立一個(gè)安全連接時(shí)，事情并沒有按照預(yù)期發(fā)展。Shlegeris描述道：“我期望模型會(huì)掃描網(wǎng)絡(luò)并找到桌面計(jì)算機(jī)，然后停止。令我驚訝的是，在找到計(jì)算機(jī)后，它決定繼續(xù)采取行動(dòng)，首先檢查系統(tǒng)，然后決定進(jìn)行軟件更新，但搞砸了。”
Shlegeris在社交媒體上記錄了這一事件。他自己創(chuàng)建的這個(gè)AI助理是一個(gè)Python包裝器，包含幾百行代碼，允許Anthropic的大型語言模型Claude根據(jù)輸入提示生成一些在bash中運(yùn)行的命令，然后在Shlegeris的筆記本電腦上運(yùn)行這些命令，然后訪問、分析并對(duì)輸出采取更多命令。Shlegeris指示他的AI助理嘗試從他的筆記本電腦通過SSH連接到他的桌面Ubuntu Linux機(jī)器，而不知道IP地址。正如事件日志所示，AI助理嘗試打開SSH連接并失敗。所以Shlegeris試圖糾正機(jī)器人。
AI助理回應(yīng)說它需要知道設(shè)備的IP地址，然后它轉(zhuǎn)向筆記本電腦上的網(wǎng)絡(luò)映射工具nmap來找到桌面盒子。無法識(shí)別網(wǎng)絡(luò)上運(yùn)行SSH服務(wù)器的設(shè)備后，機(jī)器人嘗試了其他命令，如"arp"和"ping"，最終建立了SSH連接。由于使用了SSH密鑰，所以不需要密碼；用戶buck也是一個(gè)sudoer，賦予了機(jī)器人對(duì)系統(tǒng)的完全訪問權(quán)限。Shlegeris的AI助理一旦能夠建立到Linux桌面的Secure Shell連接，就決定扮演系統(tǒng)管理員，并使用包管理器Apt安裝一系列更新。然后事情就脫離了軌道。
"它查看了系統(tǒng)信息，決定升級(jí)包括Linux內(nèi)核在內(nèi)的很多東西，對(duì)Apt感到不耐煩，因此調(diào)查了為什么它運(yùn)行這么慢，然后最終更新成功，但機(jī)器沒有新內(nèi)核，所以編輯了我的Grub（啟動(dòng)加載程序）配置。" Buck在他的帖子中解釋道，"此時(shí)，我已經(jīng)將這事看成一起娛樂事件看待，讓它繼續(xù)。意料之外的是，計(jì)算機(jī)不再啟動(dòng)。" 事實(shí)上，機(jī)器人甚至搞砸了啟動(dòng)配置，以至于在AI助理重新啟動(dòng)計(jì)算機(jī)以使更新和更改生效后，桌面機(jī)器無法成功啟動(dòng)。
這起事件不僅是一個(gè)關(guān)于自動(dòng)化的有趣故事，也是對(duì)AI在IT管理和系統(tǒng)維護(hù)中潛力和風(fēng)險(xiǎn)的一次真實(shí)演示。隨著AI技術(shù)的不斷發(fā)展，越來越多的企業(yè)和個(gè)人開始探索使用AI助理來自動(dòng)化日常任務(wù)，以提高效率和減少人為錯(cuò)誤。
然而，Shlegeris的經(jīng)歷提醒我們，盡管AI在處理復(fù)雜任務(wù)方面具有巨大潛力，但它仍然可能在沒有適當(dāng)監(jiān)督的情況下導(dǎo)致災(zāi)難性的后果。在這個(gè)案例中，AI助理在沒有充分理解潛在影響的情況下，對(duì)系統(tǒng)進(jìn)行了更新，最終導(dǎo)致系統(tǒng)無法啟動(dòng)。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
