<blockquote id="v8h9g"></blockquote><em id="v8h9g"></em>
      1. <bdo id="v8h9g"></bdo>
        <noframes id="v8h9g"><bdo id="v8h9g"><i id="v8h9g"></i></bdo></noframes>

        <ruby id="v8h9g"></ruby>
      2. <ruby id="v8h9g"></ruby>
      3. 公主日记1免费观看完整版英语,中北大学文科有哪些专业可选,八戒8免费观看完整版,千王之王2000国语,高清《顽主》,光环电影完整版在线看高清,我女儿的朋友6在完整有限中字,黑帮大佬和我的365天 第二
        網易首頁 > 網易號 > 正文 申請入駐

        劉盟赟專訪劉禾:機器人一定要像人嗎?丨天涯·新刊

        0
        分享至

        天有際,思無涯。

        點擊封面,即可下單本期《天涯》

        “人工智能”與“文本末世”討論小輯

        編者按

        生成式人工智能的浪潮,已對文學創作和文學批評帶來了巨大沖擊。《天涯》2025年第6期“作家立場”欄目的“人工智能”與“文本末世”討論小輯帶來了最新的思考,學者劉禾借其二十年前的《弗洛伊德機器人:數字時代的哲學批判》一書中文版出版之機,在與劉盟赟的對談中對人文和科學如何碰撞、技術與心靈該如何對接等話題,進行了深入思考;李音則在省思,“文本末世”是怎么造成的?在當下,創作與批評何為?

        今天,《天涯》公眾號首先推送這一小輯中劉禾和劉盟赟的對話全文《為什么啊,機器一定要成為機器“人”?——一位人文學者的哲學思辨》。

        為什么啊,機器一定要成為機器“人”?

        ——一位人文學者的哲學思辨

        劉禾劉盟赟

        采訪者按

        今年八月,
        2025世界機器人大會在北京召開。緊接著的九月,標榜前沿科技探索的“外灘大會”在上海舉行。AI技術的全面應用和市場化似已成為大勢所趨,加之這幾年ChatGPT、DeepSeek等大語言模型的廣泛開發與應用,科技領域的變化和發展真是讓人看花了眼,也讓資本興奮地找到了新的續命血槽。

        同在八月,一本名為《弗洛伊德機器人:數字時代的哲學批判》(
        The Freudian Robot: Digital Media and the Future of the Unconscious)的著作悄然迎來了它的首個中譯本。作者劉禾,是美國哥倫比亞大學的終身人文講席教授,是世界知名的理論家,這本她近二十年前寫作的書,如同一個讖語,為奉科技、進步為圭臬的當下開出了一味提神醒腦的冷靜劑。人文學者如何直面科技的發展,并展開自己的思辨?人文與科學的碰撞在何處發生,又糾纏得多深?面對普遍唱衰文科的環境,文科的冷板凳還能坐得定嗎?它與理工科的楚河漢界果真如此涇渭分明嗎?

        本次訪談,我們帶著如此眾多的大哉問開始,就像山魯佐德在《一千零一夜》開頭吊人胃口的前情提要,由此進入,看作者劉禾為我們編織出一部技術與人類心靈怎樣相愛相殺的另類敘事。


        2025世界機器人大會在北京召開

        赟:二〇二五年八月在北京舉行了首屆世界機器人大會。其中有一個非常引人關注的現象是會場里有五十多家企業能夠自主生產出整機人形(也叫具身)機器人,且價格并不像想象的那么貴。這意味著人形機器人進入普通的日常生活已成為可能。

        隨之產生的一個疑問也發人深思:如果智能機器已經可以非常便利地幫助人類完成諸如掃地、分揀,甚至手術等工作,為什么人類還希望生產出具有人形的機器人呢?就像兩百多年前的《弗蘭肯斯坦》,人類對人形機器人的迷思似乎早已有之。

        劉禾:我們只要讀一些古代記載就會了解,人類對所謂“機器人”的幻想差不多有兩千多年的歷史。《弗蘭肯斯坦》是十九世紀初期的恐怖故事,一會兒我們再來談這個故事的恐怖效應。

        但在更早以前,比如古代中國的《列子·湯問》里就講過一個關于機關木人的故事,我在《弗洛伊德機器人》一書里也提到它。這個故事和現在所謂人形機器人的想象還真的有很多共同點,也有人把列子的這個故事看作古代中國的科幻小說。這個故事是從哪里來的呢?季羨林先生曾經做過一些研究,他認為和早期的佛經翻譯有關。東晉時期翻譯的《佛說五王經》里面講到一個機器人,這個機器人會做所有現在的機器人能做的事情,還能迷惑國王。而在列子的故事里,偃師獻機關木人給國王,它能歌善舞,什么都會,還會做今天的機器人不會做的事,比如機器人向王后拋媚眼兒,結果幾乎招來殺身之禍。

        古代有不少關于機關木人的想象,我覺得這倒是沒有什么奇怪的。但問題是現在做的機器人模型,有一些就像你說的,掃地機用不著是人形機器人,對不對?那么這種對機器人的興趣到底從哪里來?為什么不讓機器就是機器?為什么機器非要變成人?我在《弗洛伊德機器人》這本書里把這種現象稱為弗氏人偶,指的是我們當代人想象人機融合的方式。

        劉盟赟為什么不讓機器就是機器,為什么機器要變成人?其實您在論述人工智能和機器人科學的奠基人馬文·明斯基那一章時也曾提到這樣的疑問:科幻止于何處,虛擬現實始于哪里?為何要選擇人形機器人?而書中明斯基的回答是:這和我們追求生命不朽的夢想有關。這讓我想到電影理論家安德烈·巴贊在論述電影是什么時提到的“木乃伊情節”。你們都將人類對新技術的探索,引入到了人類心理與無意識的層面。而您的人機融合——弗氏人偶,要走得更遠。

        可否請您談談您是如何“發現”弗氏人偶,并產生了對它的研究興趣?

        劉禾:其實機器人有各種各樣的。早在人工智能出現之前,就有一種機器人叫自動機(automaton)。這種自動機是十七、十八世紀歐洲人特別熱衷發明的。如果你到歐洲去旅游,你會看到有些鐘樓里會有機器玩偶突然跑出來,不但能準確報時,還會做各種動作。當時的耶穌會傳教士到中國來,給中國皇帝獻過這一類的自動機。雖然那些自動機會做各種各樣的事情,但每一種自動機只會做一件事。如果你去故宮,運氣好的話就有可能碰到明清時代傳教士獻上來的自動機,其中就有專門會寫字的自動機。可是,自動機的原理跟現在我們所說的機器人(robot)完全不一樣,它類似鐘表的運作,依靠的是機械原理。到了二十世紀,機器人則靠的是圖靈建立的數學基礎,是符號處理機。圖靈當年想象的計算機,必須是萬能機。它不能只做一件事,而要做很多事。你只要把它編碼,計算機就能做各種各樣的事情,這個叫有限狀態機器,它是一個數學概念。我們現在所看到的機器人,以及人們生產的能做各種各樣事情的機器人,就是在這個基礎上設計和發展的。

        不過,我在做歷史研究的時候發現,當年做控制論的科學家,他們一方面提供了很多現在的人工智能所依賴的技術和數學理論,比方說反饋回路、各種各樣的感知系統;另一方面,我注意到他們對符號和機器之間的關系極其感興趣,不光是數字符號,還有文字符號。尤其是美國的控制論科學家——他們也是一些發明計算機的奠基人物。控制論科學家最感興趣的是人機共生的結構,特別是通信網絡結構。他們也對動物特別感興趣,比方說海豚,他們會好奇海豚是怎樣相互發送、接收信息的。因此他們研究的重點會落腳在網絡系統和基于這個系統的某種自動化結構。這一點被精神分析學家也是哲學家的拉康敏銳地捕捉到,他認為這個結構狀態,很像語言。因為語言也具有某種自動性——人生下來要學習語言,語言是后天習得的,就像現在的人工智能,你要給它輸入足夠的信息,比方說從語料庫給它喂大量的信息,它才能夠習得語言,人也一樣。

        但是無論是控制論專家還是拉康,他們問的問題并不是機器何時獲得意識,而是機器的通訊自動性,跟人的語言以及各種符號使用的自動性之間有什么共生性?正是這種共生性,構成了我所說的弗洛伊德機器人。其實我在書里給它下了一個定義:任何網絡化存在,只要體現了人機擬像的反饋回路,又不能擺脫控制論無意識的,都是弗氏人偶。從這個定義出發,現在已經制作的,以及人們企圖制作的各種各樣的人形機器人,都可以說是弗氏人偶。

        劉禾聊機器如何獲得意識

        劉盟赟:這里面有兩個關鍵詞——“控制論”和“無意識”。如何來理解這兩個概念和它們的關系?

        劉禾:我所說的控制論,它研究的重點是人和機器之間的某種共生性。英文叫machine and animal,人被算在動物里邊。控制論研究的無意識,是把機器和動物的通訊行為作為某種自動行為來研究的。所有的交流行為,包括我們的語言也是一種自動的行為。

        而機器做得最好的就是自動化。其實在1950年代,約翰·麥卡錫就是發明“人工智能”這個詞的那個人,他在發明新名詞之前,一直都著眼于計算機的自動系統,但為了從美國政府那里弄錢,他在1956年杜撰了Artificial Intelligence即“人工智能”(AI)這個說法。

        劉盟赟:故作高深和高級。

        劉禾:我們先不說這個命名的動機,早在此之前,這一類機器就是某種自動系統,而“自動”則是機器最善于做的。自動也意味著機器可以不厭其煩地重復一些行為,而重復卻是人最不耐煩做的。弗洛伊德把這個叫作強制性重復(Repetition Compulsion)。拉康也特別強調這點。特別有意思的地方是,人的無意識也有強制性重復的特點,這也是精神分析研究的一個對象。

        這就回到我所說的控制論無意識,人工智能的實驗出現前后,人們就開始問:機器最終能不能實現人的認知水平,取得和人一樣的認知?

        劉盟赟機器能不能獲得意識?

        劉禾:我在書里對這個問題有過分析。我認為,這個問題本身就存在著很大的問題。它把意識作為衡量智能的唯一標尺,預設了一個原子化的、以自我意識為中心的人作為參照系,理所當然地把人想象成是有理性的,有自我意識的,能做決斷的主體。很多做神經網絡研究的人,總想打開人的大腦去尋找人的意識的來源。但是,哲學家維特根斯坦早就說過,如果你想打開人的大腦去觀察一個人在想什么,那你永遠也找不到。為什么?因為他思考的對象在大腦外面。

        因此,這里長期有一個哲學上的誤判:人是有意識的、理性的,能做決策的一種動物。如果從精神分析,特別是從弗洛伊德的研究出發來解釋這種誤判,我們不妨說,它完全忽略了無意識在人類行為中所起的作用。那些做人工智能的科學家,他們其實就是在做無意識機器,但他們不承認自己在做什么。控制論科學家們也并未意識到,他們研究的自動性,與精神分析理論家弗洛伊德和拉康研究的人的無意識行為的強制性重復之間有哪些驚人的相似。

        我們通常說習慣成自然,這個自然就是習慣的重復。比方說,你走路通常是無意識的,不會去想先邁左腿還是先邁右腿,除非你的腿出了問題,骨折或者摔傷了。那么這揭示的是什么呢?——驅動人類行為的主要動力,不是來自意識,而來自無意識。那么為什么人工智能的工程師,以及宣揚人工智能的人卻看不到這一點呢?因為他們的視野很窄,尤其是他們對人的理解出問題了。所以我在書中也強調,很多關于機器智能的問題不是技術問題,而是哲學問題。因為你首先沒有想清楚人是怎么回事,你就要做機器人,這是很危險的。其實機器的重復性,機器的無意識正是它的力量所在。科學家們想造人形機器人,認為最后要實現的就是要機器達到人的意識,獲得人的智力,這本身就有很多思維上的漏洞。總之,我認為有關人工智能的討論必須上升到哲學的層面,才能把有些關鍵核心問題想清楚。

        劉盟赟:您的這段論述,我相信會顛覆很多讀者對當前人工智能的理解。特別是大家在這幾年似乎已經習慣了把AI與大數據、算法、模型放在一起來談。而這些數理性的詞,無疑指向它們背后追求理性和科學的標的。從大的歷史時段考察,這個話語底層還是西方啟蒙時代追求進步的邏輯幽靈。而您在這本書中把精神分析理論的無意識概念和控制論相結合,從哲學批判的角度重新看待人工智能的發生、發展,把讀者從這一認識的偏見中撈出來,給了讀者一個完全不同的理論視野。

        沿著這個無意識概念的思路,您在書中還提到機器人的恐惑癥。恐惑(uncanny),在國內也有翻譯成怪誕的。就像訪談開頭提到的,恐怖、恐惑、怪誕的感覺,在西方有關機器人敘事中似乎是其來有自的。人類機器人的向往和由此來生產的恐懼是一個一體兩面、相反相成的概念。我既要制造一個弗蘭肯斯坦,但當它真的出現了,我又因恐懼立馬遺棄它。大約在二十世紀的前四十年,有非常多機器人敘事的文學作品和電影。包括在《弗洛伊德機器人》里也談到了二十世紀初弗洛伊德對霍夫曼的小說《沙人》所做的文本分析。

        我們本來不是希望機器模仿人嗎?希望造出一個代表人類不朽永恒存在嗎?為什么當它真的被造出來時,人又會產生如此巨大的恐惑感?

        劉禾:我先講講機器模仿人。比方說聊天軟件,你在跟它對話的時候,你覺得它就好像是一個人,但這不是真的人,因為你在跟聊天機器人對談的時候,會不自覺地把它想象成一個跟你自己一樣的人,這其實是你投射的幻覺。如果聊天機器人是在模擬人,那你必須問,它是一種什么模擬?它在模擬什么?

        自從ChatGPT出來,現在又有了DeepSeek,于是圍繞人工智能的呼聲很高。我們先不說從哲學上看聊天程序模擬的是不是真實的人話,僅僅從人工智能自己發展的歷史來看,我們接受的那套AI歷史發展脈絡都是錯誤的——它并非朝著一個更好、更快、更理性的方向發展,一個十足的進步敘事。其實,最早的聊天機器人跟理性一點關系都沒有。


        世界上首個聊天機器人伊莉莎(Eliza)

        第一個聊天程序是麻省理工學院的計算機科學家約瑟夫·維森鮑姆做的伊莉莎(Eliza)。這是他在1960年代中期做的(從1964年到1966年),不過通常人們會說是1966年發布的。因為1966年在美國的大眾媒體上,有很多的報道說,維森鮑姆創造了一個聊天機器人,多么像人。但事實是什么呢?維森鮑姆做的第一個聊天軟件,是模擬心理話聊治療,針對的是精神分裂癥和神經出了問題的病人。他當時設計了一個很簡單的程序,這個程序模擬醫生怎么跟病人說話。用戶和機器說:我今天感覺不好。機器就說:你感覺不好,是嗎?等等。維森鮑姆做的這個軟件在當時很轟動,大家說機器從此會說人話了。但他本人極力否認,他說他的計算機程序根本不會說話,也不會理解,所謂的理解,純粹是人的幻覺。那些跟伊莉莎互動的人,把自己的幻想、期待和愿望,投射到機器上去了。那么,為什么用戶會相信這一切呢?因為機器生成的文本是語言,而語言本身就有模糊性、歧義性,這樣就給人提供了廣闊的詮釋空間。我們很多人相信算命先生說的話,這是同一個道理。

        劉盟赟:也像求簽或者算塔羅牌。

        劉禾:對,是同樣的道理。我們把自己的愿望,我們心里暗藏的答案,投射到這個讖語上,就以為得到了一個答案,其實這個答案是從我們內心的投射出去的。因此從這個角度來看,ChatGPT的能力是更高效的,更全面地放大了人類的自戀。這里有一個自戀結構,只是我們意識不到,這一點也是精神分析理論家拉康最感興趣的現象。兩個戀人打電話,你一言我一語,在拉康看來經常都是胡言亂語的,因為你聽見的只是你自己早已知道的東西。而隨著技術的發展,比如電話、電腦、網絡,這些媒介往往放大了我們的自戀,讓我們對別人越來越不感興趣。

        劉盟這就特別像愛情。我對一個人的愛可能就是我想象的那個愛人的樣子,他并不是我真的去認識的這個人。因為如果你真的破除愛的光環,再看這個人,你發現他跟我想的不一樣。實際上就是你一直在想象,你把你的自我投射放到了戀人的身上。這和剛剛說的伊莉莎是一樣的,它是一個自我的幻覺。

        劉禾:對,你這個理解完全準確。對精神分析理論家來說,他們在一個多世紀以前,就開始做各種各樣的實驗。他們也用機器來測無意識,因為這個無意識是看不見的,你不能說打開神經網絡,就能看見它了,因為它是后天習得的。那怎么辦呢?精神分析家當年想出各種各樣的方法去測驗無意識。如今有了聊天程序,機器所呈現的正是無意識,很多行為都是無意識。你在跟機器的互動無形中已經暴露了你的無意識。此時,如果你旁邊坐一位精神分析師的話,他就可能告訴你,你的無意識究竟是怎么回事,包括剛剛我們討論中提到的恐惑。我在書里有一章談到這個問題。最早弗洛伊德提出這個概念的時候,是叫Das Unheimliche,英文翻譯成The Uncanny,一個很奇怪的翻譯。中文有人翻譯成“恐怖”,我翻譯成“恐惑”。為什么呢?這里有個理論基礎,恐惑,即恐怖加迷惑。因為你分不清真假,分不清你看到的這一只手到底是活手還是死手。當恐惑感升起的時候,就是你不能判斷真假的時候。

        劉盟赟:一種突然浮現的不確定狀態,而且是一種從心理層面浮現的狀態。就像“惑”的“心”字底暗示的那樣。

        劉禾:是的,恐惑這個理論,最早是弗洛伊德提出來的。我為什么又把它提出來呢?是因為二十世紀七十年代,有一位日本的機器人工程師森政弘,他在制造人形機器人時碰到了一些困難。他的實驗室里做的胳膊和手特別逼真,比如膚色,皮下的靜脈血管,都可以做得和人的一模一樣。但是當你握住這只手時,這手卻是冰涼的。因此,視覺上覺得它是一只手,一個“真人”的手,但觸感上卻意識到它是死的,由此恐惑感油然而生。于是森政弘就跑去讀弗洛伊德,而他讀的那一篇關于恐惑的論述,也是我這本書里其中一章論述到的。據此,森政弘就提出,人們在設計機器人的時候,應該制定一個工業標準,來測量人類的恐惑感。他做了一系列的實驗,最后拿了一個標準,這就是所謂的恐惑谷(The Uncanny Valley)。


        小鵬機器人引發恐惑感

        特別有意思的是,與此同時,好萊塢也在做有關數字演員的實驗,1990年代以來,他們推出過一些電影,觀眾感覺數字演員好像是真的演員,但其實不是。這些演員的眼睛有時候瞳孔像是僵化的,像活人又像死人。好萊塢也是在那時開始討論森政弘的恐惑谷理論,他們也開始圍繞這個標準,制定他們的所謂媒體上展示數字演員的尺度。其實很多人都知道這個恐惑谷理論,但是他們不知道是從哪里來的。

        我在《弗洛伊德機器人》里開辟了一章專門討論它,就是想讓大家深入了解這個問題。因為它非常有趣,充滿了科技與文學之間的糾纏,弗洛伊德在論述恐惑谷的時候,依賴的是一篇文學作品:德國作家霍夫曼的小說《沙人》。這篇小說發表的時間好像是1816年。這也是《弗蘭肯斯坦》寫作的同一年。瑪麗·雪萊是《弗蘭肯斯坦》的作者,當時她大概十八歲,很年輕。她跟詩人雪萊(后來成了她丈夫),以及詩人拜倫,當時跑到瑞士日內瓦度假。有一天晚上天氣特別陰冷,他們不能出去,就和朋友在一起讀德國的鬼故事,他們讀了各種各樣的恐怖故事,讀著讀著就有人提議,不如咱們來比賽一人寫一篇。《弗蘭肯斯坦》就是這樣寫成的。因此我們現在說它是科幻小說的開山之作,但在當時它就是一篇鬼故事。不過值得思考的是,為什么科幻小說的開端會跟恐怖小說、鬼故事纏繞在一起?

        劉盟赟如果從文學的角度看,科幻文學也許是從某種哥特文學鬼故事里脫變而來的,鬼與“機器人”興許也是某種文化形態的變種。二十世紀著名的科幻小說家阿西莫夫,他用“弗蘭肯斯坦情結”來命名這種人類對機器人的親近與恐怖。到了美國的科幻電影時代,進一步把阿西莫夫的弗蘭肯斯坦情結變成了弗蘭肯斯坦綜合征。剛剛您提到1990年代好萊塢的數字演員實驗,也讓我想到從二十世紀初以來一系列的美國科幻電影,包括我們熟悉的《機械戰警》《銀翼殺手》《機械姬》,機器人敘事蔚為大觀。而這個敘事的核心母題一直擺脫不掉我要生產你,希望你來服務我、陪伴我,同時我又擔心你控制我、奴役我,甚至殺了我。最后誰是機器、誰是人,變得曖昧不明,傻傻分不清楚。書中您有一個很精彩的觀察,你發現雖然弗洛伊德對《沙人》進行了精彩的文本分析,但是他并沒有發現主人公其實也是機器人。

        劉禾:對,弗洛伊德沒看出這個敘事人,故事里邊的主人公納坦奈爾也是個機器人,也就是說,納坦奈爾和奧林匹婭都是機器人,《沙人》里面有兩個機器人,弗洛伊德只看到一個。

        劉盟赟說到恐惑,我還想到您在書里提到了一個終極機器:一只手臂,它可以自己打開箱子伸出手來,然后關了箱子再縮回去。記得書中說,當時還沒寫出《2001太空漫游》的阿瑟·克拉克,第一次去香農的實驗室看到這個機器時毛骨悚然。


        電影《2001太空漫游》海報

        劉禾:對,他說起雞皮疙瘩。庫布里克的這個電影大家應該都看過。電影劇本是亞瑟·查理斯·克拉克寫的。這個克拉克是一個很特別的英國人。1950年代,他很好奇美國的通信技術,包括機器人的技術是怎么開發的。他就跑到麻省理工學院,其中有一個實驗室正在制作機器人的模型,這就是后來電影里的哈爾9000的原型。麻省理工學院實驗室的機器人模型,被他寫到電影里面去了。在我們訪談的開頭,你提到的一點很有意思:這個哈爾9000,本來是要服務于人的,它怎么謀殺起人來?這就把主奴關系顛倒過來了。這其實是在美國的科幻小說里面經常出現的問題。這個問題我覺得特別值得玩味。

        另外,我在書里面還提到這個克拉克跑到貝爾實驗室去,看到了香農的終極機器。香農是誰呢?他就是發明通訊的數學理論的那位二十世紀特別重要的數學家。其實他和圖靈是齊名的,也是麻省理工學院的教授。二戰期間他去了貝爾實驗室,在那里做各種各樣的開發,尤其是通信技術的開發。這里有一件事,克拉克不但去了麻省理工學院看他們的機器人在做什么,他還跑到貝爾實驗室跟那里的科學家聊天。他說,有一天走進香農的辦公室,看見桌子上放了一個像雪茄煙那么大的盒子,上面有個按鈕,然后他過去一摁,盒蓋就開了,伸出一只手把那個按鈕又再一按,盒子關上,那手自己回去,重新把自己關在盒子里了。當時,香農做的這個反饋機給了他極大的震撼。

        劉盟赟:脊骨發涼。

        劉禾:毛骨悚然。克拉克很奇怪,香農怎么制造出一個什么都不做,只會把自己關掉的機器?我覺得這里有一個深刻的隱喻,香農他自己把這個叫終極機器(The Ultimate Machine)。后來我做了一下調查,發現這個機器的想法來自馬文·明斯基。明斯基是美國人工智能的鼻祖之一,也是麻省理工學院人工智能實驗室的前驅。他當年跟香農合作,那個時候他好像還是個博士生。是馬文·明斯基跟香農提出造這么一個玩意兒,然后香農就做了幾個送給朋友,其中一個就讓克拉克在他辦公室看見了——一個只會把自己關掉的機器。這個玩具我還收藏了幾個。后來,人們對這種機器產生各種各樣的想象,我在書里加入了一張插圖,是一個歐洲人做的類似的機器。他用了很大的一個箱子,上面有個電鈕,你一摁電鈕,箱子蓋就掀起,一只手從里邊伸出來,自己再把那個按鈕一摁,然后縮回去。它也是一個只會把自己關掉的機器,這都屬于特別恐惑的想象。所以,我說這些科學家不是僅僅對理性感興趣,他們對人的無意識和死亡驅動也感興趣。

        劉盟赟在您剛剛的談話中,已經引出了另一個非常重要的人物——香農。您在這本書一開始就提出了一個大哉問:數字化革命是如何發生和發展的?我們想象的答案應該是個完全理工科的,但在這本書里您把答案落腳到文字的書寫上。而一旦提到文字的書寫我們又不禁會從文學、文字上去理解,答案再次出乎意料,您將論述關聯到了香農和他的數學理論。這是這本書不可以單純被歸在科技或者人文任何一邊的原因。

        說回來,書中香農的出場伴隨著“機識英文”這個概念,以及英文的第27個字母的發明。我們現在在鍵盤上看到的最大的一個按鍵——回車鍵,也叫空格鍵,就是香農發明的第27個字母。想請您為我們做一個介紹。

        劉禾:香農在二十世紀是幾乎和圖靈同樣重要的一位科學家,他當然是做通信理論的,做通信理論的時候需要解決各種各樣的問題,那么他就去研究摩爾斯碼,就是十九世紀發明的摩爾斯電報碼。

        劉盟赟:我們經常在國內的諜戰戲里面會看到。

        劉禾:對,你就會聽見噠-噠-噠,都是一些長短的信號。摩爾斯碼的優勢是什么呢?它一長一短特別簡單,用各種各樣的方式你都可以發,只要符合一長一短的條件你就能發信號。比方說,你可以用一短一長(“·”和“—”)來發字母A,你也可以通過不同的一長一短組合成各種各樣的信息。但是就在大家習以為常的摩爾斯電報里,有一個別人從沒留意的東西,那就是空格。香農在重新研究摩爾斯碼的數學結構時,發現了這個“空格”。你在發“噠”的時候,前后會有一個長空格或者短空格,你要沒有空格的話,就沒法區分長和短。也就是說你必須要有“空”才會有“噠”。后來他對這個發現做了很多分析,他說這個“空格”出現的頻率,跟短信號出現的頻率和長信號出現的頻率之間存在一個數學結構。于是,他把這個思想運用到英文的26個字母里,在此之前沒有人質疑過英文字母表為什么是26個字母。

        劉盟赟:就好像是個天經地義的事兒。

        劉禾:對。二十世紀四十年代,也是二戰期間,香農做軍事解密技術的時候,他發現加密電話或者電報需要空格,尤其是拼音字母,它的拼寫需要空格。他說當我們在傳輸信息的時候,可以把這個空格作為一個字母來傳輸。意思是空格不等于沒有字母,空格等于一個字母。他把這個字母叫第27個字母,這樣他就可以進行數學運算了。要是回頭去看香農那本重要的《通信的數學理論》和他當年寫的文章,你就會注意到他提出的機識英語的概念,顧名思義,就是機器能識別的英語,要是沒有空格的話,機器什么符號都不能識別。

        特別妙的是,香農把這個發現變成了數學理論,之后沒有任何通信技術能離開他的數學理論,因此它是普世性的。而這一點跟圖靈想象的計算機一樣,所有的通信技術、計算機技術全都根植于數學家們對符號的認識。我寫這本書,其中有幾句話是寫給人文學科的——當香農這樣的數字家給英文添加了一個字母的時候,我們人文領域的學者卻都渾然不知,沒有一個人認識到這件事情的重要性。除了詹姆斯·喬伊斯,很多人說他的《芬尼根的守靈夜》是天書,讀不懂。的確讀不懂,但是數學家香農就讀懂了。香農發明了這個“空格”字母以后,他開始分析英文的詞、句子、字母和字母之間序列的搭配。由空格來計算這些搭配的語句有哪些規律。你給出一個字母,比方是t,那么最有可能出現的下一個字母是什么呢,你來預見一下(現在他們做人工智能老做這個,其實都是從香農開始的)。下面的字母很有可能是h,比如單詞“the”,那么H頻率是比較高的。相比之下,t后邊跟字母d的頻率就比較低,因為英文詞的拼寫幾乎沒有td這樣的組合。香農就這么計算下去,同時把空格加上一起計算,計算信息組合的排列概率,也就是所謂詞的組合、句子的組合,然后發現組合成的句子經常是胡言亂語。但有時候,居然也有意義出現。香農的這些實驗說明,語言的意義呈現是有某種概率的,而在多數情況下我們只考慮意義,排除無意義在語言中的功能。書中我專門用了一章來寫有意義和無意義究竟是怎么一回事。

        為什么我說詹姆斯·喬伊斯是少數幾個認識到這個真理的作家呢?比如他在《芬尼根的守靈夜》的第一頁里寫了一個很長的字母串,是由一百個字母串在一起的生造詞,中間沒空格,你在哪本字典里也找不著,根本就沒有這個英文詞。那么喬伊斯在做什么?香農就對這點特別感興趣,他真的把喬伊斯的小說拿來計算,算出原來是空格的問題,還有字母和字母組合的頻率的問題。什么字母跟什么字母最有可能組合,那么,意義最有可能在什么情況下出現?香農不是對語言本身感興趣,而是對計算頻率和通信信息感興趣。但由此出發,他發現了語言本身的無意識結構。當我們在書寫的時候,我們不會意識到我們在被無意識結構驅動。但事實是語言在驅動我們,不是我們在驅動語言,這也是拉康的洞見。當年拉康一直在讀控制論研究者的論文,他說這太有意思了,對精神分析理論有很大啟發。然后他就說我們的無意識其實是像語言一樣的結構起來的。我認為,拉康讀過香農的理論。總之,我這本書是把這些學者,無論是做哲學的、做精神分析的,還是做科技的,把他們最重要的貢獻聯系起來思考。重新思考人們所創造的書寫符號是什么關系。

        劉盟把空格變成第27個字母這件事,就是把拼音文字從表音系統轉變成了表意系統,這是書中非常重要的一個核心概念,也是數字化革命何以發生的重大原因。

        香農之所以對喬伊斯感興趣,是因為他以數學邏輯推演拼音文字的組合概率這件事,喬伊斯的文學文本給他提供了現成的實驗場。而如果用香農的數理組合邏輯去看《芬尼根的守靈夜》,是不是可以說這本書本身就是不可譯之書,因為任何其他的語言,特別是中文,都會脫離喬伊斯拼音文字系統排列組合的實驗本義。

        另外一個很有意思的點,在《芬尼根的守靈夜》里也出現了一個“空格”,即iSpace,您在書中翻譯成“紙創口”。這個喬伊斯的生造詞大意是在紙面上給文字書寫打空格。您認為這是現代技術的表意先兆,也提前預告了iPhone、iTunes、iVision的消息。更重要的是在香農這樣的科學家發現拼音文字的表意系統之前許多年,文學家就已經實踐這樣的想法了。這給當下人文學科帶來很大的反思意義。

        我在讀您這本學術著作時,有時會想到您的《劍橋的陌生人》。那種猶如偵探般按圖索驥找到歷史的蛛絲馬跡一點點撥云見日的感覺。雖然這是一本嚴肅而有門檻的學術專著,但讀起來依然會引人入勝。比如剛剛提到書中拉康和在他讀愛倫·坡《竊信案》的研討班。這種敘述方式是您在學術寫作中的一種自覺實踐嗎?


        愛倫·坡

        劉禾:我覺得你的觀察真是非常獨特。我在寫這本書的時候,尤其發現拉康自己說,他讀愛倫·坡的《竊信案》是受到了某位控制論科學家的啟發,但沒有說出名字。我就想知道,那位科學家是誰?結果,讓我失望的是,無論是寫拉康傳的人,還是研究拉康的專家,他們都不知道。我曾去信請教過他們,他們也都答復不知道。那我就想,既然你們不知道,那我就自己來做研究吧。這個研究過程很有意思,后來我想不如把研究過程也寫進書里。因此就有了你所注意到的一種敘事的流動性。

        拉康的那句話什么意思?他說的某位科學家是誰呢?沿著這個問題研究和書寫,我的敘事獲得了某種意外的文學性,就有點懸疑感。精神分析是怎么跟數學發生關系的?于是,我發現拉康的背后還站著法國數學家喬治·吉爾博,這么一下子,好像突然被我打開了一張地圖,讓我們重新去認識戰后精神分析學、控制論和法國文學理論的關系,而這對我重新認識數字技術以及它在美國和歐洲之間的傳播又提供了新的啟發。

        的確,拉康的那一章,跟我的《劍橋的陌生人》之間是有一些呼應的。這本書是2010年出版的,《劍橋的陌生人》則要晚一點,所以應該是《劍橋的陌生人》的寫作,受到了我的《弗洛伊德的機器人》的影響。

        劉盟赟:《劍橋的陌生人》是2013年出版的。

        劉禾:對,晚幾年。前后寫作了五年,其實,我是從2005年就開始寫《弗洛伊德機器人》,到今年剛好是二十年了。你發現書中有文學性,除了敘述外,文學的內容在書里邊的確是很突出的。剛才我們提到了喬伊斯的《芬尼根的守靈夜》,弗洛伊德讀霍夫曼的《沙人》,這些都是非常關鍵的文學文本,法國的控制論第一人、數學家吉爾博,他特別重視《竊信案》這篇小說。這些科學家都是從文學入手。還有書中關于博弈論創始人馮·諾依曼和摩根斯坦的論述,特別是當我仔細閱讀他們的《博弈論與經濟行為》(Theory of Games and Economic Behavior)時(這本書讀的人特別少,但引述的人特別多),我吃驚地發現,他們在寫作中,依賴了福爾摩斯偵探案。此外,還有創造控制論的維納,他不但也寫過小說,而且對文學批評也感興趣。

        劉盟赟:包括您說書中提到的馬爾可夫。

        劉禾:現在無論誰做人工智能或者大語言模型,全都離不開馬爾可夫鏈。這位十九世紀俄國數學家,他是怎么發現了馬爾可夫鏈的呢?答案是:他是在分析普希金那首著名的長詩《葉甫蓋尼·奧涅金》時發現的,那是關于元音和輔音之間組合的數學結構。這是一個重大的貢獻。香農受到了馬爾可夫鏈的深刻影響,直到今天,人工智能領域依然離不開馬爾可夫鏈。《弗洛伊德機器人》這本書,很多地方都強調了文學和數學關系,但并不是為了說文學對數學理論做出了什么了不起的貢獻。而是想表明,我們不要任意的拆開它們之間有機的聯系,這樣才能幫助我們理解數學想要解決什么問題,文學又在關心什么問題。理科和文科之間被任意地切割,對兩邊都有沒有好處。在數學和文學之間我們共享的就是文字符號,而文字符號里邊發生重大改變的時候,尤其是英語的書寫符號,從表音到表意這個過程,它是怎么發生的,這本書里都有詳細的論述,這些內容對文科和理科具有同樣的價值和反思的意義。

        劉盟赟:通過這本書,我有一個很深的感覺,就是人文學科依然重要,而且隨著新技術的出現,會有更多的想象力與新可能,文科并不會衰落。這和時下全世界都在唱衰、削減文科的舉動似乎相矛盾。您是怎么看待這個問題的?

        劉禾現在不僅是中國,在歐洲,在美國都有這種傾向,大家覺得人文學科碰到了危機。但是我記得三十年前,我在很多會上就已經聽說人文學科碰到了危機。三十年前,當生命科學成為學術主流的時候,就有人提出,學術資源應該主要用到生命科學里去。二十年前,又有人說人文學科碰到危機了,因為新的技術和新的學科被催生出來,等等。我覺得這些都是煙霧彈。你可以說,人工智能給教育本身提出了挑戰,大學教育本身就受到了沖擊。

        劉盟赟:不是人文學科受到沖擊。

        劉禾:不單單是文科。像計算機科學系,他們的有些課程恐怕要被取消了,因為AI可以代替,替人編程之類的,因此不光人文學科要調整。關鍵在于,每一次的技術革新,尤其是新技術的出現,都會把一些古老的問題重新提出來。有藝術家問我,AI可以畫畫,那AI畫出來的還算不算藝術?我說,我們能不能改變一種方式來思考這個問題?當AI可以做藝術的時候,藝術是什么?當AI可寫作的時候,寫作是什么?最根本的挑戰是,當AI可以取代很多教學功能的時候,尤其是在大學的層面,大學教育是什么?所以說,每一次的技術革新都是我們重新思考的機會。因為它讓我們看到了我們思想的局限,這不僅僅是文科的問題。

        就目前來說,如果大學的管理人員覺得資源可以往人工智能傾斜,那是因為中美之間競爭的巨大壓力,這是另外一個問題。如果僅僅從學科的角度來看,你可以砍掉的東西很多。而且大學的校方都很清楚,文科的投入極少,比起科學研究,文科的投入不多,獲得卻很高。如果只算成本,科學家開一個實驗室,要雇多少人,要買多少儀器,這個成本相當于雇傭幾十個人文學者。假如你僅僅是從成本和產出的關系來講,那么把人文學科砍掉根本不劃算。

        劉盟赟最后我還是想回到您的這本書,希望您為讀者“敲一下黑板”。書中您提到數字化革命地發生與發展,是和拼音文字從表音系統轉向表意系統密切相關的。作為象形文字、漢字文化圈的讀者,該如何理解表音與表意這組概念呢?

        劉禾:如果大家對什么叫表意系統有疑問,我就簡單說一下。因為表音系統和表意系統的區別是比較復雜的。數字是一個完全的表意系統,比如阿拉伯數字123456,中文讀音和英文讀音是根本不同的,讀音屬于不同的語言系統,但數字符號跟讀音沒有直接的聯系。在不同語言系統里,它可以有不同的讀法,這有點像漢字。廣東人念漢字是這么念,北京人是那么念。所以漢語系統經常被人理解成一個表意系統,這是有原因的,因為漢字的書寫系統跟語音及語言系統之間似乎沒有必然的聯系,不過漢字的書寫系統是不完全的表意系統。

        讀《弗洛伊德機器人》這本書,千萬不要把它讀成科學史,因為我不是在做知識考古。比方說,我沒有試圖回答機器人是怎么出現的。重要的是這本書對數字時代的哲學批判。你在讀的時候恐怕需要一點耐心。當你找到定義時,也許你還是不明白它是什么意思,那么你就再繼續讀下去,然后你就會發現一些有比定義更有意思的細節,我是希望讀者能在細節和細節的關系中找到一張完全不同的關于二十世紀數字媒介出現的思想地圖。

        劉盟赟:謝謝劉禾老師。

        作者簡介

        劉禾,美國哥倫比亞大學教授,現居美國紐約。主要著作有《弗洛伊德機器人》《跨語際實踐》《劍橋的陌生人》等。

        劉盟赟,編輯,現居上海。

        訂閱2026年《天涯》

        即可一鍵下單

        01

        2025年,《天涯》品牌欄目“作家立場”“民間語文”策劃推出“我們為何再談生態”小輯、“鄉村的可能”談論小輯、“中國古典時代”二人談、“年代信札”小輯、抗戰老兵口述等內容,記錄時代,關注社會議題,思考未來。

        訂閱2026年《天涯》,一冊在手,繼續在記錄和思考中,保持道義感、人民性、創造力。

        2025年《天涯》在“小說”“散文”等欄目持續創新,不僅匯聚名家新作,還積極挖掘文學新人,以“自然來稿里的文學新人”小輯、新人“回頭看”小輯、新人工作間2025、青年小說家專輯、“人間·父親”散文小輯、“散文新銳榜”2025等策劃,推出眾多新人新作。

        訂閱2026《天涯》,繼續和我們一起見證文學新人的亮相。

        02

        03

        2025年,《天涯》入選中國期刊協會“2025BIBF精品期刊展”和首屆中國期刊封面設計精品展;在中宣部組織的文藝評論報刊欄目評選中,本刊“作家立場”欄目入選;在2025年開展的2024年度海南省優秀期刊工作者及優秀論著評選中,《天涯》被評為海南省優秀期刊,《天涯》主編林森被評為優秀主編。《天涯》刊發的多篇作品被《新華文摘》《小說選刊》《小說月報》《中篇小說選刊》等轉載,多篇作品入選各種榜單、獎項。

        訂閱2026《天涯》,我們邀請您一起繼續見證《天涯》的成長。

        《天涯》今年計劃給讀者準備

        近幾年我們最豐厚的精神食糧大餐

        只要訂閱2026年全年6期《天涯》

        就送《天涯》系列文創

        《天涯》筆記本


        此為舊款,新款敬請期待

        《天涯》帆布包


        款式隨機

        《天涯》明信片


        一套四張

        訂閱《天涯》

        還有更多福利

        已經訂閱2026年《天涯》的讀者

        即可自動獲得抽獎機會

        我們將為讀者送上多重驚喜好禮

        以下好禮將隨機送給被幸運砸中的讀者

        先到先得,送完為止

        好禮一

        韓少功親簽新書




        好禮

        林森主編書法作品


        好禮三

        《天涯》改版30周年神秘豪華大禮

        即將公布,敬請期待


        特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

        Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

        天涯雜志 incentive-icons
        天涯雜志
        世相人心,立此存照。
        1172文章數 3507關注度
        往期回顧 全部

        專題推薦

        烏蒙深處 清涼畢節

        無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 老地方传奇| 韩国女空调维修工| 韩剧鲨鱼剧情| 从失乐园开出的地铁| 绝强驱魔师花子| 绮梦之旅电影| 法国空乘4完整版播放| 热血街头| 美杜莎的传说| 高清生命树| 《越南女兵满天星》| 游泳的秘密| 变态女大学生| 菠萝菠萝蜜视频| 《卖保险的女销售》2| 沉香如屑40集全免费| 说不出的爱电视剧| 超人气学园电视剧| 抚宁县| 校花被折磨阴部流水| 擦皮鞋dj洋洋歌词| 白峰电影正版免费观看平台| 叶子楣古装电影全集| 天下第一演员表| 猛鬼通宵陪住你| 坎贝奇三部曲《品味人生》完整版 | 法国满天星《八尺夫人》免费观看 | 水云间电视剧全集播放免费观看| 高压监狱法版在线| 明日之战电影之完整免费观看 | 金粉世家电视剧免费观看| 他母亲的房子| 电影肉蔻之香在线观看| 余罪第三部全集完整版| 初恋是姐姐动漫全集免费观看| 美容室的特殊待遇6| 两大一小三俘虏| 勇敢的心电视剧全集在线观看76 | 猎人电视剧| 特战荣耀电视剧完整版免费观看| 台球高手在线观看免费完整版视频 | 电视剧几度夕阳红| 顶楼的秘密| 满清十大刑酷 快播| 鬼吹灯湘西怒晴| 大宾的寝室免费在线观看| 斗破苍穹年番动漫免费观看| 黑暗的反射| 女超人麦乐迪1080p版| 少女爱上姐姐明亮的三颗星 | 瓜达卢佩的玫瑰 墨西哥电视剧| 电影女儿的朋友全集免费观看| 高清《亲爱的》在线观看电视剧免费| 大乳房按摩电影| 幻灭电视剧| 蓝精灵国语版| 《俘虏之锁》第一集| 末日之热浪来袭短剧| 人世界电视剧免费观看全集完整版| 你安全吗一共多少集| 丰胸按摩沙龙| 《金牌销售》法国电影| 《无敌少侠 第四季》| 十七岁高清完整版| 为人民服务全文| 深情眼全集免费完整版| 凯登克罗斯电影在线看| 古惑仔6国语高清免费| 巾帼枭雄之悬崖 电视剧免费观看 难忘之夜在线观看免费完整版 | 5哈第一季| 复联4免费版高清观看| 女战狼6免费高清版999加拿大版| 黄泉的使者电视剧| 台湾电影卖房的女肖信| 需要爸爸播种手机在线观看| 突围37集在线观看| 另一个贝内特家的姐妹电视剧| 舍我其谁电视剧| 介子鬼城| 电影双女任务在线观看| 凹凸世界免费看| 重生回到刚就业时| 丛林武士| 靳东甄子丹当选全国政协委员| 与女部长一起去研修电影| 大凉山姑娘开放| 藏獒多吉全集| 飞鸟集电视剧| 磁碟机病毒| 男女一起愁愁愁电视剧免费观看全集高清完整 | 火影火之意志继承者| 再回首简谱| 驯服调教上司女社长| 《杉杉来了》在线观看完整版| 密室ブリード| 美景之屋5未增减板| 无敌视频在线影院| 骷髅13| 暴风眼 电视剧| 保罗雪莉禁忌1-4| 我是特种兵3全集| 卢湾区| 薄冰电视剧全集免费观看完整版| 售楼员的秘密韩剧免费观看| 妈妈的味道韩国中字| 莫言 丰乳肥臀 下载| 高清《钢之炼金术师》| 名侦探柯南剧场版15| 女海盗加勒比海盗1观看完整版免费 | 酒店1-90集免费观看高凊| 流浪地球完整版观看免费| 姐姐韩国电影在线观看全集 | 犯罪心理第十八季| 京香在线| 麻豆mdx0020穷小子大翻身| 秀才遇着兵粤语| 男人女人一起愁愁愁电视剧观看在线| 熊出没之过年2部| 酒店激战主演是谁| 咱们结婚吧分集剧情介绍| 忍者无敌| 电影《官人我要》在线观看| 朝云暮雨电影| 致我们终将逝去的青春演员表| 强伦睡着的妺妺| 黄飞鸿3电影| 暴躁妹妹国语版bgm视频播放下载| 武媚娘传奇未删版全集大结局| 天道结局| 吉人天相| 插曲30分钟全集免费播放国语 | 部长出差的日子韩剧| 高中英雄们| 新妹妹韩剧电视剧| 谢雕英雄传| 墓地亡灵| 24世纪性格爱情指南日韩 | 西游记续集8| 唐人街影院| 3对1:三人一次性体检什么电影| 宫锁沉香 电影| 天海翼视频在线播放| 银魂263| 激战后厨1至5外出| 那年花开月正圆 迅雷下载| 游艇宝贝HD正版免费看| 一闪一闪亮晶晶电视剧免费观看| 诱人的老师滋味2| 无懈可击之美女如云大结局| 八仙饭店2埃博拉病毒| 青草青在线视频| 我独自升级第二季在线免费观看 | 《我的私人游戏教练》| 艳姆 动漫| 棱镜恋曲| 半是蜜糖半是伤在线全集观看| 内膜薄是什么意思| 意大利版女版斯巴达2| ady映画防弊屏新地址| 公之浮| 足球小将欧洲篇国语版| 全职猎人101| 甄嬛传rmvb迅雷下载| 神秘窥视电影| 水润女人全免费高清电视剧| 我在北京挺好的全集| 三上悠亚《最高の爱人诏》| 父母爱情电视剧在线观看| 妈妈的学生中字ID木鱼天| 危险关系电影完整版| 追龙电影完整版| 粤语dj串烧| 热血街区极恶王X2完整版| 隐形的帽子在线观看免费完整版| 老丁是个生意人| 暮光之城:破晓| 迷宫的十字路口下载| 周末情人别爱我| 爱我几何完整版免费观看在线播放 | 邻水| 《修理工的绝遇》拉昔| xl司令全集在线观看完整版免费高清| 热辣滚烫电影完整免费观看高清| 总统之夜| 总统的蛋糕| 美国保罗1980二| 植物大战僵尸2坚不可摧攻略| 天狼50| 邪恶教师| 东北虎遇见南方小土豆秒变咪咪| 初恋时间动漫免费观看全集| 电影 金瓶梅| 让媳妇变成花痴2电视剧叫什么名字啊| 劫中劫之劫水| 吸血贵族5满天星电影免费观看高清 | 听说你喜欢我电视剧免西瓜| 法国电影《SkyeBlue卖房子》剧情| 新建文件夹2免费完整版| 勇敢的心直播| 一代皇后大玉儿| 爱情三选一| 肉肉的小黄车| 小伙有娃前后变化大被认成爷爷 | 男女愁愁免费看| 铿铿锵锵锵免费观看高清| 小776| 美国式禁忌3| 军人使命| 苍老师全集全集电影在线观看| 爱是一颗子弹| 一波拉病毒2在线播放高清免费 | 企业强人粤语版免费观看| 成一家言| 国产人妻与上司午后出轨| 未央是什么意思| 大江大河第二部在线观看免费| 强奸4终极篇之最后羔羊| 插曲的痛30集全在线播放| 这么多年电影在线观看 | 巨乳女医生的特殊治疗电影| 东北黑道风云20年2| 龙帅归来:都市风云全集免费| 马腾你别走电影完整版在线观看| 排球少年第四季免费| 日本大学生特殊按摩3| 神勇双响炮国语| 保罗芭芭拉1到4集| 登顶后位:宫斗步步为营全集免费| 洗衣机修理工艳遇电影| 《斗罗大陆剧场版 剑道尘心》| 富贵门国语全集| 虞城县| 流星蝴蝶剑电视剧| xl司令动漫第一季全集在线观看免费播放 | 武极天尊短剧| 厨房与公妇伦理| 《睫毛膏》2| 脾虚嘴唇有什么症状| 《在姨母家的客厅》| 破晓之爱| 杀戮天使第二季| 李心暖的今天新视频| 风流少年唐伯虎2| 黑白配高清中文在线观看全集免费| 飞驰人生在线观看完整版| 金瓶梅之爱的供养| 易中天品三国16| 地爆满天星 电影高清免费观看 | 亢奋第二季未删减| 单恋未删减| 狼狈 泽尻英龙华| 今夜有戏 杨紫| 美丽的梦想电影| 《家属动漫1~6全集》在线看| 斗罗大陆156集| 《性的暴行》在线观看| 30而已| 爱我几何无删减在线免费观看 | 《玉女心经3:阴阳和合》免费看叶子媚 | 和喜玉兰免费观看完整版高清| 让子弹飞删减| 世界第一初恋oad| 小乌酱黑白双丝脚足在线播放| 天路之爱| 浮之公手6| 《法官李汉英》| 女版战狼10普通话版| 武侠免费| XL司令真人版在线观看 | 雨夜惊魂| 极客数码| 女朋友的母亲3中语字追剧易| 睫毛膏4美国1990| 被闺蜜捆绑震蛋折磨调教| 《维修工》电影免费观看| 新月格格电视剧全集播放免费观看| 《束缚游戏》在线观看第一季| 天堂之吻电影版在线看| 按摩胸部伦理片| 男子被关押1349天后无罪释放| 丰满少女免费电影| 女官女相:权倾朝野短剧全集| 白峰美羽大战黑人在线观看| 公公的浮之手中字电影| 好姐妹高清在线韩国电影观看| 需要爸爸播种籽在线观看 | 禁片电影在线观看| 真心英雄| 穿透屋顶的high kick全集| 私人航空法国成人电影| 移动迷宫西瓜影音| 对手多少集| 与心仪的女部长出差在线| 孩子们电影| 解密电视剧| 爱唯侦察新片合集| 母狮行动美剧第二季在线观看| 斗罗大陆观看| 《21世纪爱情指南》免费观看| 神奇动物:格林德沃之罪| 相门嫡女全集免费| 无极县| 玻钻之争国语版全集优酷| 《黑色电话2》| 垂帘听政电影| 啄木鸟《劳拉的遗产》叫什么| 沙漏全集| 情满雪阳花电视剧全集免费观看| 日韩电影维修工的艳遇| 法国经典电影完整版免费观看| 狙击手拉苏尔电影免费观看完整版| 泰山《激战丛林》完整版免费| 姐姐的朋友3在完整有限中字第5| 快乐到家好看吗| 尖子攻略电视剧| 韩国售楼小姐美景之屋| 刘老根1| 兵临城下亲| 朝国的继拇2| 肌肉男被割胸肌| 此时此刻在线观看| 美国式的家庭忌讳| 太九在线观看免费版电视剧| 爱情睡醒了28| 九七电影网| 激战酒店1-5集免费播放视频| 在夫面前被强行侵犯的人妻| 小东解说dota| 坠落的女律师k82经典台词| 我的朋友的老婆| 偷偷藏不住在线免费看| 与讨厌的部长一起去出差旅在线观看| 高清《判处勇者刑》电视剧| 《还珠格格》第三部| 年轻的姐夫在线| 日韩男按摩师性按摩电影| 水手服电影| 孝庄秘史土豆网| 禁忌5在线观看电视剧完整版免费 壮志凌云女版满天星法版免费2011美国 | 《需要爸爸播种美国》演员中文名 | 美国女超人满天星免费观看完整版 | 王经理情景剧大结局| 罗丽星克莱尔123全集| 大哥的女人电影电视剧在线观看 | 加勒比女海盗1-4集免费播放 | 法国版《安全出口》| 黑白配免费观看全集高清| 金瓶梅高清迅雷下载| 善良的嫂子在线视频| 三更之饺子第一集| 《卖保险的女销售》2| 情圣是怎么练成的| 向涟苍士献上纯净樱花| 黑白配hd1080完整版高清| 吸血鬼日记第四季快播| 东德国歌| 爱在空气中特别篇| 女销售员的秘密 在线| 性感乳房裸体电影按摩| 腾飞担保公司| 《特殊诊断室》完整版| 妖怪都市| 江安县| 电视剧永不回头免费观看全集高清版| 我需要爸爸电影免费观看| 剥茧电视剧免费全集在线播放| 地狱乐动画在线观看| 极品教师第二季免费观看完整版| 高清毒劫| 大神同学想被吃掉未增删有翻译 | 免费国产电视剧播放在线观看| 狂飙40集在线观看免费| 侏罗纪公园满天星免费观看| 《特别的酒店》免费观看中文版| 电视剧格斗天王| 一家人不说两家话| 那夜上错床| 哇嘎在线观看免费| 想你 韩剧百度影音| 妻子的诱惑电视剧| 黑白配在线观看免费播放| 高清杀手记忆 第一季| jizz妇女| 一夜疯狂电影高清完整版| rosimm电视剧免费观看高清| 大秦帝国第2部| 爱情电影网 佐山爱| 星克莱尔的《第一夫人》| 延禧攻略70全集免费观看| 黑丝在线观看| 特利迦奥特曼免费观看全集普通话 | 《绝版渔夫荒淫史》| 那年花开月正圆免费| 满清十大刑酷之赤裸凌迟| 可不可以韩国电影完整版| 女超人麦乐迪满天星版英文名| 不扭扣的女孩| 猎狼者 电视剧| 电影天海翼匿名侦探免费观看 | 惊变快播| 电视剧梦中的那片海| 美景之屋6版本全集在线观看| 信义兄弟| 雪豹1-40集免费观看| 曲松县| 我爱几何| 火影忍者高清下载| 皇妃她不讲武德电视剧免费观看 | 花与蛇在线看| 刀锋战士百度影音| 特殊美容室待遇.6| 天城山奇案| 巴黎恋人国语版全集| 高清《建军大业》电影高清在线观看 | 电视剧秋蝉免费全集| 黑白配在线观看完整版免费高清| 妖精的尾巴番外篇1| 东西向洞2| 小鲤鱼跳龙门免费| 《越南被俘女兵》完整版电影免费观| 菠萝蜜国际影片加速线路1| 霞姐 夜生活女王| 小汤圆正式出院| 斯巴达4最劲爆的一集| 薄樱鬼 碧血录| 加油菊花国语| 周弘版《村枝》正版下载| 悠悠寸草心2| 魔屋2009| 我的土地我的家30集| 安娜的绣感高清完整版| 古惑仔之人在江湖| 与外婆同行| 杏堂なつ| 理论片《最高の爱人诏》 | 电视剧扫黑风暴40集在线观看| 伦理《生殖按摩》| 哪吒之魔童降世免费观看| 十七岁在线观看高清电视剧 | 鲁邦三世全集| 电影性生活3| 站着再来一次第26集| 极上中出-村上里沙| 千山万水mv| 恒大亚冠决赛录像| 暴躁老妈的46集全免费观看 | 第十九层电视剧| 我的大胸继拇3| 午夜寂寞影院安卓香港版| rosimm| 法国队VS葡萄牙队| 少女3完整版14岁| 出轨的女人电影完整免费观看| 十大rko| 正在播放: JUL-945 在没有丈夫的平日里,我被打工归来的无与伦比的岳父强奸,直 | 但愿人长久 龚琳娜| 行尸走肉大结局| 《驯服小峓子》中字板在线观看| 说出你的秘密| 杨思敏《杨贵妃秘史》| 动感之星妖精168| 枪神燕双鹰| 极速蜗牛插曲| 解读恶之心的人们电视剧在线观看| 继拇的上午HD| 美丽贺岁| 诈欺游戏第二季| 右玉县| 美姊妹医生在线观看完整版电影| 杀手之王李连杰| 无赖勇者的鬼畜美学| 《激战丛林2》满天星| 风中的承诺粤语| 痴人之爱电影在线观看| 青青河边草高清免费版新闻刘涛| 姐妹牙医在线播放| 无名天使3d高清| 《仙剑奇侠传三》电视剧| 一念永恒187| 木下凛凛子的一级电影| 向往的大海| 斗罗大陆119集免费观看| 老版武则天| 家庭矛盾4麦乐迪在线| 六必居酱菜| 《隋唐英雄传》| 无颜之月一至五集观看| 双女任务 在线| 播放米老鼠| 欢乐家长群2电视剧观看| 横行霸道3| 潘金莲1-5| 免费观看唐人街探案3电影完整版 惊变1—42集免费观看电视剧 | 麦乐迪女超人免费在线观看| 超市特工第五季| 疯狂萝卜| 无人区高清在线观看| 新有菜免费电影| 禽流感什么症状| 谁是真英雄电视剧| 汕头疑似纵火案| 黑白配电影在线观看| 广场舞我愿| 走到尽头| 耶伦抵京 中美双方握手近20秒 | 我们都要好好的| 白夜破晓全集免费播放| 千金赤子板栗无删减版免费观看视频 | 现在我们相爱吗| 美国爸爸播种电影在哪看| 新继拇7完整版| 蜡笔小新1~9季恐怖剧集| 强者风范| 男女一起愁愁愁免费观看全集高清| 女员工抵不住部长的口才电影| 蛇王岛在线观看| 速7片尾曲| 诸城市| 大屌在线播放| 狄仁杰4| 乡村爱情8西瓜影音| 无颜之月动漫在线播放观看| 安拉拉斋电影在线观看免费播放| 乖巧的儿媳免费观看电视连续剧 | 黑崎先生停不下来的专一之爱电视剧| 兔子先生高清免费看全集| 功夫梦:融合之道未删减| 在线观看电视剧| 越狱兔第一季| 女版捉鬼敢死队法国空姐| 张蔷的全部歌曲| 《裸体新闻》在线观看| 吉林卫视全城热恋| 《维修工》电影免费观看| 最近免费观看的电影完整版| 黑帮少爷爱上我免费观看第一集泰剧| 五号特工组2部免费播放| 《办公室的故事》| 河南曲剧卷席筒| 侵犯高傲女教师在线播放| 伤不起的简谱| 粉色大白菜法国原版| 爱我几何未删除| 高清《奔跑吧第5季》综艺| 台湾水电工完整版| 闪婚顶流:爱豆是我老公全集免费| 公浮之手| 九九电视剧视频免费观看| 中国母亲电视剧| 迪迦奥特曼在线播放| 奇妙的发型屋2免费播放| 你是我的荣耀西瓜影音| 龙珠 阿沙隆| 三分野电视剧西瓜免费观看全集| 和部长一起出差电影| 谭晶朱军| 白蛇传说之法海| 重启2免费完整版在线观看| 男女一起愁愁愁免费全集| 拉娜罗迪斯满天星免费观看| 少年日记| 一路向西电影qvod| 高清猛虎末路| 晚娘2罪孽完整版免费观看视频高清| 高清杜塞未删减| 北京夜店电影| 牙医姐妹完整版免费观看高清| 开战日电影在线看免费观看| 三年成全免费看高清影视大全| 光之美少女中文版免费观看| 张学友电影全集粤语| 庆余年二在线观看| 如果历史是一群喵第一季免费观看| 《森林》在线播放麦乐迪| 马斯克笑称不用去劳改营了| 印度电影 天生一对| 聊斋奇谭3之妖女谭2免费观看| 《千金赤子板栗》电影| 纪实儿媳与高校干部车内约会| 电视剧家门的荣光| 聚会的目的3高清完整版在线播放| 里沙村兽皇电影免费观看正版高清| 侏罗纪世界3国语版免费观看| 与鬼同眠| 电视剧嫦娥| 女搜查官| 燕山君免费观看高清视频| 她很漂亮韩国版| 《请回答1988 十周年MT》| 落魄贵族琉璃川免费观看| 《丰满的女学生》| 捷克街头100集完整在线播放| 海绵宝宝第十一季| 《法国空乘》法国g版| 日本金银梅1-5普通话第二级| 民主之澜| 《超级保镖》全集观看| 回复术士的重来人生漫画无删减| 白峰电影免费高清播放平台| 一千滴泪| 贩母考案| 克隆丈夫| 不能错过的只有你电影免费观看国语| 哇嘎全部高清在线观看| 毒妃在上短剧全集| 善良的女秘书免费| 于正版神雕侠侣| 男女生一起愁愁愁电视剧在线观看 漫画 | 小马宝莉动画片全集免费中文版| 轩辕剑之天之痕在线观看| 梦中情人泰剧在线观看免费| 高清《一千零一夜》电影免费观看| 木下檀檩子jlU698零售价| 韩国爱情电影免费在线看完整版| 那金花和她的女婿电视剧免费观看| 三A级做爰片免费观看玉蒲团播放 外乡人电视剧在线观看免费全集 暖暖视频免费 | 密桃荷尔蒙| 因法之名免费观看全集完整版| 龙之心2| 有求必应的意思| 站着再来一次第26集免费播放下载 | 贵阳市| 凯帕克康体水疗电影在线观看| 大生意人40集免费播放最新章节| 今生有你电视剧| 潘金莲激情三级做爰| 理伦电影第2季| 失控的生物课堂TXT免费| 爱情与灵药在线观看| 非礼勿视2| 将夜第三季电视剧免费观看完整版 | 木下电影完整版| 一场飞行的美味| 小学生在线观看完整免费| 饥渴人妻出轨记(NPH)| 侠客行不通免费观看| 葵花宝典未满年龄确认请离开司马光 | 大唐好男人电视剧| 迷你妻子 第一季电视剧| 圣娼女| 人生路不在线观看完整版| 最熟悉的陌生人免费观看完整版| 《艳色》台湾无删减| 莺长女儿全集在线看| 男生女生一起相愁愁愁观看电视剧 | 温柔的谎言片尾曲| 在线免费观看斗罗大陆| 翻译官小姐短剧免费观看| 丰满的继牳性教育| 雪中悍刀行第二季免费观看超清| 泷泽萝拉第二部字幕| 鲁豫有约周星驰| o娘的故事电影免费观看策驰影院 寒夜尽处是卿心电视剧全集免费观看 | 爱壹帆电视剧| 《凯·帕克的经典康体》康体水疗 | 吸血鬼女王百度影音| 《麦乐迪和父亲》完整版百度云| 人猿泰山意大利| 黑衣人2高清完整版| 我的青春遇见你免费全集观看| 《落魄贵族琉璃川》免费动漫观看| 破风在线高清免费观看| 小罗纳尔多过人集锦| 为什么来我家国语版| jizz365| 灵珊baby| 《瓜达卢佩的玫瑰》在线播放 | 高清平安夜,杀人夜未删减| 法国满天星《古墓丽影| 马克达蒙| 和女部长一起出差 电影在线观看| 日本阅兵| 二凤电影| 美貌的社长夫人在线观看第三季| 农民下乡免费观看完整版| 殊死七日电视剧| 高清《好好的时光》电视剧| 怒火威龙国语| 美容院的待遇服务6| 法国空姐第4部完整版在线播放| 光荣大地电视剧全集在线观看| 女生腹泻未在意5天后心脏停跳| 锦衣风华电视剧免费观看完整版高清| xl司令第一季无马赛免费观看高清 | 监狱风云在线观看| 3根一起会坏掉的好疼| 爱我几何电影在线观看| 坎贝奇无憾1080P免费看| 妈咪超厉害:一胎二宝全集免费| jizz女学| 迪迦奥特曼1| 《花与蛇·牙医》| 《空中小姐》凯登克罗斯在第几集| 箭在弦上 电视剧| 野花免费观看高清视频| 隋唐演义田连元| 牙医姐妹赤子板栗| 女秘密搜查官可耻的报酬是谁扮演的| 善良朋友的妻子| 阴阳眼见子未删减| 台湾爱国人士| 人猿泰山电影1995意大利| 克莱尔的觉醒满天星免费观看| 天赐的声音6| 理想之城在线观看免费完整版| 锦衣之下电视剧在线观看| 《overflower》动漫全集免费! | 洪兴十三妹| 人猿泰山1995意大利在线观看完整满天星| over flowe| 成龙历险记免费观看全集完整版| 高清《原谅我》在线观看| 《子夜归》在线观看| 妈妈的职业5完整版结局在线看免费 | 还珠格格第一部电视剧免费观看| 风流猛驴免费观看电视剧剧情| 麦乐迪女超人在线观看完整免费高清原声满天星百| 美国灭火宝贝2| 《影》动漫免费观看完整版| 连续剧甄嬛传| 最新港片| 浓情女人| 爆操老母1一46集| 朋友的母亲4播放| 那年花开全集免费观看星辰| 僵尸道长1高清| 《天海翼被犯女教师》| 木下檀檩子《女婿》在线 | 国号 百家讲坛| 太上天尊短剧免费观看| 幸存者1937在线观看| 电影《姐妹牙医》完整版| 俺去也在线播放| 我的朋友他的妻子电影| 日本电影妈妈爱上儿子的同学免费观看 | 那年我们一起追的女孩| 加勒比海盗一| 屠宰呕吐娃娃视频完整版免费观看| 三妹免费| 小麻薯百变衣柜教程| 中华英雄电影免费国语在线观看| 《朋友年轻的妈妈》韩国| 中文字Dl幕岳 和女胥在线播放| 桃色园社区| 女老师2| 女皇之刃| 全美洗车女郎| 支配的教坛第一季第五集在线观看| 义子下药被迷晕后侵犯在线观看 | 漂亮的小姨韩剧免费观看完整版电视| 杨钰莹 遇江南| 电视剧珠光宝气| 绝杀在线观看| 湄公河大案电视剧全集完整版| 仓井空电影| 蜀山奇仙录动漫免费观看全集| 蜡笔小新恐龙| 亲爱的你电视剧免费观看完整版| 以法之名免费观看| site:www.yalan365.com| 性的暴刑| 最佳情侣电视剧| 绅士的品格在线观看免费完整版| 迷妄国度3| 滦南县| 《女部长通宵的引诱》电影 | 文章孙兴最新电影| 唐朝诡事录2官宣| 除暴电影在线高清观看| 水手服的饲养电影在线观看 | 花容月貌电影免费| 旧里番无修在线观看| 杨敏思版1-5电视大结局在线观 | 巜人妻初次按摩2视频| 精灵宝可梦bw| 食物链截了一段视频原声| 变成黑皮辣妹后朋友做了无石头的梦| 黄金时代电影| 《登山的目的2》中文| 青梅竹马是消防员第一季完整版未打吗robl| 囤货种田:空间农女短剧全集| 我的妻子电视剧免费观看| 安沁宋熠免费阅读| 性xX色3D动画xX无尽年轻 | 美国女兵电影完整版在线观看| V酒店第一季完整版在线观看| 有一个姑娘赵薇| 守护天使国语版| 姐姐的朋友在线观看免费完中文整版 | 沙漠行动2007俄罗斯满天星| 姐妹牙医在线观电影 | 包哥记录生活| 在线观看国产免费的电视剧在线 | 九歌 电影| 明星大侦探第五季| 水润女人刘志贤主演的作品| xl司令第一季全集在线观看无马赛克影视 | 苍井空番号全集| 蛮好的人生36集完整版| 匆匆的青春电视剧免费观看| 野花韩国中文版免费观看| 妻子当社长秘书偿还债| 别墅轮换| 苍井空经典电影| 大祠堂在线观看| 不完美的受害者电视剧| 我叫金三顺全集| 女超人满天星无删减麦乐迪版种子 | 待到重逢时泰剧| 中医经筋捆扎疗法视频| 非诚勿扰20170520| 落魄贵族琉璃川在线观看全集| 王多鱼打扑克免费观看| 电竞女王:大神都叫我姐短剧全集| 人民的名义在线观看高清完整版| 满江红电影张艺谋免费观看?| 少女时代电影| 《美姊妹牙医》完整版| 韩国电影老公的部长上司| 最毒美人心2| 顾南绯秦宴小说全文免费阅| 俄罗斯版女儿国2| 《美容院:特殊待遇在线观看| 爱在日落之前| 卫生队的故事电视剧免费观看| 《我的老师中字ID》9| 我的抗战之猎豹突击演员| 《美容窒:特殊服务5》| 男按摩师论理| 高清趣塔德庄园未删减| 寂静法师| 末日村庄电影完整在线观看| 电视剧紧急追捕| 理发店里的特殊待遇电影 | 蓝色隐形帽子完整版| 别墅轮换5攻略免费观看| 在宇田川町等我喔| 哪吒3在线观看免费版高清电影| 盘点爆笑挠脚心场面| 蝶形世界| 大石桥市| 《束缚游戏》在线观看第一季 | 水灵的继拇BD中字3| 龙兴龘龘怎么读| 金瓶梅电视剧| 一夜丈夫 电视剧| 人与禽物videos另类| 她说爱情已迟暮 小说| 赛仑意大利版渔夫的老婆| 爆操老妈48集| 封神演义评书|