劉興亮 | 極簡「機器學習」發展史

01

人工智能的發展伴隨著神經網絡研究的進步帶來一波巨大的沖擊，人們意識到脫離生物體的意識運行的可能。在這之前，在通向AI的道路上「機器學習」扮演著關鍵角色。

機器學習是人工智能的重要研究方向和核心實現路徑，但不能等同于人工智能本身。人工智能是目標，機器學習是當前最重要的實現方法。

機器學習的發展代表了人類歷史上最深刻的智力轉型之一，標志著從確定性的機械系統向能夠近似人類認知能力的自適應架構的轉變。

人工智能概念較為寬泛，目的是讓機器具備「像人類一樣智能」的能力，包括感知、理解、推理、決策、計劃、創造等。簡言之就是讓機器像人一樣思考和工作。

02

機器學習(Machine Learning,簡稱ML)僅僅是實現人工智能的一種具體方法，它讓機器通過數據自動學習規律和模式進行工作，而不是靠人工編寫固定規則。對機器學習而言，數據分析和邏輯推演是其主要工作。統計學和數學優化方法構成了機器學習的基礎。

舉個例子，假如人工智能要實現自動駕駛的話，機器學習只是通過讓車看幾十萬公里的人類駕駛視頻，讓它自己學會「看到紅燈就剎車，看到行人就避讓」這些規則并能夠在同類狀況下做出相應預判，這與一輛自動駕駛的汽車比當然十分懸殊。

說白了，機器學習就是計算機能夠從數據中學習模式，而非像過去需要為每條規則進行顯式編程。機器學習更接近「歸納」和「總結」的工作模式，它需要吃進大量數據來得出「近似正確」的答案。它通過大量數據總結出統計算法，再把這種算法遷移到陌生的情境和數據上去，就像人類的情境模擬能力。它變得聰明了一些，但還遠達不到人工智能的程度。

03

讓我們簡單回顧一下「機器學習」的發展歷程。

早在電子計算機出現之前幾個世紀，人們就開始探索如何將思維機械化，其根源在于相信宇宙的運行遵循邏輯原則，而這些原則可以被物理復制。公元1世紀，亞歷山大的希羅率先使用蒸汽動力自動裝置和機械劇場，證明了運動和順序可以通過物理約束進行編程。到了8世紀，巴格達的巴努·穆薩兄弟將這一概念發展到包括可編程自動長笛演奏器，這實際上是「存儲程序」概念的早期雛形。

「機器學習」作為一門獨立的科學的正式化始于20世紀40年代，當時研究人員開始從生物系統中尋找架構靈感。1943年，沃倫·麥卡洛克和沃爾特·皮茨發表了《神經活動中內在思想的邏輯演算》，其中引入了第一個人工神經元的數學模型。該模型表明，由簡單的開關組成的網絡可以執行任何邏輯運算，這表明人類思維本身可能可以簡化為二進制計算。

1949年，加拿大心理學家唐納德·赫布出版了《行為的組織》一書，他提出了一種由神經細胞間特定相互作用形成的理論神經結構。他判斷，當兩個神經元同時放電時，它們之間的連接會得到加強。這一原理如今被稱為赫布學習，為神經網絡如何在無需顯式重編程的情況下適應經驗提供了一種生物學機制。同時期及之后，其他研究人類認知系統的研究人員也為現代機器學習技術做出了貢獻，包括沃爾特·皮茨和沃倫·麥卡洛克，他們構建了第一個神經網絡數學模型，其中包括能夠反映人類思維過程的算法。

1950年，艾倫·圖靈發表了《計算機器與智能》，他在書中提出了圖靈測試，作為機器智能的操作性定義。圖靈的過人之處在于他認識到，衡量計算機「思考」能力的最佳方法是看它能否展現出與人類無法區分的行為。

1959年，IBM員工、計算機游戲和人工智能領域的先驅亞瑟·塞繆爾于創造了「機器學習」一詞。這是一個標志性事件。他同時還使用了同義詞「自學習計算機」，顯然，更直觀和容易理解。實際上早在1952年，塞繆爾開始開發第一個跳棋程序，該程序被廣泛認為是機器學習首次成功應用的案例。

20世紀60年代初，雷神公司開發了一種名「賽博坦」（Cybertron）的實驗性「學習機器」，它采用穿孔紙帶存儲器，利用基本的強化學習技術分析聲納信號、心電圖和語音模式。這臺機器由人類操作員反復「訓練」以識別模式，配備了一個「錯誤」按鈕，使其能夠重新評估錯誤的決策，以此優化自身功能。同一時期，尼爾斯·尼爾森（Nils Nilsson）發表了專著《學習機器》（Learning Machines），該書主要探討了用于模式分類的機器學習。

1997年，發生了兩件意義重大的事件。塞普·霍赫賴特和于爾根·施密德胡伯發表了他們關于長短期記憶網絡（LSTM）的研究成果。LSTM是一種循環神經網絡架構，能夠處理長序列數據而不會出現「梯度消失」問題。與此同時，IBM的「深藍」擊敗了世界象棋冠軍加里·卡斯帕羅夫。盡管「深藍」主要依賴于專用硬件和窮舉搜索（看起來是笨方法）而非學習，但它的勝利標志著機器在高級認知任務方面開始超越人類的能力。

2000年以后，隨著互聯網的大規模普及，由此帶來了海量數據，大型互聯網公司開始利用機器學習來實現諸如搜索引擎、推薦系統、廣告投放、欺詐檢測等工作，從此，機器學習的商業價值日益凸顯。

2010年代是深度學習迅猛發展的時期，機器學習能力獲得大發展。在強大的GPU上訓練的大型神經網絡取得了突破性進展，圖像識別技術不斷進步。音識別達到實用水平，翻譯和游戲制作領域也隨之發展。AlphaGo等系統在圍棋比賽中擊敗了頂尖人類棋手，展現了現代人工智能的強大實力。2014年，伊恩·古德費洛等人提出了生成對抗網絡（GAN），它可以生成逼真的合成數據。

2020年代則是進入生成式人工智能時代，尤以ChatGPT的出現為標志。大型語言模型出現，圖像生成器不斷翻新，人工智能助手到處發威。隨著這輪AI的大爆發，現代機器學習開始真正影響著科學、醫學、金融、交通、教育和創意工作等各個領域。與此同時，它也引發了關于倫理、就業、虛假信息、隱私以及人類與智能機器未來關系等諸多重大議題的討論。