首位在世時被引量超過百萬的學者出現：AI教父警示AI風險

根據谷歌學術的統計，加拿大蒙特利爾大學的計算機科學家約書亞·本吉奧（Yoshua Bengio ）成為首位在世時論文被引量超過一百萬次的學者。而之所以強調是在世時，是因為此前法國哲學家米歇爾·?？拢∕ichel Foucault，1926–1984）在谷歌學術上的引用量已經接近了140萬次，其中很大一部分都產生于他去世之后。

約書亞·本吉奧（Yoshua Bengio）

圖源：Joel Saget/AFP via Getty

約書亞·本吉奧（Yoshua Bengio ）1964年出生于法國，1991年在麥吉爾大學獲得計算機科學博士學位，長期從事機器學習和人工神經網絡的研究，他與2024年諾貝爾物理學獎得主、英國計算機和心理學家杰弗里·辛頓（Geoffrey Everest Hinton）、法國計算機學家楊·勒坎（Yann André Le Cun）被公認為人工智能領域的奠基者之一，共同獲得了2019年計算機學界的最高獎圖靈獎。

約書亞·本吉奧被引用次數最多的論文包括與他人合著、發表于2014年的論文：“Generative Adversarial Nets”，該論文在谷歌學術上的引用次數超過10.5萬次，以及與LeCun和Hinton合作于2015年發表在Nature的綜述論文：深度學習（Deep learning），引用量超過7.3萬次。此外，他有關“注意力機制”（attention）的論文也備受關注，該技術能夠幫助機器分析文本。注意力機制已成為推動大語言模型（LLM）革命的關鍵創新之一，其代表便是2022年推出的劃時代產品ChatGPT。

歷史上被引用數最多的論文是 Oliver Lowry 等人在 1951 年發表的“Protein measurement with the Folin phenol reagent”（使用 Folin 苯酚試劑測定蛋白質）一文，這篇論文描述了一種測定溶液中蛋白質含量的實驗方法，已被引用超過 35 萬次（基于Web of Science 數據庫數據）， 它長期位居全球被引論文榜首，主要是因為數十年來生物科學的迅猛發展，這類奠基性的論文成為后輩繼續前進的起點。

而最近三十多年來計算機科學成為新的科研熱點，尤其是人工智能領域的快速發展，使得相關領域基礎性的研究結果成為新的奠基性文章，根據Nature的統計，2000年之后被引用次數排名前十的論文中，有八篇是關于機器學習的。西班牙格拉納達大學信息科學家阿爾貝托·馬丁表示，本吉奧的“學術成就毋庸置疑”。但他補充說，原始引用次數是“粗略的指標”，其他文獻計量平臺——例如Web of Science、Scopus和OpenAlex——對研究人員的排名方式與谷歌學術不同，這些數據庫反映的總體引用次數相對較低，正如Nature的之前分析發現，除了同行評審期刊之外，谷歌學術還會追蹤互聯網上任何位置發布的圖書和預印本的引用情況。

圖源：The Canadian Press/Alamy

雖然不同的統計口徑可能會有所不同，但是這都不是約書亞·本吉奧所在意的事情，他在接受Nature的采訪時表示，他更關心人工智能未來可能產生的風險。作為這個領域的先行者，他對相關技術的迅速發展當然是樂見其成，但是作為資深的科學家，約書亞·本吉奧認為就像人類之前曾發明的所有技術一樣，AI技術能造福人類也可能帶來危害，如現在已經初現端倪的深度偽造技術和更廣泛的網絡攻擊，很可能未來誰能掌控高度先進的人工智能，誰就擁有巨大的權力，因此必須從現在就開始通過嚴格監管和政策激勵來降低類似的風險，當然現在許多國家都建立了人工智能安全的研究機構，這非常有必要。

而他本人現在正在致力于一個有所不同的方向：Scientist AI ，其根本出發點在于現在的AI都在強調讓它更智能、更具自主性，而這恰恰是安全風險的來源。不受控制的、卻高度自主的人工智能會干出什么事來誰都不知道，事實上，各種場景和實驗都表明，人工智能代理有可能進行欺騙，或追求與人類利益（例如自我保護）相沖突的目標。因此，他與合作者提出開發一種從基礎設計上就值得信賴且安全的非自主性人工智能系統作為進一步發展的核心構建模塊，稱之為“科學家人工智能（Scientist AI ）”。該系統旨在通過觀察和推理來解釋世界，以及根據指令采取行動的模型，而不是為了模仿或取悅人類而采取不受控制的行動。

參考文獻息：

1.https://doi.org/10.1038/d41586-025-03681-6

2.https://proceedings.neurips.cc/paper_files/paper/2014/hash/f033ed80deb0234979a61f95710dbe25-Abstract.html

3.https://www.nature.com/articles/nature14539/metrics

4.https://www.nature.com/articles/d41586-025-03686-1

5.https://arxiv.org/abs/2502.15657