物理或者 AI,都是在發現世界的本質規律。本文授權自極客公園所撰寫文章,由動區整理、編譯。
(前情提要: AI 與ChatGPT機器人為何越來越差?Nature研究:模型越大沒幫助)
(背景補充: 千億美元AI投資注定泡沫?麻省理工教授揭示熱潮退去後的3種未來)
我怎麼能確定這不是個惡作劇電話?傑弗裡・辛頓(Geoffrey Hinton)在凌晨兩點接到諾貝爾獎委員會電話時,這是他的最初想法。
當時,這位 77 歲的「AI 教父」正在加州的一家酒店,網路訊號微弱,電話訊號也不好,當天本來打算去做個核磁共振掃描,檢查下身體。
直到他想到,電話是從瑞典打來的,而且說話的人有濃重的瑞典口音,還有好幾個人在一起,他才確定了自己獲得了諾貝物理學獎這一事實。
這一通來自瑞典的電話打破了他一天的計劃,也標誌著他多年研究神經網路與機器學習的成果被世界進一步認可。
北京時間 10 月 8 日,2024 年諾貝爾物理學獎正式授予了他和另一位學者約翰・霍普菲爾德(John J. Hopfield),以表彰他們在機器學習與人工神經網路領域的基礎性發現和發明。91 歲高齡的約翰・霍普菲爾德在收到訊息時,同樣「有些震驚」。
2024 年諾貝爾物理學獎得主約翰・霍普菲爾德和傑弗里・辛頓 來源:諾貝爾官網
在這一訊息公佈的同時,不少人的疑惑是 —— 為什麼諾貝爾物理學獎,會頒給看似離物理學有些遙遠的電腦和 AI 領域?
一、物理學與電腦神經網路的交匯
約翰・霍普菲爾德和傑弗裡・辛頓倆人,自上世紀 80 年代起就在人工神經網路領域做出了重要工作。
人工神經網路,顧名思義,源於對大腦工作原理的模仿。科學家們設想大腦的神經元可以通過計算節點的方式進行重現,這些節點通過類似神經突觸的連線傳遞資訊。這樣的網路經過訓練,可以增強某些連線,抑制另一些,從而使系統在處理複雜資料時具備學習與記憶能力,成為現代人工智慧的基礎。
1980 年代,擁有物理學背景的霍普菲爾德,開始著手將物理學概念引入人工神經網路領域,特別是自旋玻璃模型。
他的突破在於,基於物理學的自旋系統,提出了一種能儲存和重建資訊的聯想記憶模型,這一模型使得神經網路可以通過不完整的輸入進行自我修正,重建出原始模式 —— 這就是「霍普菲爾德網路」。
霍普菲爾德網路的基本思想是:每個節點類似於影象中的一個畫素,節點可以被視為系統中的能量狀態,而這個網路的目標,是通過不斷調整節點之間的連線權重,降低系統的能量,力圖找到最穩定、最節省能量的狀態。此時,網路輸出的圖案就是重建後的完整圖案。這一機制不僅使機器可以重建部分丟失或受損的影象,還能從部分輸入中提取出整體資訊。
接著,以霍普菲爾德網路為基礎,傑弗裡・辛頓又將人工神經網路推進到了全新的高度。
當時,辛頓利用統計物理學的工具,特別是 19 世紀物理學家路德維希・玻爾茲曼的統計模型,開發了「玻爾茲曼機」,它可以學習識別某類資料中的特徵元素。
玻爾茲曼機的核心在於概率。辛頓認識到,資料中的模式可以通過計算「可能性」來識別,機器可以學習哪些模式更有可能出現,哪些模式則相對罕見。經過訓練的玻爾茲曼機可以識別它以前從未見過的資訊中的熟悉特徵。
在 20 世紀 90 年代,許多研究人員對人工神經網路失去了興趣,但辛頓是繼續從事這一領域研究的少數人之一。進入 21 世紀後,辛頓又與他的同事通過層層玻爾茲曼機進行預訓練。這種預訓練為網路中的連線提供了一個更好的起點,優化了網路識別影象元素的訓練過程。
霍普菲爾德網絡與玻爾茲曼機|圖片來源:瑞典皇家科學院
得益於自 20 世紀 80 年代以來的工作,約翰・霍普菲爾德和傑弗裡・辛頓幫助奠定了大約 2010 年開始的機器學習革命的基礎。
說回來,他們在上世紀的突破性貢獻,事實上首先源於對物理學中複雜系統的深刻理解。正是他們對物理學工具概念的應用,推動了機器學習與人工神經網路領域的發展。
與此同時,現代物理學本身也從人工神經網路中受益 —— 因為人工神經網路逐漸成為物理學中強大的計算工具,可以用於量子力學、粒子物理學等領域。
諾貝爾物理學獎委員會主席指出:「得主的工作已經帶來了巨大的益處。在物理學中,我們在廣泛的領域使用人工神經網路,例如開發具有特定屬性的新材料。」
「機器學習長期以來一直應用於我們可能熟悉的領域,從以前的諾貝爾物理學獎中可以看出。其中包括使用機器學習來篩選和處理髮現希格斯玻色子所需的大量資料。其他應用包括降低碰撞黑洞引力波測量中的噪聲,或尋找系外行星。」
「近年來,該技術也開始用於計算和預測分子和材料的特性,例如計算決定其功能的蛋白質分子結構,或確定哪種新材料可能具有用於更高效太陽能電池的最佳特性。」諾獎官方如此稱。
二、物理或者 AI,都在嘗試理解世界本質
雖說約翰・霍普菲爾德和傑弗裡・辛頓兩人的貢獻靈感來源於物理學,他們的貢獻也反哺了物理學和其他領域。
但與以往不同,2024 年的諾貝爾物理學獎,還是引起了大量討論和爭議,網友們的主要爭論點就在於,兩位得主的貢獻,到底屬不屬於物理領域?甚至有人侃道,諾貝爾委員會想「蹭 AI 熱點」。
詫異聲之多,以至於諾獎官方都發起了一場投票:「你知道機器學習的模型是基於物理學方程的嗎?」
諾獎官方問網友:你知道機器學習的模型是基於物理學方程的嗎? 圖片來源:X
對此,AI 領域的從業者們也展開了討論,下面是他們的部分反應和聲音:
智源研究院創辦人張巨集江表示:「Hinton 2006 年利用 RBM 做 DNN 自監督預訓練,成功訓練深度神經網路,可以說是這輪 AI 革命的先聲,Hopfield 網路為 RBM 奠定了基礎。接下來看看 AlphaFold 能不能拿生理學獎。」
出門問問創辦人兼 CEO 李志飛表示:「數學模型用在物理和人工智慧方面本質都是建模,只不過前者的建模物件是物理世界,後者的建模物件是智慧,這樣說起來是不是靠譜點?」
地平線創辦人餘凱也表示:「物理學研究的目的是理解自然界中物理系統的本質規律,從而可以去創造和發明自然界不存在的物理系統。比如從鳥可以研究空氣動力學,基於空氣動力學並不是構建鳥,而是飛機火箭」。
「人工智慧的目的在於首先去研究自然界中智慧系統它的本質的機理,然後通過這些研究,其目的不是說是要去發明生物大腦,而是去構建有可能更加智慧的新的物理學系統。」餘凱認為。
餘凱還注意到,這次的諾貝爾獎物理學獎得主有物理學背景,也有從統計物理角度看神經網路,其中一位還曾擔任過世界知名高校的物理系教授,「早期搞人工智慧的很多都是物理學背景」。
橫跨多個學科領域的霍普菲爾德 圖片來源:諾貝爾獎委員會
爭議之外,約翰・霍普菲爾德與傑弗裡・辛頓的成果,以及其獲得諾貝爾物理學獎這一事實,除了證明人工智慧如今的突破與火熱,還點明瞭一個重要資訊,即科學的突破可以不只侷限於單一領域的定義,跨學科合作也自有其力量。
比如,約翰・霍普菲爾德的確有物理學博士學位,他的早期職業生涯始於貝爾實驗室,最初研究凝聚態物理,但當他在這個主要研究領域中的問題耗盡時,他又轉向了新的領域。
在 20 世紀 60 年代末,他探索了一下生物物理學,將固態物理學的概念應用於理解生物系統如何合成蛋白質。20 世紀 70 年代末,他又轉入神經科學領域,將他在理論物理學中的技能應用於大腦問題,才有了前述開創性貢獻。
什麼是物理學?霍普菲爾德曾在他的自傳中寫道:「對我來說 —— 因為我父母都是物理學家 —— 物理學不是某種學科。原子、對流層、核、玻璃塊、洗衣機、自行車、留聲機、磁鐵 —— 這些只是偶然的研究物件。核心思想是世界是可以理解的,你應該能夠拆解任何東西,理解其組成部分之間的關係,進行實驗,並基於此建立對其行為的定量理解。」
在他看來,「物理學是一種觀點,認為我們周圍的世界通過努力、創造力和足夠的資源是可以在預測和定量的方式下理解的。」
至於傑弗裡・辛頓,在劍橋大學讀本科期間,他嘗試了一系列學科 —— 生理學、物理學、哲學,直到 1970 年獲得實驗心理學學位。在 1972 年進入愛丁堡大學攻讀人工智慧博士學位之前,他還曾做過一段時間的木匠。
當諾獎工作人員問他「如何形容自己?認為自己是一名電腦科學家,還是從事這項工作時試圖瞭解生物學的物理學家?」辛頓的回答是:「我會說我是一個不太清楚自己從事什麼領域,但想了解大腦如何運作的人。在我試圖理解大腦工作原理的過程中,我幫助創造了一項出乎意料的有效的技術。」
辛頓這一回答的資訊是 —— 不管你把他歸為什麼領域,或許都不重要,重要的是,他創造了什麼。
AI 教父傑弗里・辛頓 圖片來源:TIME100 AI
而且,獎項的設立有其歷史背景和侷限,如果獎項的設定者在世,願意設立一個新的學科獎、或者跨學科獎其實也說不定。目的都是相同的,即褒獎那些推動人類知識進步的人。
此外值得一提的資訊是,辛頓希望,獲得諾貝爾獎能讓他「更具說服力」,期盼人們能更加認真對待他提出的對 AI 的擔憂。
「在這些事物失控並接管的生存威脅方面,我認為我們正處於歷史上的一個分叉點,在未來幾年內,我們需要找到解決這一威脅的方法。」這是他現如今最想傳達的一個聲音。
📍相關報導📍
輝達AI模型再發功:精準預測「山陀兒」詭異路徑、網求再放颱風假躲台股崩跌