[爆卦] 2024諾貝爾物理獎
https://www.nobelprize.org/prizes/physics/2024/popular-information/
瑞典皇家科學院決定將2024年諾貝爾物理學獎授予John J.field和Geoffrey E. Hinton
,以表彰其“通過人工神經網路實現的基礎性發現與發明」。
約翰‧J‧霍普菲爾德 (John J. Hopfield) 1933 年出生於美國伊利諾州芝加哥。1958
年獲得美國紐約州伊薩卡康乃爾大學博士學位。美國新澤西州普林斯頓大學教授。
Geoffrey E. Hinton,1947年出生於英國倫敦。1978年獲英國愛丁堡大學博士學位。加
拿大多倫多大學教授。
今年的諾貝爾獎得主使用了物理學的工具來構建方法,幫助奠定了當今強大機器學習的基礎。約翰·霍普菲爾德創建了一種可以儲存和重建信息的結構。傑弗里·辛頓則發明了一
種可以自主發現數據屬性的方式,這在當今使用的大型人工神經網絡中變得至關重要。
他們利用物理學來發現信息中的模式
霍普菲爾德此前利用他在物理學的背景來探討分子生物學的理論問題。當他受邀參加一個關於神經科學的會議時,他接觸到了對大腦結構的研究。他對所學的內容著迷,開始思考簡單神經網絡的動態。當神經元一起活動時,它們能產生新的強大特徵,而僅僅觀察網絡的單個組成部分並不能發現這些特徵。
然而,他並沒有放棄他在物理學中的基礎知識,這些知識為他理解由許多小組件一起工作的系統如何產生新的現象提供了靈感。他尤其受益於他學到的關於具有原子自旋的磁性材料的知識——這種性質使得每個原子都成為一個微小的磁鐵。相鄰原子的自旋相互影響,
這可以使具有相同方向自旋的區域形成。他利用這些物理知識,創建了一個具有節點和連接的模型網絡。
網絡在一個景觀中保存圖像
霍普菲爾德構建的網絡具有相互聯繫的節點,每個節點可以儲存一個值——在霍普菲爾德
的初步研究中,這個值可以是0或1,就像黑白圖像中的像素。
霍普菲爾德用一個與物理學中自旋系統能量等價的屬性來描述網絡的總體狀態;這個能量是通過一個公式計算的,該公式使用了所有節點的值以及它們之間所有連接的強度。通過將圖像輸入節點來編程網絡,節點被賦予黑色(0)或白色(1)的值。然後,通過能量公式調整網絡的連接,使得保存的圖像能量變得更低。當另一個模式輸入網絡時,會有一個規則依次檢查節點,看看如果改變該節點的值,網絡的能量是否會降低。如果發現將一個黑色像素改為白色會降低能量,那麼顏色就會改變。這個過程會一直持續,直到無法找到任何進一步的改進。當達到這個點時,網絡通常已經重現了最初訓練的圖像。
如果你只保存一個模式,這可能看起來不太顯眼。你可能會疑惑為什麼不直接保存圖像本身,並與測試圖像進行比較。然而,霍普菲爾德的方法的特別之處在於,可以同時保存多張圖像,並且網絡通常能夠區分它們。
霍普菲爾德將在網絡中搜索已保存狀態比作將一個球滾過高峰和谷地的景觀,並且有摩擦減緩其移動。如果將球放在某個位置,它會滾入最近的谷地並停在那裡。同樣,當網絡被給予一個接近已保存模式的模式時,它會繼續向前移動,直到最終到達能量景觀的谷底,從而找到其記憶中最接近的模式。
霍普菲爾德網絡可以用來重建包含噪音或部分擦除的數據。
隨著時間的推移,霍普菲爾德和其他人不斷改進該網絡的功能,包括允許節點儲存任何值,而不僅僅是零或一。如果將節點視為圖像中的像素,它們可以具有不同的顏色,而不僅僅是黑白。改進的方法使得可以保存更多圖片,即使它們相當相似,也能區分它們。
使用十九世紀物理學進行分類
當霍普菲爾德發表他關於聯想記憶的文章時,傑弗里·辛頓正在美國匹茲堡的卡內基梅隆大學工作。他此前在英格蘭和蘇格蘭學習了實驗心理學和人工智能,並思考機器是否能像人類一樣學會處理模式,自行發現分類方法來整理和解釋信息。與他的同事特倫斯·塞諾斯基一起,辛頓從霍普菲爾德網絡出發,並用統計物理學的概念將其擴展為一種新型結構。
統計物理學描述了由許多相似元素組成的系統,例如氣體中的分子。跟蹤氣體中所有單獨的分子是非常困難或不可能的,但可以通過集體考慮來確定氣體的整體屬性,如壓力或溫度。雖然氣體分子可以以多種方式在其體積內分布並保持不同的個別速度,但仍會得出相同的集體屬性。
統計物理學可以用來分析各組件共同存在的狀態,並計算其出現的概率。某些狀態比其他狀態更有可能發生,這取決於可用的能量。這些能量是根據十九世紀物理學家路德維希·玻爾茲曼的方程描述的。辛頓的網絡利用了這個方程,並於1985年以「玻爾茲曼機」這個引人注目的名稱發表了這個方法。
辨認同類型的新範例
玻爾茲曼機通常使用兩種不同類型的節點。信息首先傳遞到稱為「可見節點」的一組節點,另一組節點則構成了一個隱藏層。隱藏節點的值和連接也影響整個網絡的能量。
這台機器的運行規則是一次更新一個節點的值。最終,機器會進入一種節點模式可以改變,但整個網絡的屬性保持不變的狀態。每個可能的模式都會根據玻爾茲曼方程確定一個特定的概率。當機器停止運行時,它創造出了一個新模式,這使得玻爾茲曼機成為早期的生成模型之一。儘管電腦無法思考,但現在機器可以模仿記憶和學習的功能。今年的諾貝爾物理學獎得主幫助實現了這一點。他們使用物理學的基本概念和方法,開發了用網絡結構來處理信息的技術。
機器學習與傳統軟體不同,傳統軟體像一種食譜,軟體接收數據,然後按照明確的說明進行處理,最終產生結果,就像按照食譜收集食材並製作蛋糕一樣。與此不同的是,在機器學習中,電腦通過範例學習,從而能夠解決那些過於模糊和複雜,無法用一步一步的指示來處理的問題。比如說,識別圖像中的物體就是一個例子。
模仿大腦
人工神經網絡使用整個網絡結構來處理信息。這種靈感最初來自於理解大腦如何工作的需求。早在1940年代,研究人員就開始推理大腦神經元和突觸網絡背後的數學原理。另一塊拼圖來自心理學,神經科學家唐納德·赫布提出的假設表明,當神經元一起工作時,連接會被增強,從而促進學習的發生。
後來,這些思想促使人們試圖模擬大腦的網絡功能,通過構建人工神經網絡的電腦模擬。在這些網絡中,大腦的神經元被模仿為具有不同值的節點,而突觸則被表示為節點之間可以加強或削弱的連接。唐納德·赫布的假設至今仍然被用作更新人工網絡的基本規則之一,這個過程被稱為訓練。
玻爾茲曼機可以通過範例進行學習——不是通過指令,而是通過給定的範例模式進行更新
網絡連接中的值,這樣當機器運行時,訓練時輸入到可見節點的範例模式就具有最高的發生概率。如果在訓練中多次重複相同的模式,那麼這個模式出現的概率會更高。訓練還會影響輸出類似於訓練範例的全新模式的概率。
訓練過的玻爾茲曼機能夠在其未曾見過的信息中識別出熟悉的特徵。想像一下,遇見一位朋友的兄弟姐妹,你可以立即看出他們之間的親屬關係。玻爾茲曼機也能辨認出完全新的範例,只要它屬於訓練材料中的一個類別,並能將其與不相似的材料區分開來。
玻爾茲曼機的原始形式運行效率較低,尋找解決方案需要很長時間。然而,當它通過各種方式進行改進時,事情變得更有趣了,這也是辛頓繼續探索的領域。後來的版本通過去除某些單元之間的連接,實現了「稀疏化」。事實證明,這反而讓機器變得更高效。
機器學習——今天與明天
我們如今目睹的這一發展得益於大量可用的數據以及計算能力的巨大增長。今天的人工神經網絡往往非常龐大,並由多個層級組成。這些被稱為「深度神經網絡」,它們的訓練方式被稱為「深度學習」。
目前,許多研究人員正在拓展機器學習的應用領域。哪些應用將成為最具可行性的還有待觀察,與此同時,關於這項技術發展和使用的倫理問題的討論也在廣泛進行。
由於物理學為機器學習的發展提供了工具,看到物理學作為研究領域也從人工神經網絡中受益,這也是一件有趣的事。機器學習早已應用於我們從過去的諾貝爾物理學獎中熟悉的領域。例如,機器學習被用來篩選並處理大量數據,這對於發現希格斯粒子至關重要。其他應用還包括減少黑洞碰撞引起的引力波測量中的噪音,或者搜尋系外行星。
近年來,這項技術還開始應用於分子和材料性質的計算和預測——例如計算蛋白質分子的
結構,這決定了它們的功能,或是研究哪種新材料具有最佳性質,可用於更高效的太陽能電池。
幹被搶先一步,我準備要發表的
阿不就AI
AI
為什麼拿物理獎不是去拿圖靈??
物理獎怎麼頒給做ai的
不然諾貝爾有什麼獎合適?
恭喜
這跟物理沒關係吧
應該給圖靈
是人工神經元
資訊科技拿物理獎
代表物理界這幾年沒啥進展都在原地踏步阿
恭喜
怎麼怪怪的
這是電腦科學的範圍吧?
那以後一堆搞軟體的都可以得諾貝爾獎
嗯.........果然和我想的一樣
抓來充數的 慘
可憐哪 理論物理學家都在混
這傢伙我認識啊 當年在學校也是普普而已
研究線蟲也能醫學獎
理論物理是不是走到極限了==
早期的機器學習模型本來就是物理學家背景
的人在研究 Hinton本人的PhD指導教授甚至
為了頒給ai 硬拉了一個作物理的給獎
跟上帝粒子的Higgs是同一位
類神經網路
21世紀物理兩大烏雲,暗物質暗能量 無人
能解
只是這個給獎的確挺爛的就是了
遇事不決,量子力學
物理獎 頒這個... 諾貝爾地下有知...
開了先例,以後搞軟體的也可得物理獎
從缺也行唄 理論物裡大概幾百年才小突破
這算物理學喔
--- 這就有點奇怪了... 物理已死??
物理學選這個喔==
又沒規定非得一定每隔幾年要給理論物理 實
驗物理一大堆比這更值得的人排隊 偏偏給這
這是圖靈奬的東西吧,物理沒人囉!
諾貝爾獎有個標準是對人類社會的影響啊
物理研究的是物質和能量,不是資訊
這樣華爾街那些做金融的物理學家也有
拿圖林或菲爾茲比較合理 諾貝爾物理?
機會拿物理學獎了
前幾年氣候變遷大概也是靠影響力拿的
這是圖靈獎的範疇吧
那作加密技術的RSA那三人也能得諾貝爾獎了
前幾年那個大氣變遷的也頗無言的
物理學頒給AI?
蛤
有點怪
這根本不是物理學 離物理也太遠了吧
亂搞啊 笑死 物理學家應該都傻眼
以後物理都靠ai解答啊
物理學本身就做不出新學問了,做出
Ai元年 懂蹭
的理論也都無法驗證。才會都頒給這
支持諾獎再多Computer Science獎項
些。
反正先進儀器早就一堆ai
恭喜
這樣頒獎可接受啊
這不是我小時候科展主題嗎
AI關物理學屁事 硬要蹭
說不定以後得物理獎的都是CS背景的
拷貝 這算物理喔
大概每幾年搬給不太物理的東西
???
Ai
1年1次好像蠻多的
幹 我就差一點
Hinton在2018就拿過圖靈獎了
物理攻擊
物理獎還是很多人在排隊吧
物理的部份在哪裡?
這是資工吧什麼物理學
類神經網路本來就是受物理啟發的模型 早期
很多物理背景的人研究 就像我前面說的 Hint
on本人甚至跟希格斯粒子的Higgs是同門師兄
弟 說這是物理也無不可 只是單以物理價值
而言 這實在沒什麼特別大的
現在諾貝爾物理學獎也要扯AI喔
乾脆說萬物都由原子構成,所以這世上只
有一門學問就叫物理學
這種工作拿諾貝爾物理獎?
張忠謀過幾年也要得獎了
早就這麼想了
理論物理是不是卡很久很久了...
物理停滯快一百年了吧?
(づ′・ω・)づlink start
理論物理從相對論和量子力學後,有更屌的
理論嗎
AI得獎 股市該噴了
不過這應該是資訊科學的領域吧
辛頓拿過圖靈獎囉
物理沒人才了?
2021物理獎就很不物理了 沒啥重大發現
嗯嗯跟我想的一樣
這三小
略蝦
物理界是不是沒人才了
天網近了
諷刺這幾年做物理的人端不出像樣的東西
蛤 物理學到極限了嗎?資訊科學都算喔
說好的常溫超導呢
AI得獎
我懂了
AI 得物理學獎非常合理
活夠久
幹,AI最好也算物理啦,去領圖靈獎就好了
,跑來搶諾貝爾物理獎
凝聚態領域還有一堆大佬還沒得獎
不然也可以頒給做量子電腦的,頒給AI是三
小
這在LM界真的已是基礎知識了
這物理?是沒高能或天文好給了嗎?
為何這算物理獎
就NN阿
很合理 本來就是統計物理跟熱力學
抄我的期末報告 幹
紅黑樹啦
cnn
這用到統物的哪個部分啊? Ising Model?
領圖靈又領諾貝爾 扯
波茲曼分布的樣子
求懶人包
不合理 但很開心物理界心態開放
2021年氣候變遷那個沒問題吧,那年
就是頒給複雜系統的
代表AI正式跨入應用物理領域啊,一堆阿呆看
不懂,還不趕快買NV、META、Alphabet
有用到電的都算物理 (誤
推
????那以後數學家都能拿獎了
蛤不是我說過的東西ㄇ
恭喜 以後全世界的實驗室都要搞AI了
物理學一堆吃愛因斯坦老本的魯蛇
別吵啦 把引力矛盾解決了 怎麼可能
拿不到物理獎 整天拿暗物質騙自己
還在等超導體跟核融合
推推,神級應用
物理學發展難道到了瓶頸?還是說現在
重金錢的人多,重理想的人少了?唉唉
可悲
實至名歸
我驚! 資工註定只能爭圖靈獎 看來物理的
最上層是數學被驗證了 物理從觀察造物主
所創造的原則 開始走向人類模仿創造的路
資工以前
恩 跟我想得差不多
理論物理不是還有很多天文可以頒獎嗎
,怎麼給到AI了
這三小…
Hinton 2018年已經用dp領過一次圖靈
獎,結果2024又用dp領諾物。費爾茲
獎是還要再打算領一次嗎?一魚三吃
,笑了
這是理論沒錯啦,物理學不好說,實務上這
東西不被顯卡支持
類似在玩10.5.3版本的時候看到1.0得獎了
,嗯,還算同遊戲吧
3
物理是這樣的厚 你不一定要發表開創性的理論 你只要能用既有理論研究沒人研究過的現象 根據你的理論假設跑完模擬,做出實驗 且數據都能佐證你的假設,就能發期刊了3
阿肥外商碼農阿肥啦! 這邊說一個八卦,台灣媒體比較少提到Hinton的原話,”I am flabbergasted, I had no i dea this would happen”(我目瞪口呆,我不知道這件事情竟然就發生在我身上)。 連辛頓老爺都很驚訝自己怎麼就得了一個物理學獎了,回顧往年諾貝爾物理學獎連做理論物 理都不一定可以拿到獎了,更何況神經網路雖然確實有很多理論借鑑物理學(像波茲曼機、9
說神經網路學習應該算資工的 其實是眼光只放在現今人為分科 忽視整個領域發展脈絡的淺薄評語 實際上在機器學習火熱前 資工系根本不需要懂什麼微積分、線性代數 (雖然台灣的大學大都還是規定必修) 這就說明 AI 以資工來講本身就是滿"另類"的子領域12
其實小弟對這次物理獎最大的疑問 並不是在於"夠不夠物理" 而是...單就物理而言 到底夠不夠原創性或有影響力 早期的機器學習 其實分很多種不同的路線 其中有些路線是受到物理和大腦神經科學研究的直接影響 試圖由真實的神經科學出發 建立物理模型 來理解和重現大腦真正的認知過程4
阿肥外商碼農阿肥啦! 快下班才看到這篇,寫得太好了。就補充幾個點,當前深度學習很少會去提Hopfield Netwo rk甚至Boltzmann machine真正的原因就是當前的模型架構早就脫離全連結的架構了。 不知道全連結可以看看這張我從微軟官方找到的兩層RBM圖:
10
Re: [爆卦] 韓國常溫超導發現,作者群似乎內鬨不然這樣好了,反正L和K是最大貢獻者 依常溫超導的重要程度,值得拿兩個諾貝爾獎吧 當然不是兩個物理獎之類的 而是一個物理獎,表彰對超導物理的貢獻 一個化學獎,表彰發現常溫超導物的化學製程7
[問卦] 楊振寧怎麼沒拿第二個諾貝爾物理獎??楊振寧因為證明宇稱不守恒拿到諾貝爾物理獎, 隨後的楊米爾斯定理更是完備了整個標準模型。 但卻沒見他拿第二個諾貝爾物理獎。 楊振寧怎麼沒拿第二個諾貝爾物理獎?? --5
[問卦] AI教父到底是誰 ?請問一下AI教父到底是誰 ? 不久前遠見雜誌(如下)才提到是一位叫辛頓(Geoffrey Hinton)的人物, 維基一下,感覺學術成就斐然,現在輝達很紅,所以AI教父是有很多的意思 ? --5
Re: [新聞] AI 教父 Geoffrey Hinton 離開 Google阿肥外商碼農阿肥啦! 昨天聽聞這個消息真的蠻難過的,希望他老人家離開谷歌後能繼續努力幫助整個學界跟業 界,當前還是需要他老人家的真知灼見來領導深度學習這個領域。 說起Hinton我覺得很多鄉民都不熟,但是只能說沒有Hinton在AI寒冬年代堅持研究,2013 年深度學習也不會崛起,這位可以說是教父級的人物,尤其是反向傳播讓AI研究脫離復刻3
[問卦] 得諾貝爾物理獎跟成為郭台銘 選哪個?如題 各位鄉民下午好 如果今天讓你二選一 一是能夠做研究然後有重大發現 獲得諾貝爾物理獎3
[問卦] 後天頒諾貝爾物理獎 常溫超導有機會嗎?如題 10/2頒生醫獎 3日物理學獎 4日化學 5日文學 6日和平 9日經濟 之前韓國的常溫超導體有機會獲獎嗎 有沒有八卦? -----1
[問卦] 原本呼聲最高諾貝爾物理獎人選心情?今天美國理論證實了超導體 也幾乎坐實了韓國拿諾貝爾物理獎的資格 不過有人準備拿獎 就有人到熟的鴨子要飛ㄌ 有原本呼聲最高的得獎者陰影面積嗎?2
[問卦] 這就算大家所說的好女人嗎(圖是這樣的啦我在網路看到這張圖 發現我被說服的欸 真的是如此 大家是不是也這麼覺得- 重返未來1999 超級天賦秀:伊索爾德 Xtreme Talent: Isolde Welcome to XXXXXXtreme Talent! 歡迎收看《超級天賦秀》! 眾所周知,打架可不是X先生的強項,數據分析和奇妙發明才是。
爆
[問卦] 【Live】Mike Tyson VS Jake Paul爆
[問卦] 大榮貨運還不倒閉,我總覺得很不可思議爆
[問卦] 馬斯克的政府效率部公佈最蠢支出爆
Re: [新聞] 早預感黃珊珊鬧翻藍白合!蕭旭岑爆柯93
[問卦] 58歲泰森怎麼那麼猛49
[問卦] 范琪斐的婚姻 是我少見多怪嗎?40
[問卦] 直接投降vs被殺光再投降60
[爆卦] 世紀拳賽 泰森輸了…………50
[問卦] 印度空污也太恐怖了吧?45
[問卦] 姓胡的怎麼幫小孩取名字32
[問卦] 哇耖麥當勞超扯的啦48
Re: [新聞] 早預感黃珊珊鬧翻藍白合!蕭旭岑爆柯23
[問卦] 憑什麼GOGORO二手價這麼差??37
Re: [問卦] 大榮貨運還不倒閉,我總覺得很不可思議62
[問卦] 月薪3-4萬,有辦法結婚生子嗎==?25
[問卦] 前幾天有去買鬆餅漢堡的請進30
[問卦] 網紅阿Paul vs 咬耳森開打啦69
[問卦] 魚油是不是真的很強啊?28
[問卦] 大家都不擔心台股開始走空嗎???29
[問卦] 有泰森直播討論區嗎?46
[問卦] 這個人體標本是薄熙來的情婦嗎?23
[問卦] 台灣哪一所醫學系跟波波差不多?24
[問卦] 泰森終於要上場了22
[問卦] 大伯家絕後了該怎麼安慰他?23
[問卦] 小智出外旅行這麼多年 伙食生活費哪來的?19
[問卦] 過去八年哪一個金句最讓你刻骨銘心呢?22
[問卦] 高鐵北上有刀出沒?20
Re: [新聞] 早預感黃珊珊鬧翻藍白合!蕭旭岑爆柯18
[問卦] 是不是只有北部麥當勞才在排隊啊?12
Re: [新聞] 早預感黃珊珊鬧翻藍白合!蕭旭岑爆柯