當前位置: 華文世界 > 科技

獲諾貝爾物理學獎的AI教父辛頓:曾在谷歌工作十年,提醒AI或威脅人類生存

2024-10-09科技

「AI(人工智慧)教父」、神經網路領域大牛獲諾貝爾物理學獎。

美國普林斯頓大學的約翰·霍普菲爾德(John J. Hopfield)和加拿大多倫多大學的傑佛瑞·辛頓(Geoffrey E. Hinton)

當地時間10月8日,瑞典皇家科學院宣布,將2024年諾貝爾物理學獎授予美國普林斯頓大學的約翰·霍普菲爾德(John J. Hopfield)和加拿大多倫多大學的傑佛瑞·辛頓(Geoffrey E. Hinton),以表彰他們「為推動利用人工神經網路進行機器學習作出的基礎性發現和發明」。獲獎者將共享1100萬瑞典克朗(約合745萬元人民幣)獎金。

諾貝爾獎評獎委員會表示:「今年物理學獎得主取得的突破建立在物理科學的基礎上。他們為我們展示了一種全新的方式,讓我們能夠利用電腦來幫助和指導我們,應對社會面臨的許多挑戰。」

從20世紀80年代開始,兩位獲獎者就在人工神經網路方面開展了重要工作。其中,霍普菲爾德是一名物理學家,提出了日後被稱為「霍普菲爾德網路」的一種新的神經網路模型,振奮了該領域的研究。

另一邊,辛頓的名聲或許更加響亮一些。他是摺積神經網路理論的領軍人物,也被視為由ChatGPT掀起的本輪AI技術躍進背後的奠基性科學家,被譽為「AI教父」。

辛頓出生於1947年,經歷了復雜的求學經歷,隨後開始潛心研究神經網路。他與其他兩位作者一同在1986年發表了一篇題為【透過反向傳播誤差來學習】(Learning representations by back-propagating errors)的論文。在這篇奠定了深度學習理論核心的論文中,三位科學家將反向傳播演算法套用於多層神經網路,並且證明了這種方法對機器學習行之有效。

隨後,辛頓在卡內基梅隆大學任教五年,後來成為加拿大高等研究院的研究員,並進入多倫多大學電腦科學系任教。辛頓在2013年加入谷歌。因其在深度學習方面的貢獻,他與約書亞·本希奧和楊立昆被一同稱為「深度學習三巨頭」,三人在2018年被授予了圖靈獎。

2023年5月,辛頓從谷歌離職。自那以後,他持續公開呼籲謹慎對待AI技術,成為旨在引導AI系統、使其行為符合設計者利益和預期目標的「AI對齊派」的代表。目前,辛頓是英國皇家學會會士,也是美國國家工程學院和美國藝術與科學學院的外籍會員。

在數十年的研究生涯中,辛頓可以稱得上是「桃李滿天下」。例如,在去年年末那場受到全球矚目的OpenAI「政變風雲」中,被猜測發現「超級智慧」突破、試圖解雇公司CEO的OpenAI前首席科學家伊爾亞·蘇茨克韋(Ilya Sutskever)正是辛頓最得意的弟子之一。

今年5月,蘇茨克韋從OpenAI離職,並在一個月後宣布成立新公司SSI(Safe Superintelligence Inc,安全超級智慧),表示新公司將致力於追求安全超級智慧。

而在辛頓這邊,自從離開谷歌後,他也在一向旗幟鮮明地宣揚「AI威脅論」。在去年離職後不久,辛頓便在X(原推特)平台上發文表示,他離開谷歌就是為了可以「公開地談論AI的危險」。

隨後,辛頓在一場采訪中直言,他開始對自己一生從事的工作感到有些後悔:「我用平常的借口來安慰自己:就算我沒做,別人也會做的......很難想象,你能如何阻止壞人利用它(AI)來做壞事。」

今年3月,辛頓在接受外媒采訪時又一次詳細闡述了自己的觀點。他表示,自己在2023年4月與作為上司的谷歌首席科學家傑夫·迪恩(Jeff Dean)展開過討論,稱AI有可能帶來事關人類生存的危機;迪恩希望能挽留他留在谷歌研究AI的安全對策,但為了不受公司利益限制,辛頓還是選擇了離開。

辛頓認為,AI的危險之處在於,其真的有可能采用對人類有害的手段來實作被設定的目標,並且AI之間還可能會在未來出現競爭關系:「面對透過競爭變得更聰明的AI,我們人類將會落後。很多人主張,要防止AI失控,只要關掉電源開關即可。但超越人類智慧的AI可以用語言操縱我們,或許會試圖說服我們不要關掉開關。」

在采訪中,辛頓還表達了對學生蘇茨克韋的支持,稱從OpenAI的「政變」大戲中可以看出,比起安全性,組織往往會更重視AI創造的利益。