整理 | 言征
出品 | 51CTO技術棧（微信號：blog51cto）
10月8日晚間，2024 年諾貝爾物理學獎得主公布，名單非常令人驚訝，兩位得主John Hopfield（約翰·霍普菲爾德）、Geoffrey Hinton（杰弗里·辛頓），并非是發現了類似相對論、量子力學等驚世的物理學規律，而是因為對于AI的基礎性貢獻。
不要說大眾覺得很“詭異”，就連辛頓本人接到通知電話時也覺得是詐騙。
凌晨的時候，辛頓在加利福尼亞州的一家酒店房間里接到了來自瑞典斯德哥爾摩的電話，他第一時間想到的是：我怎么確定這不是一個詐騙電話。
最后，辛頓通過電話那頭的多種瑞典口音（而非單一的模擬口音）來確信他的諾貝爾物理學獎是真實的。
在他得知該獎項后錄制的這次采訪中，他談到了機器學習的現狀、對安全研究的迫切需求，以及他希望該獎項可以讓人們更認真地對待他所表達的恐懼。
1.辛頓正在酒店里沒有網絡，電話信號也不好
辛頓：你好？
史密斯：哦，你好。我是否與 Geoffrey Hinton 交談？
辛頓：是的。
史密斯：我是亞當·斯密（Adam Smith）從諾貝爾獎網站打來的電話。
辛頓：好的。我知道你是誰，因為很久以前我注意到他們有人打電話來了解人們的反應。
史密斯：沒錯。那么，我們能聊幾分鐘嗎？
辛頓：是的。
史密斯：真的非常感謝你。首先，當然。非常祝賀。
辛頓：謝謝。
史密斯：那么，你在哪里？在哪里得知的這個消息呢？
辛頓：我在加利福尼亞的一家便宜的酒店里，沒有互聯網連接，電話線也不是很好。我本來打算今天做 MRI 掃描，但我想我得取消。我甚至不知道我甚至被提名了諾貝爾物理學獎。我非常驚訝。
2.我怎么確定這不是詐騙電話
史密斯：聽起來，在某種程度上，這是一個相當明智的接收新聞的地方。因為你有點孤立。你可以在一天的洪水之前收集你的思緒。
辛頓：是的。另一方面，現在是凌晨兩點。
史密斯：哦，天哪。是的。對不起。是的。呃，天哪。我不知道你有沒有......
辛頓：我想現在已經三點了。
史密斯：。。。我不知道你是想回去睡覺，還是你不得不接受這一天將是漫長的一天。
辛頓：是的，我不認為我有那么多的憤怒。
史密斯：嗯，真是個驚喜。什么，你的第一個想法是什么？
辛頓：我的第一個想法是，我怎么能確定這不是一個欺騙電話。
史密斯：然后呢？你怎么確定的呢？
辛頓：電話來自瑞典，那個人有很重的瑞典口音，而且不止一個人。
史密斯：是的。所以它必須是一群模仿者，我想這不太可能。
辛頓：是的。
3.如何介紹當時的自己？試圖理解生物學的物理學家？
辛頓：我不太了解
史密斯：你會如何描述自己？當你做這項工作時，你會說你是一名計算機科學家，還是說你是一名試圖理解生物學的物理學家？
辛頓：我想說的是，我是一個不太了解自己在哪個領域的人，但想了解大腦是如何工作的。在我試圖了解大腦如何運作的過程中，我幫助創造了一種效果出奇地好的技術。
4.AI與氣候變化、克隆技術不同，我們對它知之甚少
史密斯：值得注意的是，我想你已經非常公開地表達了對這項技術可能帶來什么的擔憂。您認為需要做些什么來減輕您和其他人所表達的恐懼？
辛頓：因此，我認為這與氣候變化頗為不同。對于氣候變化，大家都知道需要做什么。我們需要停止燃燒碳。這只是個政治意愿問題，以及大公司賺大錢卻不愿這么做的問題。但你需要做什么是明確的。而我們目前所面對的情況，我們對即將發生什么以及如何應對所知甚少。所以，我希望能有一種簡單的辦法，只要照做，一切都會好起來。但我沒有這樣的辦法。特別是考慮到這些事物失控并占據主導地位所帶來的生存威脅，我認為我們現在正處于歷史的一個分叉點，在接下來的幾年里，我們需要找出應對這一威脅的方法。
因此，我認為現在人們研究如何保持控制的問題至關重要。我們需要在這方面投入大量的研究精力。我認為政府可以做的一件事是，迫使大公司將其更多資源用于安全研究。這樣，例如，像OpenAI這樣的公司就不能再把安全研究放在次要位置了。
史密斯：這與生物技術革命時期的情況是否有相似之處，那時，生物技術的從業者們齊聚阿西洛馬會議，坐下來討論說，你知道，這里存在潛在的危險，我們需要，我們需要自己來解決這個問題？
辛頓：是的。我認為這與此有相似之處，我認為他們所做的非常好。不幸的是，AI 還有更多的實際應用。還有生物學家試圖控制的事情，比如克隆。所以，我認為這會困難得多。但我認為生物學家所做的是一個很好的模型。令人印象深刻的是，他們設法達成了協議，科學家們做到了。
史密斯：所以，例如對于大型語言模型，我認為導致你恐懼的是，你覺得這些模型比很多人說的更接近理解。當談到諾貝爾獎在這一領域的影響時，您認為它會有所作為嗎？
辛頓：是的，我認為這會有所作為。希望當我說這些事情時，這讓我更可信，確實理解他們在說什么。
5.不懼流派爭議，神經網絡可以理解語言
史密斯：你擔心人們不把你當回事嗎？
辛頓：有一整個語言學流派源自喬姆斯基（Chomsky），他們說這些機器能理解語言完全是無稽之談，它們處理語言的方式與我們截然不同。我認為那個流派是錯誤的。我認為現在很明顯，神經網絡在處理語言方面比喬姆斯基語言學流派產生的任何東西都要好得多。但關于這一點仍然存在很多爭論，尤其是在語言學家之間。
史密斯：不過，我只是想回到你半夜在酒店房間里收到這個消息的情況。從某種程度上說，這是一個相當孤獨的新聞發布會。沒有人可以求助，可以擁抱和慶祝。
辛頓：嗯，我和我的妻子一起在這里，她非常興奮。
史密斯：好的。確實是的。但現在、此刻，還是要祝賀你們。
辛頓：謝謝。好。
