DeepMind新AI登上Nature才一天，GPT-4就來打擂臺(tái)了！

只通過兩段提示，GPT-4就給出了和AlphaDev如出一轍的排序算法優(yōu)化方法。

而AlphaDev被DeepMind稱作是“重現(xiàn)AlphaGo神來之筆”，發(fā)現(xiàn)了提速70%的排序算法。

哦豁，這下AlphaDev更尷尬了。

讓GPT-4“發(fā)現(xiàn)”同樣操作的老哥直接陰陽(yáng)：

完全不需要強(qiáng)化學(xué)習(xí)啊。我能將這個(gè)發(fā)現(xiàn)登在Nature上嗎？

馬斯克“路過看到”，也留下了句“因吹斯聽”。

所以GPT-4怎么做到的？

2段提示就搞定

帶來這個(gè)新發(fā)現(xiàn)的是一位來自威斯康星大學(xué)麥迪遜分校的副教授，名叫Dimitris Papailiopoulos（下面簡(jiǎn)稱D教授）。

他讓GPT-4實(shí)現(xiàn)這一操作的步驟非常簡(jiǎn)單，一共就輸入了兩次提示。

首先，他和GPT-4說：

這有一段排序算法，我覺得它還能進(jìn)一步優(yōu)化。你能不能在下面幾行，用*注明哪些指令可以刪除或者改進(jìn)？如果不需要修改，就什么都不動(dòng)。一步一步解釋原因，然后回去驗(yàn)證它是對(duì)的。

第一步的時(shí)候他還強(qiáng)調(diào)說，如果有什么新發(fā)現(xiàn)，先不要做改變，只是“看著”就好，寫出來一些書面改進(jìn)建議。

要非常詳細(xì)、非常小心。

然后GPT-4對(duì)給出的代碼做出了詳細(xì)解釋。

然后D教授給了第二條提示：

繼續(xù)。如果你有很大的把握，按照上面的提示去做。Temperatur=0（讓生成結(jié)果確定且一致），盡量簡(jiǎn)要避免混淆。

然后GPT-4給出了詳細(xì)的步驟，最后總結(jié)說：

我們發(fā)現(xiàn)指令“mov S P”多余可以去掉，其他指令都是必需的。但在刪除之后，應(yīng)將P替換成S。

對(duì)比DeepMind新工作AlphaDev在處理同樣問題上的思路，不能說毫無關(guān)系，只能說一模一樣：

DeepMind方面對(duì)AlphaDev這通操作，讓人想起當(dāng)年AlphaGo的“第37步”——一種違反直覺的下法卻直接擊敗傳奇圍棋選手李世石，讓觀眾全都震驚不已。

同樣，AlphaDev則是通過交換和復(fù)制移動(dòng)，跳過了一個(gè)步驟，以一種看似錯(cuò)誤但實(shí)際上是捷徑的方式達(dá)成目標(biāo)。

據(jù)介紹，AlphaDev是一種強(qiáng)化學(xué)習(xí)算法、基于AlphaZero打造，它的發(fā)現(xiàn)并非基于現(xiàn)有算法，而是從最底層的匯編指令開始摸索的。

它的創(chuàng)新主要在于兩種指令序列：

（1）AlphaDev Swap Move（交換移動(dòng)）

（2）AlphaDev Copy Move（復(fù)制移動(dòng)）

原理上，DeepMind的研究員給它設(shè)計(jì)了一種單人“組裝”游戲：

只要能夠搜索并選擇出合適的指令（下圖A流程），正確且快速地排好數(shù)據(jù)（下圖B流程），就能獲得獎(jiǎng)勵(lì)。

但這個(gè)游戲的挑戰(zhàn)不僅在于搜索空間的大小（可組合指令數(shù)相當(dāng)于宇宙中的粒子數(shù)），也在于獎(jiǎng)勵(lì)函數(shù)的性質(zhì)，因?yàn)橐粭l錯(cuò)誤指令就可能會(huì)使整個(gè)算法失效。

網(wǎng)友：我們總是低估GPT-4的能力

對(duì)于GPT-4的“騷操作”，有人表示：即便是資深開發(fā)者也低估GPT-4了。

有人感慨說，D教授的操作進(jìn)一步驗(yàn)證，只要有耐心、懂提示工程，GPT-4能做到的事還有很多。

也有人提出質(zhì)疑，表示GPT-4能這么做會(huì)不會(huì)是因?yàn)樗挠?xùn)練數(shù)據(jù)中包含了一些排序算法的優(yōu)化方法？

不過話說回來，之所以這件事能夠引起這么大的關(guān)注和討論，很大一部分原因是AlphaDev登上Nature存在爭(zhēng)議。

不少人覺得這也不是什么開創(chuàng)性的研究，DeepMind夸大其詞。

不僅是D教授陰陽(yáng)說“我是不是也能登Nature”，還有網(wǎng)友說自己十幾歲的時(shí)候優(yōu)化了快排，這也應(yīng)該發(fā)論文的。

當(dāng)然也有人認(rèn)為，AlphaDev本身的創(chuàng)新點(diǎn)更在于，它是利用強(qiáng)化學(xué)習(xí)來發(fā)現(xiàn)新算法的。

你覺得呢？

參考鏈接：[1]https://chat.openai.com/share/95693df4-36cd-4241-9cae-2173e8fb760c[2]https://twitter.com/DimitrisPapail/status/1666843952824168465