陶哲軒:o3-mini糾正了我一個數(shù)學(xué)錯誤,十分鐘解決原本一小時才能完成的題目
大模型持續(xù)震驚科學(xué)家!
以往一小時才能完成的代碼,現(xiàn)在十分鐘就能實現(xiàn)「生成、測試到得出結(jié)果」。
“大模型推廣大神”陶哲軒又來分享他的親測體驗了。
這一次o3-mini一眼識破并且糾正了他的一個錯誤,然后在它的幫助下快速完成了一道數(shù)學(xué)題的解答。

而在另一邊,CMU數(shù)學(xué)教授、美國奧數(shù)國家隊前掌舵人羅博深發(fā)現(xiàn),GPT-o1在卡內(nèi)基梅隆大學(xué)數(shù)學(xué)本科考試中獲得滿分,而且每道題的解題時間不超過一分鐘。

關(guān)鍵是,他專門設(shè)計的是全新的非標(biāo)準(zhǔn)問題,這些問題都是開卷的。
而普通學(xué)生的成績分布be like:

陶哲軒:o3-mini糾正了我的錯誤
事情是這樣的。
他在MathOverflow上遇到了這樣一道題,由于答案不是封閉形式的,所以他想近似地模擬他。

首先,他要求o3-mini-high提供一些代碼。結(jié)果在思考一分12秒之后,首先聲明他試圖計算的數(shù)量是無限的,但其實事實并非如此。此處o3-mini犯了個小錯誤。

不過它仍然提供了數(shù)值代碼,確實粗略地近似了陶哲軒想要的數(shù)量(精確到小數(shù)點后一位)。

那時它意識到應(yīng)該使用馬爾可夫鏈理論來獲得更精確的答案,于是先向 o3-mini-high詢問理論公式,然后編寫代碼來計算結(jié)果。
有趣的是,它能夠糾正提示中的一個基本錯誤:把min寫成了max。

并且給了完美的代碼,然后陶哲軒在此基礎(chǔ)上對這一問題給出更精確的數(shù)值答案。

對此,陶哲軒的評價是:
總的來說,o3提供了相當(dāng)不錯的幫助;它犯了一個錯誤,我糾正了它,但我也犯了一個錯誤,它糾正了它。
而且以前我自己可能需要花一個小時的時間才能完成的代碼,在大約十分鐘內(nèi)就生成、測試、修改并報告出來了。
也就在一周前,陶哲軒才點贊o3-mini不久:
重建圖論中一個標(biāo)準(zhǔn)(專家級)結(jié)果的證明,o3-mini是完全可以hold住的。
大模型持續(xù)震驚數(shù)學(xué)家
而在另一邊,羅博深也被o1的數(shù)學(xué)能力震驚到了。
他日常給本科生設(shè)計了五道數(shù)學(xué)題,分別涉及差分方程、線性代數(shù)、組合數(shù)學(xué)、數(shù)論、斐波那契數(shù)列性質(zhì)等內(nèi)容。
結(jié)果每道題均在一分鐘內(nèi)解決,甚至部分思考時間僅在20秒以內(nèi)。


而在班級上考滿分的人當(dāng)中,最快的人只用了30分鐘。
最后,他額外算了算這背后的成本。
已知GPT-o1每百萬字的輸出成本僅為60美元,這意味著每個問題的解決成本約為5美分。
對于大多數(shù)人無法在1小時內(nèi)完成的工作來說,總共花費(fèi)約25美分。
對此,他忍不住驚呼:Oh my goodness.讓我覺得已經(jīng)接近「能夠從事中等非程序性技術(shù)工作」的臨界點。
值得一提的是,前兩天其實還是GPT-4發(fā)布的兩周年。兩年之間,大模型的數(shù)學(xué)能力已經(jīng)有了質(zhì)的變化——各種數(shù)學(xué)難題都輕松拿下。
比如挑戰(zhàn)最難本科數(shù)學(xué)考試,o1 Pro只需36分鐘16秒交卷。
最新的o3系列,在最難數(shù)學(xué)測試的EpochAI Frontier Math(包含最新未公開前沿題目)中,比之前SOTA從2分提升到25分。
人類專業(yè)數(shù)學(xué)家解決其中一道題目也要花費(fèi)數(shù)小時到數(shù)天,現(xiàn)在o3只需要思考幾分鐘了。

眼看著數(shù)學(xué)難題一一被挑戰(zhàn)讓數(shù)學(xué)家們驚呆,大模型下一個可能被攻克的領(lǐng)域會是哪一個呢?
































