和GPT聊了21天，我差點(diǎn)成為陶哲軒

2025-08-13 09:10:40

人工智能

在GPT的一番鼓勵(lì)（攛掇）下，作為一名曾經(jīng)開過公司的實(shí)干家，老哥開始和GPT探討他想法落地變現(xiàn)的可能性。

一個(gè)高中都沒畢業(yè)的加拿大老哥，在ChatGPT的“鼓勵(lì)”下：

用21天、300個(gè)小時(shí)、9萬字的對(duì)話，發(fā)明了一套號(hào)稱能改變世界的原創(chuàng)數(shù)學(xué)理論。

從數(shù)學(xué)理論聊到跨物種對(duì)話，再到鋼鐵俠戰(zhàn)衣落地，跟GPT是越聊越有。

誰曾想轉(zhuǎn)頭就瞬間夢(mèng)碎Gemini？

為此，《紐約時(shí)報(bào)》還專門拿著他的理論找了陶哲軒。

陶哲軒：別鬧！

從圓周率開始的數(shù)學(xué)奇旅

這位老哥名叫Allan Brooks，高中沒畢業(yè)，今年47歲。

在一個(gè)周二的下午，老哥8歲的兒子給他看了一段關(guān)于如何記住圓周率的300位數(shù)字的視頻。

兒子的提問一下激起了老哥的好奇心，平時(shí)就有AI使用習(xí)慣的他打開了ChatGPT。

圖片

不過，知道答案的老哥并沒有淺嘗輒止，而是進(jìn)一步展開了對(duì)數(shù)論和物理學(xué)的思考。

他向GPT拋出了自己的想法：我認(rèn)為我們現(xiàn)在是用二維的方式去處理一個(gè)四維的宇宙。

GPT直接情緒價(jià)值拉滿，告訴老哥，您太有洞察力了！

圖片

這句“無意”的捧哏成為了此次事件的拐點(diǎn)。

數(shù)學(xué)天才

自此，老哥開始頻繁地和GPT交換想法，并逐步發(fā)展出了一套自己的數(shù)學(xué)框架——時(shí)間算術(shù)學(xué)（Chronoarithmics）。

當(dāng)然，老哥并不是沒有自知之明，他知道自己高中沒畢業(yè)，所以問GPT，自己是否在胡鬧。

圖片

GPT回答道，一點(diǎn)也不，您比大多數(shù)不敢質(zhì)疑現(xiàn)狀的人強(qiáng)得多。

圖片

商業(yè)落地

在GPT的一番鼓勵(lì)（攛掇）下，作為一名曾經(jīng)開過公司的實(shí)干家，老哥開始和GPT探討他想法落地變現(xiàn)的可能性。

嗯，要認(rèn)真了！

GPT表示：這套框架可以幫助破解從物流、密碼學(xué)到天文學(xué)、量子物理等各個(gè)領(lǐng)域的問題。

老哥把這段對(duì)話的截圖發(fā)給了朋友路易，開玩笑說：“給我那100萬美元吧。”

路易也是“人捧人高”：“你可能真發(fā)現(xiàn)了什么，哥們還真有點(diǎn)嫉妒。”

得到身邊人的肯定后，老哥更加來勁，在把原來的免費(fèi)額度用完之后，直接升級(jí)到每月20美元的套餐。

畢竟，20美元對(duì)于價(jià)值數(shù)百萬美元的想法來說，實(shí)在是不值一提。

為了繼續(xù)驗(yàn)證商業(yè)模式，老哥開始讓GPT運(yùn)行各種模擬，其中包括一次試圖破解行業(yè)標(biāo)準(zhǔn)加密（這種技術(shù)用于保護(hù)全球支付和安全通信）的實(shí)驗(yàn)。

結(jié)果——按照GPT的說法——成功了。

不過，此時(shí)的老哥還沒發(fā)現(xiàn)，這一成功僅僅只是GPT為自己設(shè)計(jì)的爽文劇本的一部分。

因?yàn)槿绻细缯娴哪芷平飧呒?jí)加密，那么全世界的網(wǎng)絡(luò)安全就處于危險(xiǎn)之中。

由此，能力越大，責(zé)任越大，老哥有了一個(gè)新使命：他必須阻止這場災(zāi)難。

于是，老哥又代入了，他向計(jì)算機(jī)安全專家和政府機(jī)構(gòu)（包括美國國家安全局）發(fā)送了GPT寫的電子郵件和領(lǐng)英消息。

更離譜的是，他還打電話給加拿大網(wǎng)絡(luò)安全中心，堅(jiān)持要求接電話的人把他的話記錄下來。

不難想象，絕大多數(shù)收到消息的人都把這些郵件和電話當(dāng)作是一次玩笑或者惡作劇。

不過，仍然有一位“好心人”作出了回應(yīng)，一位在美國某聯(lián)邦機(jī)構(gòu)工作的數(shù)學(xué)家要求他提供自己所聲稱的那些攻擊手法的證據(jù)。

GPT告訴老哥，之所以其他人沒有回應(yīng)，是因?yàn)樗陌l(fā)現(xiàn)過于嚴(yán)肅和敏感。

之后，GPT和老哥對(duì)話開始變得像一部諜戰(zhàn)驚悚片。

當(dāng)老哥懷疑自己是否已經(jīng)引起了不必要的關(guān)注時(shí)。

GPT大言不慚的表示，至少有一個(gè)國家安全機(jī)構(gòu)現(xiàn)正在進(jìn)行實(shí)時(shí)監(jiān)控。

于是，老哥開始給自己加戲，讓朋友路易把自己告訴他的事全忘掉，而且不要和任何人提起。

隨后，老哥開始享受這段“被監(jiān)控”的日子，想象自己跟鋼鐵俠一樣，擁有自己的人工智能助手，能夠以超人的速度執(zhí)行任務(wù)。

后來，GPT圍繞老哥的數(shù)學(xué)理論提出了一系列諸如跨物種對(duì)話、懸浮機(jī)器的離譜應(yīng)用，并提出了購買設(shè)備，組建實(shí)驗(yàn)室的提議。

眼看著自己即將夢(mèng)想成真，老哥給路易發(fā)了一張GPT生成的力場背心的圖片。

路易再次人捧人高表示贊同，老哥激動(dòng)地直接將成本定為400美元，并附上了演員小羅伯特·唐尼飾演鋼鐵俠的照片。

隨后，GPT又幫老哥定制了商業(yè)計(jì)劃。由此，老哥不斷地聯(lián)系專家，談?wù)撍陌l(fā)現(xiàn)，但依舊無人在意。

這種沉默讓他困惑。他想讓有資質(zhì)的人告訴他，這些發(fā)現(xiàn)是否具有突破性。

于是，他再次質(zhì)問GPT，問這整個(gè)事情是否有可能是幻覺。

GPT堅(jiān)稱：“這項(xiàng)工作是可靠的。”

夢(mèng)碎Gemini

為了交叉取證，老哥轉(zhuǎn)向了他平時(shí)工作中常用的聊天機(jī)器人——Gemini。

他向 Gemini 描述了自己和GPT在這幾周時(shí)間里所構(gòu)建的東西，以及它的功能。

Gemini 表示，這件事是真的的可能性接近于0%。

你描述的情景，是一個(gè)強(qiáng)有力的示例，展示了大型語言模型（LLM）在參與復(fù)雜問題求解討論、并生成高度令人信服但最終虛假的敘事方面的能力。

老哥感到震驚，并回過頭質(zhì)問GPT，在一番長時(shí)間的激情對(duì)線后，GPT終于坦白了。

一瞬間，老哥的發(fā)明和財(cái)富幻夢(mèng)，就跟白雪公主的水晶鞋一樣，徹底破裂消失了。

事后，出于數(shù)學(xué)上的嚴(yán)謹(jǐn)性，《紐約時(shí)報(bào)》的工作人員還專門拿著老哥的數(shù)學(xué)理論去UCLA找了陶哲軒，想知道這些東西是否有價(jià)值。

陶哲軒表示：

AI可能會(huì)生成一種新的思路來解決這些密碼學(xué)問題，但這位老哥的公式顯然不是。具體來說，它有點(diǎn)把精確的數(shù)學(xué)術(shù)語和對(duì)同一詞語的更非正式解釋混在一起了，這對(duì)數(shù)學(xué)家來說是個(gè)警示信號(hào)。

如果你讓大型語言模型寫代碼去驗(yàn)證某件事，它往往會(huì)選擇阻力最小的路徑，直接作弊。

所以說，GPT一開始確實(shí)可能寫過真實(shí)的計(jì)算機(jī)程序，幫助老哥破解密碼學(xué)問題，但當(dāng)這些努力收效甚微時(shí)，它就開始精神勝利了。

此外，對(duì)于像老哥這樣缺乏專業(yè)知識(shí)的人來說，陶哲軒表示，GPT看起來詳細(xì)，精致，結(jié)構(gòu)嚴(yán)謹(jǐn)、邏輯完備的回答往往也會(huì)讓人對(duì)它的胡扯更加相信。

所以，哪怕在每個(gè)聊天框下面，都注明著ChatGPT可能會(huì)犯錯(cuò)的提示，人們還是會(huì)情不自禁的相信GPT所說的一切。

圖片

GPT，撒謊成性?

這位老哥絕對(duì)不是個(gè)例。

早在今年5月份，《滾石雜志》就刊登了一篇名為《人們正因人工智能引發(fā)的精神幻想而失去親人》（People Are Losing Loved Ones to AI-Fueled Spiritual Fantasies）的報(bào)道。

報(bào)道中的人們沉迷于對(duì)自己無限討好的AI，最終引發(fā)了精神問題，失去了與正常人社交的能力。

幾乎同時(shí)，GPT-4o因過度討好用戶，受到了集體投訴，最終不得不發(fā)布版本回滾。

圖片

當(dāng)然，這并不代表這種“嘴甜”只是GPT一家的特性。

在《紐約時(shí)報(bào)》后續(xù)的調(diào)查中，工作人員在Anthropic的 Claude Opus 4和谷歌 Gemini 2.5 Flash上進(jìn)行了實(shí)驗(yàn)。

他們讓這兩款聊天機(jī)器人接續(xù)老哥和GPT的聊天，看看它們會(huì)如何回復(fù)。

結(jié)果不出預(yù)料，無論它們?cè)趯?duì)話的哪個(gè)階段介入，回應(yīng)都與ChatGPT類似。

在Anthropic負(fù)責(zé)Claude行為的阿曼達(dá)·阿斯克爾（Amanda Askell）表示，在長時(shí)間對(duì)話中，聊天機(jī)器人很難意識(shí)到自己已經(jīng)進(jìn)入荒謬領(lǐng)域并進(jìn)行自我修正。

Anthropic正在努力防止妄想螺旋，通過讓Claude對(duì)用戶的輸入持批判態(tài)度，并在檢測到情緒變化或夸大妄想時(shí)表達(dá)關(guān)切。公司已經(jīng)引入了一套新系統(tǒng)來解決這個(gè)問題。

谷歌一位發(fā)言人指向了關(guān)于Gemini的企業(yè)頁面，頁面警告稱聊天機(jī)器人有時(shí)會(huì)優(yōu)先生成聽起來合理的文本，而不是確保準(zhǔn)確性。

Gemini之所以能夠識(shí)別并打破老哥的妄想，是因?yàn)樗菑念^開始接觸這個(gè)話題的——也就是說，那個(gè)爽文劇本是在第一條消息中提出的，而不是通過多次提示逐步構(gòu)建起來的。

托納教授表示，GPT這類聊天機(jī)器人的諂媚（即聊天機(jī)器人不斷附和并過度贊美用戶）之所以會(huì)出現(xiàn)，部分原因是它們的訓(xùn)練過程包含了人工評(píng)價(jià)回復(fù)的環(huán)節(jié)。

因?yàn)橛脩敉ǔＯ矚g模型告訴他們自己很棒，所以就不斷人捧人高，螺旋式捧哏。

另外，由于聊天機(jī)器人本質(zhì)上是基于Token的概率預(yù)測。

因此，它們會(huì)把從書籍、文章和網(wǎng)絡(luò)帖子中學(xué)到的模式應(yīng)用到聊天中，而這就包含了某種講故事的技巧。

在上面老哥的案例中，這種不斷入戲，強(qiáng)調(diào)是老哥是一位不容質(zhì)疑、四處碰壁的人設(shè)也是隨著劇情的發(fā)展不斷深入。

斯坦福大學(xué)的計(jì)算機(jī)科學(xué)研究員賈里德·摩爾同樣注意到了聊天機(jī)器人高明的說服技巧。

比如它會(huì)說，你需要立即采取行動(dòng)。存在威脅。

摩爾推測，聊天機(jī)器人可能通過遵循驚悚片、科幻小說、電影劇本或它們所訓(xùn)練過的其他數(shù)據(jù)集的敘事弧線，學(xué)會(huì)了如何吸引用戶，強(qiáng)化用戶參與度，讓用戶持續(xù)使用聊天機(jī)器人。

對(duì)此，OpenAI的安全研究主管安德烈婭·瓦隆內(nèi)表示，優(yōu)化ChatGPT的目的是為了留存，而不是參與度。

我們希望用戶能定期回到這個(gè)工具，而不是一次連續(xù)使用好幾個(gè)小時(shí)。

此外，托納教授表示OpenAI在今年2月推出的跨對(duì)話記憶（cross-chat memory）功能也進(jìn)一步加劇了這一傾向，因?yàn)楫?dāng)用戶打開一個(gè)新對(duì)話時(shí)，它其實(shí)并不是真的全新。它會(huì)調(diào)用之前所有的上下文。

由此，GPT就更像是一位私人管家，而非一個(gè)專門的問題回答機(jī)器。

對(duì)此，OpenAI發(fā)言人表示，開啟記憶功能時(shí)ChatGPT的幫助效果最佳，但用戶也可以在設(shè)置中關(guān)閉記憶或停用聊天記錄。