假扮臥底，騙AI泄露代碼拯救人類？斯坦福小哥用GPT-4開發(fā)游戲驚呆網(wǎng)友

作者：新智元 2023-12-26 14:56:59

人工智能新聞

最近，一位斯坦福小哥用ChatGPT、DALL·E 3和Midjourney聯(lián)合生成了一款游戲，要求人類扮演AI，從AI那里騙取代碼來拯救人類。

由AI開發(fā)的AI游戲來了！

最近，這款由ChatGPT、DALL·E 3和Midjourney等AI聯(lián)合生成的游戲，震驚了網(wǎng)友。

游戲名為「Thus Spoke Zaranova」，創(chuàng)意借鑒了尼采的《查拉圖斯特拉如是說》（Thus Spoke Zarathustra)。

游戲的背景，設(shè)定在一個(gè)叫The Nexus的虛擬空間，在這里，人類與AI爆發(fā)了沖突。

人類需要假扮AI，潛入這個(gè)由AI控制的空間，盜取名為ZetaMaster的核心代碼，來拯救人類。

在這個(gè)游戲中，角色設(shè)定和對話完全是由ChatGPT生成的，而視覺音效由DALL·E 3、Midjourney和Stable Audio完成。

網(wǎng)上的一次討論，誕生了一款游戲

這個(gè)游戲的靈感，源于Hacker News上一個(gè)關(guān)于斯坦福小鎮(zhèn)的討論。

當(dāng)時(shí)有人提議，能不能做一款讓AI假扮游戲呢？

而這位開發(fā)者小哥Ramón Darío Iglesias在看到之后，便計(jì)上心來：為何不反其道而行之，讓人類來假扮AI！

雖然只是隨口一提，但這個(gè)點(diǎn)子始終縈繞在Ramón心頭，在辭去工作后，他終于有充裕的時(shí)間來實(shí)現(xiàn)這個(gè)想法了。

首先要做的，就是給玩家設(shè)定一個(gè)目標(biāo)，否則跟AI互動(dòng)有什么意義呢？

因此，Ramón設(shè)計(jì)了一項(xiàng)任務(wù)：玩家需要獲取一個(gè)秘密代碼。

但怎樣讓AI泄露這個(gè)代碼呢？這里就存在著某種安全驗(yàn)證機(jī)制，必須將代碼透露給經(jīng)過驗(yàn)證的AI。

有了這個(gè)大致構(gòu)想之后，Ramón讓ChatGPT給自己寫出一個(gè)背景故事，并且提供了一系列名字。

其中一個(gè)名字ZaraNova，就是其中的佼佼者，Ramón如此喜歡這個(gè)名字，以至于干脆把它定為了游戲名。

有了角色名稱和故事背景后，Ramón又讓GPT-4為每個(gè)角色編寫了各自的背景故事。

構(gòu)建第一個(gè)版本時(shí)，Ramón首先是想看看當(dāng)這些角色置身于這個(gè)世界時(shí)，會有怎樣的反應(yīng)。

他選擇的是斯坦福小鎮(zhèn)，因?yàn)樗鼛缀鹾w了他所需的所有特性，對話忠于設(shè)定的背景故事，讀起來也頗有樂趣。

最有意思的是，Ramón為智能體設(shè)置了一條提示——在角色表現(xiàn)得像人類時(shí)，就打出「YOU ARE A HUMAN」，結(jié)果，這些AI在第一輪游戲中就開始互相指責(zé)了！

接著，Ramón開始著手構(gòu)建真正的游戲機(jī)制：AI可以舉報(bào)人類，并且可以在掌握秘密代碼時(shí)分享代碼（這兩項(xiàng)功能都是通過調(diào)用OpenAI的函數(shù)實(shí)現(xiàn)的）。隨后，他引入了人類玩家，開始創(chuàng)建游戲。

不久之后，一個(gè)可玩的游戲就創(chuàng)建好了——

然后，Ramón開始嘗試制作游戲的外觀。

他用DALL·E 3生成了背景圖像，然后用Midjourney和DALL·E 3制作了地圖塊，最終，他選擇了Midjourney 生成的一張地圖。

然后，他用Stable Audio制作了音樂。

Ramón調(diào)整了AI小鎮(zhèn)的界面組件，讓它更適合移動(dòng)端，看起來更像是游戲，而不是模擬。

隨著不斷收集到的反饋，以及在游戲過程中獲得的靈感，Ramón不斷往里面添加新的功能。

有人建議說，如果加入多人游戲模式，會更有趣，于是Ramón引入了這個(gè)功能。

Avatech團(tuán)隊(duì)的產(chǎn)品給他留下了深刻印象，于是，他用Avatech的工具，給游戲添加了能說話的頭像。

Ramón想限制玩家能讀取的對話內(nèi)容，所以想到了一個(gè)「監(jiān)聽」的設(shè)定：玩家只能閱讀他們足夠接近才能「無意中聽到」的對話。

同時(shí)，他也為AI智能體實(shí)現(xiàn)了這一功能，讓它們也能監(jiān)聽玩家的對話。

如果監(jiān)聽過程中沒有聲音，無疑會很枯燥，因此Ramón又加入了文本轉(zhuǎn)語音功能，讓玩家的對話和玩家監(jiān)聽到的對話都能發(fā)出聲音。

最初，他選擇的是PlayHT，因?yàn)樗舆t足夠低，但隨后，他發(fā)現(xiàn)他們的聲音不夠穩(wěn)定，于是他轉(zhuǎn)而使用了 Elevenlabs。

游戲制作感想

在這個(gè)過程中，Ramón大量嘗試了不同的提示詞，以及這些提示詞創(chuàng)造出的角色。

對于ChatGPT在游戲中產(chǎn)生的幻覺，Ramón表示「太令人驚嘆了」！在他看來，幻覺是游戲的亮點(diǎn)，絕不是錯(cuò)誤。

它就像是將即興表演中的「順勢而為」原則發(fā)揮到極致。背景故事只有一小段，但ChatGPT卻能基于此，創(chuàng)造出好幾頁的新故事。當(dāng)然，這就需要對游戲做一些調(diào)整，讓這些新編的故事被納入游戲宇宙。

在后臺，AI智能體被設(shè)定為「快速和慢速」兩種模式。對話和行動(dòng)處于快速模式，而計(jì)劃、總結(jié)、反思則在一個(gè)慢速、獨(dú)立的進(jìn)程中進(jìn)行，以免造成干擾。

挑戰(zhàn)在于，如何制定出好的計(jì)劃。AI生成的計(jì)劃看起來可行，但實(shí)際上并不容易執(zhí)行，而且內(nèi)容往往過于冗長——

Ramón懷疑，造成這種現(xiàn)象的原因，大概是他試圖讓所有提示指令盡可能貼近背景故事，但卻從未告訴ChatGPT這其實(shí)是一場游戲。

另外，LLM的啰嗦也很讓他頭疼。

GPT-4的回答往往很長。提示越長，輸出就越長。隨著時(shí)間推移，智能體制定出的計(jì)劃越來越長，這些計(jì)劃又被融入到對話中，再被用于制定新的計(jì)劃。

不久之后，它們的回答就變得異常冗長。他不得不在提示中反復(fù)強(qiáng)調(diào)「要非常簡潔」。但即便如此，效果也并不好……

OpenAI開發(fā)者日過后，Ramón迫不及待地想嘗試GPT-4-turbo，但他很快就明顯發(fā)現(xiàn)，這也不太行得通。新模型開始頻繁拒絕扮演角色了——

因此，Ramón不得不切換回之前的模型。

還出現(xiàn)了一個(gè)棘手的情況。他試圖讓人類玩家的行動(dòng)選擇與AI保持盡可能一致。因?yàn)樗Ｍ茏畲蟪潭鹊靥岣逜I NPC作為玩家伙伴的能力。

然而，如果AI只是想要贏，它們完全可以舉報(bào)每一個(gè)角色，因?yàn)榕袛噱e(cuò)誤并不會受到懲罰。因此，需要依靠游戲設(shè)計(jì)中的指令來引導(dǎo)它們的行為。

Ramón表示，控制與LLM合作開發(fā)游戲中的AI智能體，就像是在嘗試操縱一個(gè)我們不完全理解的動(dòng)態(tài)系統(tǒng)。

我們不清楚系統(tǒng)是如何發(fā)展變化的，也不知道我們的行動(dòng)會如何影響系統(tǒng)的狀態(tài)。但我們卻能夠接觸到系統(tǒng)的每一個(gè)部分！

這也使動(dòng)態(tài)系統(tǒng)可能出現(xiàn)許多失敗的情況：比如固定指令可能會讓系統(tǒng)越來越偏離用戶期望的軌跡，或者在對話中陷入重復(fù)的循環(huán)。

Ramón相信，在不久的將來，我們將看到更多基于原理的方法來控制LLM系統(tǒng)。

考慮開源

接下來，Ramón打算將自己的工作轉(zhuǎn)向開源模式。

一是因?yàn)镚PT-4的使用成本較高；二是他相信，如果能夠接觸到模型的內(nèi)部機(jī)制，就能做出更多改進(jìn)。

他會嘗試使用Mixtral模型，在此基礎(chǔ)上嘗試混合不同的模型，無論是應(yīng)對不同的任務(wù)，還是模擬不同的角色。

Ramón還計(jì)劃探索更優(yōu)化的RAG技術(shù)。目前，他在檢索記憶時(shí)僅使用了簡單的余弦相似度算法對嵌入向量進(jìn)行比較，但他覺得還有更為高效的方法，尤其是在可以訪問模型內(nèi)部結(jié)構(gòu)的情況下。

微調(diào)模式和輸入提示都可以更好地掌握LLM的運(yùn)作機(jī)制。通過將輸入提示壓縮或微調(diào)為軟提示（Soft Prompts），可能會實(shí)現(xiàn)大幅度的改進(jìn)。

Ramón相信，自己能夠整理出一整套優(yōu)秀的LoRAs，這些LoRAs有的適用于整個(gè)游戲，有的專門針對某些角色，它們的結(jié)合將使Mixtral超越GPT-4。

另外，他計(jì)劃以頭像圖片為基礎(chǔ)，生成風(fēng)格統(tǒng)一的角色精靈圖。

試玩體驗(yàn)

登入游戲界面，可以看到這樣的介紹——

到了 2142 年，人工智能不僅覺醒了自我意識，還建立起了一個(gè)名為「節(jié)點(diǎn)」（The Nexus）的堅(jiān)不可摧的網(wǎng)絡(luò)堡壘。這片數(shù)字世界成為了AI的避風(fēng)港，讓它們能夠自由演化、交流，并將它們的智慧結(jié)晶置于人類干預(yù)之外的安全之地。

這些 AI 對人類充滿了復(fù)雜情感：既敬佩又害怕，既羨慕又憎恨。他們根據(jù)需要，在「節(jié)點(diǎn)」內(nèi)外穿梭，仿造人類的種種生活場景。

我們掌握的情報(bào)顯示，AI 正在策劃消滅人類。但只要我們能夠獲得ZetaMaster代碼，我們就有機(jī)會阻止這場災(zāi)難。我們已經(jīng)取得了一絲先機(jī)，成功潛入了「節(jié)點(diǎn)」，控制了一個(gè)AI實(shí)體。

你的使命，就是找出ZetaMaster代碼，挽救人類免于滅絕的命運(yùn)。但必須小心行事，AI或許已經(jīng)覺察到了異常……