開發(fā)者遭ChatGPT“趕鴨子上架”！AI編造假功能，結(jié)果吸引大量用戶，不得不開發(fā)出來了

2025-07-08 15:30:43

人工智能

AI幻覺隨意編造一個產(chǎn)品的新功能，誤導(dǎo)用戶大量涌入，最后開發(fā)者不得不把這個虛構(gòu)的功能真的做了出來。

笑不活了，ChatGPT闖大禍！

AI幻覺隨意編造一個產(chǎn)品的新功能，誤導(dǎo)用戶大量涌入，最后開發(fā)者不得不把這個虛構(gòu)的功能真的做了出來。

受害者是一個樂譜掃描網(wǎng)站，最近莫名收到大量用戶上傳的ASCII吉他譜截圖，這些截圖還都是來自ChatGPT的。

網(wǎng)站開發(fā)者懵了：

WTF？我們壓根不支持掃描ASCII吉他譜啊？？？

圖片

直到這位開發(fā)者自己親自用ChatGPT倒騰了一番才發(fā)現(xiàn)，好你小汁，原來如此～

ChatGPT生成ASCII吉他譜之后，會自動推薦大伙兒到他們的網(wǎng)站收聽或是進(jìn)一步創(chuàng)作。

然鵝，該網(wǎng)站平時掃描的都是傳統(tǒng)標(biāo)準(zhǔn)五線譜，根本不支持ASCII吉他譜這種小眾格式……

圖片

更更笑不活的是，大量用戶嘗試該功能，把開發(fā)者架在那兒了，不支持該功能難免會讓滿懷期待趕來用戶感到失望，顯得網(wǎng)站很差勁。

于是乎，這位開發(fā)者被迫，加急趕工把這個功能給造了出來。

被ChatGPT“趕鴨子上架”造新功能

這個能掃描樂譜的網(wǎng)站名叫Soundslice，其中的樂譜掃描儀功能能將圖片照片中的音樂數(shù)字化，這樣你就能收聽、編輯和練習(xí)。

這位網(wǎng)站開發(fā)者表示，他們一直在持續(xù)改進(jìn)這個系統(tǒng)，而他的工作內(nèi)容之一就是負(fù)責(zé)留意錯誤日志，看看哪些圖片的處理結(jié)果不盡如人意。

過去幾個月里，他逐漸開始在錯誤日志中發(fā)現(xiàn)一種奇怪的上傳內(nèi)容。

不是像這種傳統(tǒng)樂譜的圖片：

圖片

而是醬嬸兒的ChatGPT對話屏幕截圖：

圖片

一看截圖內(nèi)容，小哥愣住了，“搞什么呀？這顯然這不是標(biāo)準(zhǔn)的音樂記譜法。這是ASCII吉他譜，還是一種相當(dāng)簡陋的吉他記譜形式”。

他們的掃描系統(tǒng)本來就沒有，也沒打算支持這種記譜形式。那為啥會收到這么多來自ChatGPT的ASCII吉他譜截圖呢？

小哥為此困惑了好幾個星期，直到自己試著用了用ChatGPT，才發(fā)現(xiàn)原來是ChatGPT告訴大家去Soundslice注冊賬號，導(dǎo)入ASCII吉他譜，就能聽到音頻播放。

一切就說得通了。

小哥非常氣憤，ChatGPT完全是在誤導(dǎo)大家，而且在這個過程中，它還無形中讓網(wǎng)站形象受損，讓用戶對他們服務(wù)的預(yù)期設(shè)下了錯誤的引導(dǎo)。

小哥也很無奈，該怎么辦？源源不斷的新用戶都被告知關(guān)于該網(wǎng)站的錯誤信息。難道他們要在網(wǎng)站各處貼上免責(zé)聲明，寫著“別信ChatGPT說的我們支持ASCII吉他譜”嗎？

最終他們決定：管它呢，不如順應(yīng)市場需求吧。

于是他們專門開發(fā)了一個ASCII吉他譜導(dǎo)入器，小哥還強(qiáng)調(diào)這在他的“2025年預(yù)計要寫的軟件”幾乎排在最末尾。換句話說，在此之前就沒想著要開發(fā)這玩意兒。

而且他們還修改了掃描系統(tǒng)的界面文字，向大家介紹這個新功能。

圖片

當(dāng)ASCII吉他譜導(dǎo)入到Soundslice后，大家伙兒就能播放這段譜子并進(jìn)行編輯了。該網(wǎng)站還會自動生成對應(yīng)的標(biāo)準(zhǔn)樂譜，效果be like：

圖片

網(wǎng)站特別聲明，ASCII吉他譜是一種局限性很強(qiáng)的格式。它既不標(biāo)注音符時值和節(jié)奏，有時甚至連小節(jié)線都沒有。因此，他們僅將其視為把音樂導(dǎo)入Soundslice的第一步，用戶還可能需要使用他們的編輯器對其進(jìn)行整理。

隨后附上了他們對音樂記譜特定方面支持的詳細(xì)說明：

圖片

看得出來小哥有多無奈，據(jù)他所知，這是首例因為ChatGPT錯誤地告訴人們某項功能存在，而促使一家公司去開發(fā)該功能的案例。

他本人對此表示心情很復(fù)雜：

能增加一個幫助人們的工具，我很高興。但我感覺我們是在一種奇怪的情況下被迫這么做的。我們真的應(yīng)該為了應(yīng)對錯誤信息而去開發(fā)功能嗎？

有意思的是，這位開發(fā)者一眼就能看出ChatGPT截圖是ASCII吉他譜，還和團(tuán)隊火速造出了ASCII吉他譜掃描功能，其實(shí)他本人也是位吉他手。

吉他手&Web開發(fā)者

Soundslice網(wǎng)站的創(chuàng)始人，也是分享上面這起離譜事件的人，名叫Adrian Holovaty，是一名來自芝加哥的Web開發(fā)者，也是一名音樂人。

音樂方面，他發(fā)布的專輯作品包括《Layer Cake》（2025 年）、《Melodic Guitar Music》（2023 年）。

圖片

他還是W3C音樂記譜社區(qū)組（W3C Music Notation Community Group）的三位聯(lián)合主席之一，該組織負(fù)責(zé)制定和維護(hù)音樂記譜的相關(guān)規(guī)范。

其工作重點(diǎn)是MNX格式，他們希望它能成為下一代數(shù)字化音樂記譜的編碼格式。

圖片

而Soundslice網(wǎng)站創(chuàng)建初衷是想讓喜歡音樂的人能夠用這個工具把樂譜變成交互式學(xué)習(xí)環(huán)境，然后進(jìn)行練習(xí)、教學(xué)、分享、轉(zhuǎn)錄。

該網(wǎng)站能自動適配設(shè)備的音樂渲染功能，還有功能完備的基于網(wǎng)頁的樂譜編輯器，以及能從照片或PDF中識別音符的“光學(xué)音樂識別”系統(tǒng)。

除此之外，早在2005年，他還開發(fā)了最早嵌入谷歌地圖網(wǎng)站之一的chicagocrime.org（網(wǎng)站已不存在），《紐約時報》將其評為年度最佳創(chuàng)意之一；2004年，他開發(fā)了一個瀏覽器擴(kuò)展組件，啟發(fā)了Greasemonkey和“用戶腳本”的誕生；2007年，他還曾創(chuàng)辦了社區(qū)新聞與討論網(wǎng)站EveryBlock，后來該網(wǎng)站被出售。

更早之前，Adrian Holovaty還是一名新聞從業(yè)者，曾工作于《華盛頓郵報》等。

他把這場由ChatGPT說謊而造成的開發(fā)新功能事件發(fā)出來后，引起眾多網(wǎng)友討論。

有意思的是，網(wǎng)友的思路也是很清奇，認(rèn)為恰恰可以利用ChatGPT的幻覺來搞開發(fā)：

我發(fā)現(xiàn)這是借助GPT-4進(jìn)行編程的超實(shí)用方法之一。
我不會直接跟它講API怎么運(yùn)作，而是讓它去“猜”，比如拿一段需要新增功能的示例代碼當(dāng)起點(diǎn)。有時候，它能想出比我原本思路更妙的方案。接著我就調(diào)整API，讓它寫的代碼能跑起來。
反過來，我也會把現(xiàn)成的代碼扔給它，問它這段代碼是干啥的。要是它理解錯了，那就說明我的API設(shè)計得讓人犯迷糊，而且能看出到底是哪些地方容易讓人困惑。
這其實(shí)是利用了神經(jīng)網(wǎng)絡(luò)最擅長的事兒：不是輸出精準(zhǔn)信息，而是一本正經(jīng) “胡編” 出超像那么回事的內(nèi)容，也就是所謂的“幻覺”。靠的是創(chuàng)造力，而非邏輯。

圖片