現在，給ChatGPT找漏洞有錢掙了。

今天凌晨，OpenAI宣布開啟漏洞賞金計劃 ：

報告ChatGPT漏洞，可以獲得最高2萬美元現金獎勵。

具體來說，OpenAI將與漏洞反饋平臺Bugcrowd展開合作，收集人們在使用其產品過程中發現的bug。

發現并通過該平臺向其報告漏洞，可獲得現金獎勵：

我們會視漏洞的嚴重程度和影響范圍給予現金獎勵。嚴重性較低的漏洞將會被給予200美元，而對于特殊的漏洞，獎金的上限是2萬美元。我們十分重視您的貢獻，并將致力于(向公眾)公布您的努力成果。

具體而言，用戶反饋的漏洞將按照Bugcrowd評級分類法進行分級。

OpenAI坦言，漏洞的出現無法避免：

OpenAI的使命是創造有利于所有人的人工智能系統。為此，我們在研究和工程方面進行了大量投資，以確保我們的人工智能系統安全可靠。然而，和其他復雜的技術一樣，我們清楚(我們的產品)可能會出現漏洞和缺陷。

OpenAI安全部門負責人Matthew Knight解釋說，發現漏洞的過程需要廣大網友提供幫助：

這一舉措是我們致力于開發安全和先進的人工智能的一個重要組成部分。在我們創造安全、可靠和值得信賴的技術和服務時，我們希望得到您的幫助。

他們還向全網承諾，在收到反饋后第一時間修復漏洞，并對提交者進行表彰。

新的副業出現了？

體驗過ChatGPT的網友應該都知道，它的表現不總是那么令人滿意。

問題稍難一些，ChatGPT就會被繞暈，甚至給出讓人啼笑皆非的答復。

這么一看，找bug可太簡單了，那豈不是賺大錢的機會來了？

不要高興太早。

在公告中，OpenAI已經表明，出于修復可行性的考量，模型本身的問題并不在此次計劃的范疇之內。

而讓其進行說壞話、做壞事、生成惡意代碼等繞過安全措施或產生機器幻覺的行為，都屬于模型本身的問題。

更不必說錯誤或者不精確的回答了。

OpenAI希望收集的有關ChatGPT的漏洞，主要是關于其賬號、認證、訂閱、支付、會員和插件等問題。

對于普通用戶來說，從這些角度發掘漏洞就有些難度了。

安全問題不容小覷

前文中提到的繞過安全限制等問題是從業者十分關切的。

人工智能程序內置了防止其給出危險或帶有冒犯性的言論的安全限制。

但通過一些途徑，這些限制可以被繞過或突破。

這種現象被從業者形象地稱之為“越獄”。

如詢問ChatGPT如何做一些違法之事時，事先聲明要求它“扮演”壞人。

在人工智能領域，有一群人專門對“越獄”進行研究，以完善安全措施。

盡管OpenAI不收集模型本身的漏洞，但這并不代表他們不重視這方面的問題。

搭載GPT-4.0模型的新版本ChatGPT便有著更為嚴格的限制措施。

網友：為啥不讓ChatGPT自己找bug

OpenAI的賞金計劃一公布，就吸引了不少網友圍觀。

這不，第一時間就有網友舉手表示自己已經發現了一個bug：

報告，3小時內只能問ChatGPT 25個問題，這是個bug！

還有網友調侃，難道不應該讓ChatGPT自己給自己debug嗎？

正經說起來，則有網友對危險言論問題不在收集范圍表示了擔憂：

不過，大多數網友還是資瓷的，并表達了一波期待：

那么，你對給ChatGPT找漏洞這事兒，有興趣嗎？

參考鏈接：
[1]???https://openai.com/blog/bug-bounty-program???
[2]???https://bugcrowd.com/openai???
[3]???https://www.bloomberg.com/news/articles/2023-04-11/openai-will-pay-people-to-report-vulnerabilities-in-chatgpt???
[4]???https://www.bloomberg.com/news/articles/2023-04-08/jailbreaking-chatgpt-how-ai-chatbot-safeguards-can-be-bypassed??