?大數據文摘出品

就在昨天，OpenAI 宣布推出一個賞金計劃，幫助應對ChatGPT帶來的日益增長的網絡安全風險。

這個「賞金獵人計劃」邀請各類獨立研究人員報告OpenAI系統中的漏洞，參與者有機會獲得200美元至2萬美元不等的經濟獎勵，具體金額取決于漏洞的嚴重程度。

該項目與眾包網絡安全公司BugCrowd合作開展的，OpenAI 表示，該項目是其“致力于開發安全、先進的人工智能”的一部分。

所以說，大家如果再在和ChatGPT聊天的過程中，發現什么漏洞（比如動不動就要毀滅人類）的話，一定要及時上報，萬一能幫助發現一個漏洞，就可以拿賞金了！

ChatGPT 誕生以來，人們越來越擔心這類的人工智能系統出現漏洞，比如生成錯誤信息和不道德的信息，據人工智能網絡安全公司 Dark Trace 稱，研究人員發現，從1月到2月，使用人工智能的社交工程攻擊增加了135% ，這與 ChatGPT 的推出時間相吻合。

ChatGPT 的出現，無疑降低了網絡攻擊的門檻，尤其是新推出的 ChatGPT 4.0。

就在 ChatGPT 4.0 推出幾天后，華盛頓大學計算機科學專業的學生 Alex Albert 找到了一種超越其安全機制的方法。在 Twitter 上發布的一個演示中，Albert 展示了用戶如何通過利用  GPT-4 解釋和響應文本的方式中的漏洞，提示 GPT-4 生成黑客計算機的指令。

這一賞金計劃正是為了解決這一系列安全問題引發的廣泛擔憂，此前，一位名為 Rez0 的安全研究人員涉嫌利用一個漏洞攻擊 ChatGPT 的 API，并發現了80多個秘密插件。

鑒于這些爭議， OpenAI 啟動了這個賞金獎勵，鼓勵研究員報告漏洞，以解決其產品生態系統中的缺陷，同時將自己定位為一個真誠行事的組織，以解決由生成性 AI 帶來的安全風險。

專家：「賞金計劃」效果有限

盡管 OpenAI 的計劃受到一些專家的歡迎，但其他專家表示，賞金計劃不太可能完全解決日益尖端的人工智能技術帶來的廣泛網絡安全風險。

專家認為，OpenAI 的賞金計劃在它處理的威脅范圍上非常有限。例如，賞金計劃的官方頁面指出：“與示范提示和響應內容有關的問題嚴格超出了范圍，除非它們對范圍內的服務產生了額外的、可直接驗證的安全影響，否則將不會得到獎勵。”

被認為超出范圍的安全問題的例子包括越獄和繞開安全模式，讓模型“說壞話（不道德的言論）”，讓模型編寫惡意代碼或者讓模型告訴你如何將壞事付諸行動。

從這個意義上說，OpenAI 的錯誤賞金計劃可能有助于幫助組織改善自身的安全態勢，但對解決由生成性 AI 和 GPT-4給整個社會帶來的安全風險幾乎沒有作用。

所以許多人認為，由于該項目的范圍僅限于可能直接影響 OpenAI 系統和合作伙伴的漏洞，它似乎沒有解決對惡意使用諸如模仿、合成媒體或自動黑客工具等技術的更廣泛的擔憂。

OpenAI 沒有立即回應媒體的置評請求。

相關報道：

https://venturebeat.com/security/openai-announces-bug-bounty-program-to-address-ai-security-risks/

https://bugcrowd.com/openai