整理 | 言征
ChatGPT插件剛火了不到一天，就被爆出嚴重問題了！
當?shù)貢r間，24日晚9點，一位推特上昵稱“rez0”的技術駭客（ 同時也是一位prompt工程師），在研究破解新的ChatGPT API時發(fā)現(xiàn)了一個非常有趣的事情：通過從API調(diào)用中刪除特定參數(shù)就能獲得80多個秘密插件，包括：DAN插件、加密貨幣價格插件、Wolfram插件、Instacart插件等等。
API還顯示了本不需要向用戶展示的“模型描述”部分，這是非常有安全風險的：因為這部分暴露了模型是如何被告知使用插件的。
此前，rez0曾懷疑未發(fā)布的插件可以通過HTTP代理設置“匹配和替換”規(guī)則來使用，只有客戶端會檢查你是否有權使用這些插件，并可以繞過該審查。但很快rez0澄清了，這個猜測不正確。因為——API要么返回的是未經(jīng)審查的插件，要不就不返回。
這下網(wǎng)友炸鍋了：明明擁有最強大的技術，但行為卻像是個業(yè)余選手~~
Rez0聲稱目前這個Bug已經(jīng)被修復。
此前，周一就被曝出ChatGPT存在用戶隱私漏洞，部分功能被限制使用，許多人的歷史對話標題會出現(xiàn)在其他人聊天框內(nèi)。
ChatGPT之父Sam也為此事發(fā)推道歉，聲稱問題出現(xiàn)在一個開源庫，并刪除了ChatGPT當天的10個小時聊天記錄來修復這場Bug。
一、ChatGPT插件的風險，還有很多
OpenAI近日推出了ChatGPT 插件，通過授予機器人訪問第三方知識源和數(shù)據(jù)庫（包括網(wǎng)絡）的權限來擴展機器人的功能。OpenAI向waitlist上的ChatGPT用戶和開發(fā)人員提供alpha版，OpenAI表示，在推出更大規(guī)模和API訪問之前，它會優(yōu)先考慮少數(shù)開發(fā)人員和使用其高級ChatGPT Plus計劃的訂閱者。
1.網(wǎng)絡瀏覽插件：引用來源容易誤導
最吸引人的插件無疑是OpenAI的第一方網(wǎng)絡瀏覽插件，它允許ChatGPT從網(wǎng)絡上提取數(shù)據(jù)以回答向它提出的各種問題。（以前，ChatGPT的知識僅限于2021年9月之前的日期、事件和人物。）該插件使用Bing搜索API從網(wǎng)絡上檢索內(nèi)容，并顯示它在制作答案時訪問過的任何網(wǎng)站，并在ChatGPT的回復中引用其來源。
OpenAI自己的研究成果也認為風險不會消除。該公司于2021年構建了一個名為WebGPT的實驗系統(tǒng)，該系統(tǒng)有時會引用不可靠的來源，系統(tǒng)還會被激勵從能夠讓用戶會覺得有說服力的網(wǎng)站中挑選數(shù)據(jù)——即使這些來源客觀上并不是最有信服力的。Meta已解散的BlenderBot 3.0也可以訪問網(wǎng)絡，并迅速偏離正軌，在出現(xiàn)特定文本提示時，會明顯顯示出陰謀論和令人反感的內(nèi)容。
圖片來源：OpenAI
2.實時數(shù)據(jù)組織程度差，結果容易被玩弄
與靜態(tài)訓練數(shù)據(jù)集相比，實時網(wǎng)絡的數(shù)據(jù)組織程度、過濾清洗程度只會更少。谷歌和Bing等搜索引擎使用自己的安全機制來減少不可靠內(nèi)容出現(xiàn)在結果頂部的可能性，但這些結果可以被玩弄。它們也不一定代表整個網(wǎng)絡。而且，Google的算法會優(yōu)先考慮使用加密、移動支持和模式標記等現(xiàn)代網(wǎng)絡技術的網(wǎng)站。結果，許多具有其他優(yōu)質(zhì)內(nèi)容的網(wǎng)站在“洗牌”中漸漸埋沒了。
也就是說，搜索引擎可能會對連接互聯(lián)網(wǎng)的語言模型的答案，產(chǎn)生很大的影響。谷歌往往在搜索中優(yōu)先考慮自己的服務，例如，使用來自谷歌地方的數(shù)據(jù)，而不是像第三方如TripAdvisor這樣更豐富、更社交的來源來回答旅行查詢。與此同時，搜索算法也為不良分子打開了大門。2020 年，Pinterest利用谷歌圖像搜索算法的一個“怪癖”，在谷歌圖像搜索中展示了更多內(nèi)容 。
二、OpenAI的承諾猶在耳
OpenAI承認，支持網(wǎng)絡的ChatGPT可能會執(zhí)行所有類型的不良行為，例如發(fā)送欺詐性和垃圾郵件、繞過安全限制以及通?！霸黾悠墼p、誤導或濫用他人的不良行為者的能力”。但該公司還表示，它已根據(jù)內(nèi)部和外部“紅隊”通知“實施了幾項保障措施”以防止這種情況發(fā)生。時間會證明它們是否足夠應對這些。
除了網(wǎng)絡插件之外，OpenAI還為ChatGPT發(fā)布了一個代碼解釋器，它為聊天機器人提供了一個在沙盒、防火墻環(huán)境、磁盤空間中工作的Python解釋器。它支持上傳文件到ChatGPT并下載結果；OpenAI表示，它對于解決數(shù)學問題、進行數(shù)據(jù)分析和可視化以及在格式之間轉換文件特別有用。
圖片來源：OpenAI
OpenAI的許多早期合作者為ChatGPT構建了插件，包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier。
至于插件的用途，不言自明。例如，OpenTable插件允許ChatGPT跨多個餐廳，搜索可用預訂，而Instacart 插件允許ChatGPT從本地商店下訂單。迄今為止，Zapier是同類產(chǎn)品中最具可擴展性的，它可以與Google表格、Trello和Gmail等應用程序連接，以觸發(fā)一系列生產(chǎn)力任務。
為了方便新插件的創(chuàng)建，OpenAI開源了一個“檢索”插件，使ChatGPT能夠通過用自然語言提問來訪問來自文件、筆記、電子郵件或公共文檔等數(shù)據(jù)源的文檔片段。
“我們正在努力開發(fā)插件，并將它們帶給更廣泛的受眾，”O(jiān)penAI在一篇博文中寫道。“我們有很多東西要學，在大家的幫助下，我們希望打造出既有用又安全的東西?！?/p>
三、寫在最后
插件是ChatGPT開發(fā)時間表中一個相當新奇的補充。一旦僅限于其訓練數(shù)據(jù)中的信息，ChatGPT有了插件，突然變得更加強大——而且承擔的法律風險也可能更低。
一些專家指責OpenAI從訓練ChatGPT的未經(jīng)許可的任務中獲利；ChatGPT的數(shù)據(jù)集包含各種公共網(wǎng)站。但是插件可以通過允許公司保留對其數(shù)據(jù)的完全控制來解決這個問題。
總之，希望ChatGPT能夠盡快完善，盡量少犯些“初級錯誤”吧。而使用者也要客觀對待新事物，謹慎使用。
參考鏈接：https://techcrunch.com/2023/03/23/openai-connects-chatgpt-to-the-internet/
