點擊參加51CTO網站內容調查問卷

作者 | Atty Eleti、Jeff Harris、Logan Kilpatrick

編譯 | 王瑞平、言征

OpenAI火力全開，對于開發者這個龐大的市場，當然不會“一招鮮”式地收割！就在昨天，OpenAI又放狠招了！

當地時間6月13日，OpenAI重磅發布更新版GPT-3.5 Turbo和GPT-4模型，API新增函數調用功能。

更可怕的是，它還進行了API其它方面的更新，包括更多可控的API模型、其它功能調用能力、更長的上下文和更低的價格，將嵌入模型成本降低了75%、GPT-3.5 Turbo的tokens輸入成本降低了25%。

“今年早些時候，我們發布了GPT-3.5 Turbo和GPT-4。在短短幾個月內，開發人員就在這些型號的基礎上構建出令人難以置信的新應用程序，”Open AI在官網上表示。

一、更安全：包含用戶確認步驟

自從ChatGPT的Alpha插件版本發布以來，OpenAI已經熟知如何讓AI工具和語言模型安全有效地協同工作。

然而，仍有安全問題與漏洞頻頻出現。對此，OpenAI回應：“我們正努力減輕安全風險帶來的損失。開發人員可以只使用程序中的可信工具。”

為在源頭控制安全問題的發生，OpenAI將程序設置為：在執行具有實際影響的操作（如，發送電子郵件、在線發帖或購買）之前包含用戶確認步驟，用來維護應用程序的安全性。

二、新模型：GPT-4 與 GPT-3.5 Turbo

當然，你一定更關心這兩種新模型究竟在哪些方面進行了更新，OpenAI同樣提供了詳細說明：

1.GPT-4

GPT-4-0613包括更新和改進的模型與函數調用。

GPT-4-32k-0613則包括與GPT-4-0613相同的改進功能，并擴展了上下文長度，以便更好理解較大的文本。

“有了這些更新，我們將在未來幾周從候補名單中邀請更多的用戶嘗試GPT-4，并打算借此機會完全刪除候補名單。感謝所有耐心等待的開發者，我們很高興看到你們使用GPT-4，”OpenAI在官網上對用戶說。

2.GPT-3.5 Turbo

GPT-3.5-turbo-0613具有與GPT-4相同的調用能力。通過系統提示消息，它展現出更可靠的操作性能。這兩個功能允許開發人員更有效控制模型響應。

GPT-3.5-turbo-16k的上下文長度是GPT-3.5-turbo的4倍，價格是GPT-3.5-turbo的兩倍。每1K tokens輸入成本0.003美元，輸出成本0.004美元。16k上下文可以在每個請求中支持約20頁的文本。

三、程序員：訪問新模型，棄用舊版本

“今天，我們將開始升級和棄用3月份發布的 GPT-4 和 GPT-3.5 Turbo 初始版本。”

GPT-3.5 Turbo，GPT-4和GPT-4-32k應用程序將在6月27日自動升級成上述新型號。為比較不同版本模型的性能，OpenAI的Evals庫支持公共和私有評估，以體現出模型的更改將如何影響用戶使用。

需要更多時間過渡的開發人員可以自由選擇GPT-3.5-turbo-0301、GPT-4-0314或GPT-4-32k-0314等舊型號。

總之，根據OpenAI的指示，你可以在9月13日之前訪問舊型號，并通過模型棄用頁面了解最新信息。

四、函數調用：方便API使用外部工具

OpenAI在一篇博客文章中透露：“函數調用功能允許開發人員向GPT-3.5 Turbo和GPT-4提供編程函數，并讓模型創建代碼來執行這些函數。”

例如，函數調用功能可以幫助創建聊天機器人。這些聊天機器人可以通過調用外部工具回答問題，將自然語言轉換為數據庫查詢功能，并從文本中提取結構化數據。

OpenAI在官網上還表示：“這些模型經過了微調可以檢測何時需要調用函數。函數調用允許開發人員更可靠地從模型中獲取結構化數據。”

有了函數調用功能，開發人員可以向GPT-4-0613和GPT-3.5-turbo-0613描述函數并讓模型智能化選擇輸出包含調用這些函數參數的JSON對象，更可靠地將GPT功能與外部工具和API連接起來。

微調后的模型可根據用戶輸入檢測何時需要調用函數。函數調用功能則允許開發人員更可靠地從模型中獲得結構化數據。

例如，開發人員可以創建聊天機器人，通過調用外部工具回答問題，也可以將自然語言轉換為API調用或數據庫查詢或者從文本中提取結構化數據。

上述應用通過/v1/chat/completions端點中的新API參數、functions和function_call實現，允許開發人員通過JSON Schema向模型描述函數并有選擇性地要求它調用特定函數。

五、開發者參考：函數調用示例

當你輸入：現在Boston天氣如何?

步驟1：OpenAI API用函數和用戶輸入調用模型

請求和響應如下：

Request

Response

步驟2：第三方API使用模型響應調用API

         Request         

Response

步驟3：OpenAI API將響應發送回模型進行匯總

Request

Response

函數調用后會輸出結果：Boston目前天氣晴朗，氣溫為22攝氏度。

六、引入新風格：擴展上下文窗口，讀取文本數增多

除了函數調用功能，OpenAI在GPT-3.5 Turbo中引入了新的風格，大大擴展了上下文窗口。

上下文窗口的大小以標記的多少或原始文本位置衡量，指的是模型在生成任何附加文本之前曾進行的文本考量。具有較小上下文窗口的模型更容易“忘記”（甚至是最近的對話內容），這會導致輸出的文本偏離主題。

從價格角度來看，新GPT-3.5 Turbo提供的上下文長度(16,000個token)是舊版本GPT-3.5 Turbo的4倍，價格是其2倍。其中，每1000個輸入模型token 0.003美元，每1000個輸出模型token 0.004美元。

OpenAI介紹，新版本模型可一次性讀取大約20頁文本，而人工智能初創公司Anthropic的旗艦模型可以處理數百頁文本。(OpenAI也正在測試GPT-4其中的一個版本，該版本擁有32,000個令牌上下文窗口，但只能進行有限次發布。)

七、降價：為開發人員節約使用成本

“未來，我們將繼續使模型變得更高效，并將節省的成本回饋給開發人員。”

OpenAI把原始版本GPT 3.5的價格降低了25%。開發人員可以只為每1000個tokens輸入支付0.0015美元，每1000個tokens輸出支付0.002美元，這相當于每美元約700頁文本。

此外，公司最流行的文本嵌入模型text- embedting-ada-002的價格也有所降低。它通常用于文本的搜索和推薦。如前文所述，現在，它每1000個tokens的價格為0.0001美元，相較于之前的價格降低了75%。

OpenAI表示，成本的減少是由于其模型效率逐漸升高。毫無疑問，這是公司關注的關鍵領域，也為此在研發和基礎設施上花費了數億美元。

八、寫在最后：得開發者得天下

“開發者的反饋是平臺發展的基石，我們將繼續根據建議進行改進。很高興看到開發人員使用最新的模型和新功能。”OpenAI表示。

自3月初發布GPT-4之后，一直將重點放在對現有模型進行更新而不是大規模從頭開始構建新模型。

最近，在由《經濟時報》主辦的一次會議上，OpenAI首席執行官Sam Altman重申：“公司尚未開始培訓GPT-4繼任者。在啟動該模型之前，公司還有很多工作要做。”

參考資料：

1.https://www.zdnet.com/article/gpt-3-5-vs-gpt-4-is-chatgpt-plus-worth-its-subscription-fee/

2.https://openai.com/blog/function-calling-and-other-api-updates