編輯 | 言征

出品 | 51CTO技術棧（微信號：blog51cto）

OpenAI終于又Open了一把！開發者可以免費定制自己的GPT-4o了！

當地時間8月20日，OpenAI  推出了GPT-4o微調功能，截至9月23日，所有開發者都可以使用自定義的數據集對GPT-4o進行微調，滿足特定用例的需求。

具體而言，這項微調功能可以通過一個小型數據集（小到幾十個示例），就能使模型能夠自定義響應的結構和語氣，或遵循復雜的特定領域指令，

1.首批嘗鮮的定制者們

OpenAI的合作伙伴Cosine推出了AI軟件工程助手Genie，可以幫自主識別和解決錯誤，構建和重構代碼。它可以推理復雜的技術問題，并以更高的準確度和更少的token更改代碼。

這里的Genie就是借助了微調后的GPT-4o的模型，并且Genie在SWE-bench測評榜上獲得了SOTA的水平，位列第一。

圖片

text to SQL 也是業內一個很熱的例子，Distyl也是通過微調GPT-4o的微調奪得了該領域BIRD-SQL的基準測試的第一名，執行準確率高達71.83%，除了在SQL生成方面一騎絕塵，同時在查詢重構、意圖分類、思維鏈和自我修正等任務重表現出色。

2.如何操作？

對新功能感興趣的開發人員可以訪問 OpenAI 的微調儀表板，單擊“創建”，然后 gpt-4o-2024-08-06 從基礎模型下拉菜單中進行選擇。

圖片

不到一個月前，該公司允許開發人員對該模型的更小、更快、更便宜的版本 GPT-4o mini 進行微調，但它的功能不如完整版 GPT-4o。

OpenAI 技術人員 John Allard 和 Steven Heidel 在公司官方網站的博客文章中表示：“從編碼到創意寫作，微調可以對各個領域的模型性能產生巨大影響。”

3.即日起至 9 月 23 日提供免費tokens

OpenAI指出，開發人員僅使用訓練數據中的幾十個示例就能取得很好的效果。

為了啟動這項新功能，OpenAI 將每天免費提供最多 100 萬個tokens，供任何第三方組織（客戶）用于微調 GPT-4o，截至 2024 年 9 月 23 日。

眾所周知，tokens實際上就像 AI 模型的“母語”一樣發揮作用，并且是 OpenAI 和其他模型提供商用來確定模型攝取（輸入）或提供（輸出）信息量的測量方法。

開發人員/客戶對 LLM 或 LMM（例如 GPT-4o）進行微調前，需要將與組織、團隊或個人用例相關的數據轉換為它可以理解的tokens，即對其進行標記化，OpenAI 的微調工具提供這些功能。

然而，這是有代價的：通常對 GPT-4o 進行微調每 100 萬個令牌的成本為 25 美元，而運行微調版本的推理/生產模型的成本為每百萬個輸入tokens3.75 美元，每百萬個輸出tokens 15 美元。

對于使用較小的 GPT-4o mini模型的用戶，截至 9 月 23 日，每天有 200 萬個免費訓練tokens可用。

此項服務擴展到所有付費使用層的開發人員，確保廣泛使用微調功能。

有媒體分析，OpenAI此舉也是日益激烈的競爭環境中做出的決策，畢竟谷歌、Anthropic等其他閉源供應商，Nous Research 推出的Meta Llama3.1的新變體Hermes3等都紛紛打起了價格戰。

不過，OpenAI有著自己獨特的優勢，開發人員可以不必再費心思去托管推理、也不必去他們的自己搭建的服務器上進行訓練。開發者如果有需要，甚至可以將他們喜歡的服務器鏈接到OpenAI的API上。

4.微調是否會帶來新的數據安全問題

OpenAI 強調，即使為開發人員擴展了定制選項，安全性和數據隱私仍然是首要任務。經過微調的模型可以完全控制業務數據，并且不存在輸入或輸出被用于訓練其他模型的風險。

此外，該公司還實施了分層安全緩解措施，包括自動評估和使用情況監控，以確保應用程序遵守 OpenAI 的使用政策。

然而，研究表明，微調模型可能會導致它們偏離護欄和保障措施，并降低其整體性能。組織是否認為值得冒險取決于他們自己——然而，OpenAI 顯然認為值得，并鼓勵他們將微調視為一個不錯的選擇。

5.這只是一個開始

事實上，早在 4 月份，OpenAI 宣布為開發人員提供新的微調工具（例如基于 epoch 的檢查點創建）時就表示，“我們相信，未來絕大多數組織將開發針對其行業、業務或用例個性化的定制模型。”

今天發布的全新 GPT-4o 微調功能凸顯了 OpenAI 對這一愿景的持續承諾：每個組織都有自己的定制 AI 模型的世界。

正如OpenAI 官方博客中所說的：“這只是一個開始——我們將繼續投資擴大 開發人員的模型定制 選項。”

本文轉載自??51CTO技術棧??，作者：言征