GPT-4 Turbo問世，API更劃算，128K上下文窗口引領新時代

作者：學研君 2023-11-17 18:06:15

思考一下OpenAI的戰略方法也很有意思。最初，OpenAI發布了他們的API，允許開發者進行構建和創新，實際上承擔了早期采用和用戶參與的風險。事實證明，OpenAI 的這一舉措是明智之舉，因為它不僅培養了一個多樣化的應用生態系統，還為他們提供了對最受需求的功能的洞察。

一、簡介

在發布GPT-4（點擊了解GPT-4）僅僅八個月后，OpenAI推出了更新的模型GPT-4 Turbo，該模型具有可以在一次提示中容納300頁書的上下文窗口，并且提供更便宜的API訪問。

【GPT-4 Turbo】：https://openai.com/blog/new-models-and-developer-products-announced-at-devday

二、GPT-4 Turbo的新功能有哪些？

以下是GPT-4 Turbo的主要特點：

128K上下文窗口（比GPT-4大16倍）。
與GPT-4相比，輸入token的價格降低了3倍，輸出token的價格降低了2倍。
它具有截至2023年4月的知識（GPT-4的知識截止日期為2022年1月）。

【GPT-4 Turbo價格】：https://openai.com/pricing#gpt-4-turbo

三、如何訪問？

對于付費用戶，GPT-4 Turbo現在是ChatGPT中默認使用的模型。如果擁有OpenAI賬戶并已經獲得了GPT-4的訪問權限，可以通過在Playground上切換到gpt-4-11-6-preview模型來訪問新模型。

圖片

OpenAI Playground截圖

GPT-4 Turbo對于所有付費開發者來說都是可用的，可以通過在API中傳遞gpt-4-1106-preview來嘗試。以下是使用JavaScript的聊天完成請求示例：

import OpenAI from "openai";

const openai = new OpenAI();

async function main() {
  const completion = await openai.chat.completions.create({
    messages: [{ role: "system", content: "You are a helpful assistant." }],
    model: "gpt-4-1106-preview",
  });

  console.log(completion.choices[0]);
}

main();

以下是使用Python實現的方法：

from openai import OpenAI
client = OpenAI()

completion = client.chat.completions.create(
  model="gpt-4-1106-preview",
  messages=[
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello!"}
  ]
)

print(completion.choices[0].message)