DeepMind指出「Transformer無法超出預訓練數據實現泛化」,但有人投來質疑
距離馬斯克的 xAI 公布 Grok 才過去一天,剛剛,xAI 又公布了另一款 AI 產品,一個可用于 prompt 工程和可解釋性研究的集成開發環境:PromptIDE。
接連不斷的新品發布,也讓網友紛紛感嘆:「xAI 團隊的開發速度簡直是瘋了!」

xAI 在官方博客中這樣介紹:PromptIDE 是一個用于 prompt 工程和可解釋性研究的集成開發環境。它通過 SDK 加速 prompt 工程,并且該 SDK 可以完成復雜的 prompt 技術,還能進行結果分析,可視化網絡輸出等。
值得注意的是,xAI 在 Grok 的開發中大量的使用了該技術。
借助 PromptIDE,工程師和研究人員可以透明的訪問 Grok-1 模型(為 Grok 提供支持的模型)。該 IDE 可以幫助用戶快速探索我們大模型 (LLM) 的功能。IDE 的核心是一個 Python 代碼編輯器,它與新的 SDK 相結合,可以實現復雜的 prompt 技術。在 IDE 中執行 prompt 時,用戶會看到一些比較有用的分析,例如采樣概率、聚合注意力掩碼等。
該 IDE 會自動保存所有的 prompt 并具有內置版本控制,還允許用戶比較不同 prompt 技術的輸出。最后,用戶可以上傳 CSV 文件等小文件,并使用 SDK 中的單個 Python 函數讀取它們。結合 SDK 的并發特性,即使是稍大的文件也能快速處理。
下面是 IDE 主要功能演示。
代碼編輯器 & SDK

PromptIDE 的核心是代碼編輯器 + Python SDK,其中 SDK 提供了一種新的編程范式,可以實現復雜的 prompting 技術。
如上圖所示,用戶可以使用 prompt () 函數手動將 token 添加到上下文中,也可以使用 sample () 函數根據上下文生成 token。

此外,多個 web worker 可以同時運行,這意味著用戶可以并行執行多個 prompt。

用戶也可以使用同一程序中的多個上下文來實現復雜的 prompting 技術。如果函數使用 @prompt_fn 裝飾器進行注釋,則它將在自己的新上下文中執行,該函數可以獨立于其父上下文執行一些操作。這種編程范式支持具有任意嵌套子上下文的遞歸和迭代 prompts。
并發性:SDK 使用 Python 協程來并發處理多個帶 @prompt_fn 注釋的 Python 函數,從而加快時間進程,尤其是在處理 CSV 文件時。

用戶輸入:Prompt 可以通過 user_input () 函數進行交互。user_input () 函數返回用戶輸入的字符串,然后可以通過 prompt () 函數將其添加到上下文中。使用這些 API,只需四行代碼即可實現聊天機器人:

文件:開發人員可以將較小的文件上傳到 PromptIDE(每個文件最多 5 MiB,總共最多 50 MiB),并在 prompt 中使用他們上傳的文件。read_file () 函數以字節數組形式返回任何上傳的文件。這些與上面提到的并發特性結合起來,可以實現對 prompt 進行批處理。

分析:在執行 prompt 時,用戶會看到詳細的 token 分析,以幫助他們更好地理解模型的輸出。


當用戶使用 user_input () 函數時,窗口中會顯示一個文本框,用戶可以在其中輸入響應。下面的屏幕截圖顯示了執行上面列出的聊天機器人代碼片段的結果。

最后,當不需要對 token 進行可視化時,還可以以 markdown 方式呈現上下文,以提高易讀性。

































