關(guān)于主流閉源LLM的參數(shù)規(guī)模一直討論不斷，在2024年最后2天來自微軟的一篇關(guān)于檢測和糾正臨床筆記中醫(yī)療錯(cuò)誤的測試基準(zhǔn)MEDEC的研究一不小心直接漏了它們的參數(shù)規(guī)模：o1-preview, GPT-4，GPT-4o和Claude 3.5 Sonnet。

1. Claude 3.5 Sonnet（2024-10-22），~175B
2. ChatGPT，~175B
3. GPT-4，約1.76T
4. GPT-4o，~200B
5. GPT-4o-mini（gpt-4o-2024-05-13）只有8B
6. 最新的o1-mini（o1-mini-2024-09-12）僅100B
7. o1-preview（o1-preview-2024-09-12）~300B

實(shí)驗(yàn)部分也是將大模型參數(shù)規(guī)模分為3擋：7-8B，~100-300B，~1.7T，而GPT-4o-mini被分在第一檔，只有8B著實(shí)讓人有點(diǎn)不可思議~

 PromptWizard 概述

https://arxiv.org/pdf/2412.19260v1
MEDEC: A BENCHMARK FOR MEDICAL ERROR DETECTION AND CORRECTION IN CLINICAL NOTES

本文轉(zhuǎn)載自??PaperAgent??