去年底，從微軟離職加入Zoom的華人AI大佬黃學(xué)東以Zoom CTO的身份發(fā)表了一篇技術(shù)博客，介紹了Zoom推出的聯(lián)邦A(yù)I技術(shù)——

差異化地利用不同成本的AI工具，讓能力強(qiáng)成本高的AI完成難度大的任務(wù)；成本低能力弱的AI完成簡(jiǎn)單的任務(wù)，從而在完成質(zhì)量和GPT-4幾乎一致的前提下，將AI完成任務(wù)的推理成本降到了GPT-4的6%。

在去年底，對(duì)標(biāo)GPT-4，Zoom AI就做到了「質(zhì)量一樣，成本打1折」！

文章地址：https://www.zoom.com/en/blog/federated-ai-approach-best-quality-for-most-popular-features/

3月26號(hào)，黃院士又發(fā)表了一篇新的技術(shù)博客，宣布聯(lián)邦A(yù)I技術(shù)取得的最新進(jìn)展：

通過整合Claude 3等新推出的強(qiáng)力LLM，「聯(lián)邦 AI」在特定的任務(wù)場(chǎng)景中，完成質(zhì)量已經(jīng)超過了GPT-4——

在Zoom提供的會(huì)議摘要功能「Meeting recap」上，Zoom AI的結(jié)果相比GPT-4將錯(cuò)誤率減少了20%，在自動(dòng)預(yù)測(cè)下一步操作的「Next Steps」上，Zoom AI的正確率提高了60%。

具體來(lái)說(shuō)，Zoom AI將市面上的所有可用的LLM都整合了起來(lái)。

集眾家之所長(zhǎng)，從而在產(chǎn)品層面做到了質(zhì)量「碾壓GPT-4」！

這樣的技術(shù)路徑不但大大降低了使用大模型的成本，而且隨著市面上不同公司的大模型性能的變化，可以靈活選擇最適合任務(wù)的模型進(jìn)行搭配。

從避免了與某一個(gè)模型深度綁定后，反而限制了產(chǎn)品服務(wù)質(zhì)量的情況。

在Zoom最新的內(nèi)部基準(zhǔn)測(cè)試中，通過讓人類評(píng)委盲選最準(zhǔn)確的會(huì)議摘要的方式進(jìn)行了測(cè)試。Zoom LLM和Claude-3配合下在會(huì)議總結(jié)和提取下一步操作兩個(gè)任務(wù)上的表現(xiàn)都優(yōu)于英文版的GPT-4。

將Zoom LLM與GPT-4總結(jié)日語(yǔ)會(huì)議的結(jié)果相比較。Zoom LLM也能夠提供更好的結(jié)果，降低了接近15%的錯(cuò)誤率。

根據(jù)Zoom委托GigaOm進(jìn)行的一項(xiàng)研究顯示，Zoom AI Companion的會(huì)議轉(zhuǎn)錄的準(zhǔn)確率高達(dá)95%以上。

在會(huì)議提問場(chǎng)景中，Zoom AI Companion提供的結(jié)果比ChatGPT-4 web快四倍。

而在安全性上，Zoom AI組建一個(gè)由Claude-3、Gemini和GPT-4等多個(gè)LLM組成的「委員會(huì)」，降低了大多數(shù)LLM輸出的固有偏差，從而減少了幻覺，進(jìn)一步提高了輸出的質(zhì)量。

最主要的原因是不同的LLM不太可能犯同樣的幻覺錯(cuò)誤，所以Zoom LLM可以生成更一致的回應(yīng)，進(jìn)一步減少幻覺的影響。

而且根據(jù)黃院士透露，在性能表現(xiàn)超越GPT-4的任務(wù)中，推理成本有所上升，但依然只有GPT-4一半左右。

雖然要取得超越GPT-4的性能，Zoom AI成本要比去年底的「成本打一折」時(shí)高上不少，但是依然比僅僅使用GPT-4要便宜很多。