毋庸置疑，生成式 AI已經成為驅動千行百業創新與發展的關鍵技術。在 AIGC的加持下，企業正在積極探索新的商業模式，提高生產效率，為用戶帶來更加優質的服務體驗。為了推動大模型應用的發展，進一步加速生成式AI在千行百業的落地，NIVIDA 于近日正式推出了全新 NVIDIA AI Foundry 服務和 NVIDIA NIM? 推理微服務，與同樣剛推出的 Llama 3.1 系列開源模型一起，為全球企業的生成式 AI 提供強力支持。

作為 NVIDIA 提供的一項服務，NVIDIA AI Foundry 旨在幫助企業構建、優化和部署人工智能（AI）模型。這項服務是 NVIDIA 在推動 AI 創新和普及方面的一部分，它為企業提供了一系列工具和平臺，以便更快速、更高效地開發和實施 AI 解決方案。

賦能企業利用 Llama 3.1 構建“超級模型”

剛剛發布不久的Llama 3.1系列大模型，性能有了很大的提升。根據官方數據顯示，在150多個基準測試集中，405B版本的表現追平甚至超越了現有SOTA模型GPT-4o和Claude 3.5 Sonnet。作為支持開源AI的模型，Llama 3.1提供高級功能，并優化訓練棧和推理能力，并支持開源和廣泛生態合作。

馬克·扎克伯格表示，除了擁有更高的性能和更高級功能之外，全新的 Llama 3.1 模型是開源 AI 邁出極其重要的一步。

我們知道，NVIDIA AI Foundry 是由 NVIDIA DGX? Cloud AI 平臺驅動。該平臺由 NVIDIA 與全球公有云共同設計，旨在為企業提供大量計算資源，所提供的計算資源可隨著 AI 需求的變化輕松擴展。此次發布會的NVIDIA AI Foundry，旨在提供對剛剛發布的Llama 3.1系列大模型提供更好地支持。

全新發布的 NVIDIA AI Foundry 提供了從數據策管、合成數據生成、微調、檢索、防護到評估的全方位生成式 AI 模型服務，以便部署自定義 Llama 3.1 NVIDIA NIM 微服務和新的 NVIDIA NeMo Retriever 微服務，以實現準確響應。

借助 NVIDIA AI Foundry，企業和各國現在能夠使用 Llama 3.1 以及 NVIDIA 軟件、計算和專業知識，為其特定領域的行業用例創建自定義“超級模型”。企業可以使用自有數據以及由 Llama 3.1 405B 和 NVIDIA Nemotron? Reward 模型生成的合成數據，來訓練這些超級模型。

 “Meta 的 Llama 3.1 開源模型標志著全球企業采用生成式 AI 的關鍵時刻已經到來。Llama 3.1 將掀起各個企業與行業創建先進生成式 AI 應用的浪潮。” NVIDIA 黃仁勛表示：NVIDIA AI Foundry 已經在整個過程中集成了 Llama 3.1，并能夠幫助企業構建和部署自定義 Llama 超級模型。

馬克·扎克伯格表示，借助 NVIDIA AI Foundry，企業可以輕松創建和定制大家想要的先進的 AI 服務，并通過 NVIDIA NIM 進行部署。

利用NVIDIA NIM 微服務為 RAG 提供檢索準確性

NVIDIA NIM?推理微服務是 NVIDIA 提供的一種基于云的 AI 推理服務，旨在簡化和加速企業在各種應用中部署 AI 模型的過程。NIM 推理微服務通過提供一個高效、可擴展和易于管理的平臺，幫助企業實現 AI 模型的快速集成和部署。

全新的 NVIDIA NeMo Retriever NIM 推理微服務實現了檢索增強生成（RAG），企業可以將自定義 Llama 超級模型和 Llama NIM 微服務部署到生產中，以提高響應準確性。此外，當與適用于 Llama 3.1 405B 的 NVIDIA NIM 推理微服務結合使用時，NeMo Retriever NIM 微服務可以為 RAG 工作流中的開放和商業文本問答帶來極高的檢索準確性。

借助 NVIDIA AI Foundry，企業能夠使用 Llama 3.1 模型和 NVIDIA NeMo 平臺上的 NVIDIA Nemotron-4 340B Reward 模型創建自定義模型。之后，企業就可以構建 NVIDIA NIM 推理微服務，以便在其選擇的云平臺和全球服務器制造商提供的 NVIDIA 認證系統?上，使用自己選擇的機器學習運維（MLOps）和人工智能運維（AIOps）平臺在生產中運行這些模型。

如果企業需要更多訓練數據來創建特定領域的模型，可以在創建自定義 Llama 超級模型同時使用 Llama 3.1 405B 和 Nemotron-4 340B 生成合成數據，以提高模型的準確性。另外，擁有自己的訓練數據的客戶可以使用 NVIDIA NeMo 對 Llama 3.1 模型進行自定義，通過領域自適應預訓練（DAPT）進一步提高模型的準確性。

為合作伙伴部署 Llama  提供強力支持

Llama 3.1 多語種大語言模型（LLM）集合是一個具有 8B、70B 和 405B 三種參數規模的生成式 AI 模型集合。該集合中的模型在超過 16,000 個 NVIDIA Tensor Core GPU 上訓練而成，并針對 NVIDIA 加速計算和軟件（無論是在數據中心、云以及配備 NVIDIA RTX? GPU 的本地工作站或配備 GeForce RTX GPU 的 PC 上）進行了優化。

目前，醫療、能源、金融服務、零售、交通、電信等行業的企業已在使用適用于 Llama 的 NVIDIA NIM 微服務構建大模型。Aramco、AT&T 和優步則成為首批使用面向 Llama 3.1 全新 NIM 微服務的公司。

據了解，埃森哲內部 AI 應用一直在使用 NVIDIA NIM 推理微服務。現在，借助 NVIDIA AI Foundry，埃森哲能夠幫助客戶快速創建和部署自定義 Llama 3.1 模型，為他們的優先業務事項提供變革性的 AI 應用。

除此之外，數百家提供企業、數據和基礎設施平臺的 NVIDIA NIM 合作伙伴現在能夠將這些新的微服務集成到其 AI 解決方案中，從而為 NVIDIA 社區 500 多萬開發者和 1.9 萬家初創公司的生成式 AI 提供超強助力。

目前，企業可以通過 NVIDIA AI Enterprise 獲得 Llama 3.1 NIM 和 NeMo Retriever NIM 微服務的生產支持。NVIDIA 開發者計劃會員將很快能夠免費訪問 NIM 微服務，以在他們選擇的基礎設施上進行研究、開發和測試。