作者 |  Anirban Ghoshal

策劃 | 云昭 

出品 | 51CTO技術棧（微信號：blog51cto）

“Generative AI”可謂是re:Invent 2023的口號，不管是AWS推出了新的芯片、基礎模型、基于生成AI的應用程序構建服務Amazon Bedrock的更新，還是一款名為Amazon Q的新生成AI助手，支持向量數據庫和零ETL集成。

在上周的AWS re:Invent會議上，一切的焦點都集中在人工智能上，新的生成AI助手Amazon Q首次成為會議上的“明星”。但還有很多其他發布，激發了數據庫經理、數據科學家、數據工程師和開發人員的興趣，包括新的提取、轉換、加載（ETL）服務、新的成本優化中心，以及AWS基于云的開發工具（稱為Amazon CodeCatalyst）的企業定價層改進。以下是大會的七個看點。

1、為生成型AI提供豐富的基礎設施

AWS作為云服務供應商，自去年以來一直在增加基礎設施功能和芯片的投入，以支持具有增強能效的高性能計算，并宣布了其Graviton和Trainium芯片的最新迭代。

根據AWS的數據，Graviton4處理器比當前一代Graviton3處理器提供了高達30%的計算性能、50%的內核和75%的內存帶寬。

另一方面，Trainium 2的訓練速度是第一代Trainium芯片的四倍。在J今年的re:Invent，AWS還擴展了與英偉達的合作伙伴關系，包括對DGX Cloud的支持，一個名為Ceiba的新GPU項目，以及支持生成AI工作負載的新實例。

英偉達還分享了將其NeMo Retriever微服務集成到AWS的計劃，以幫助用戶開發聊天機器人等生成性人工智能工具。NeMo Retriever是一種生成型人工智能微服務，使企業能夠將自定義的大型語言模型（LLM）連接到企業數據，因此公司可以根據自己的數據生成適當的人工智能響應。

此外，AWS表示，它將成為第一家將英偉達GH200 Grace Hopper超級芯片帶到云端的云提供商。

2、Amazon Bedrock的新基礎模型

Bedrock中添加的更新型號包括Anthropic的Claude 2.1和Meta Llama 2 70B，這兩款產品都已上市。亞馬遜還將其專有的Titan Text Lite和Titan Text Express基礎模型添加到Bedrock中。此外，這家云服務提供商在人工智能應用程序構建服務中添加了一個預覽模型，即亞馬遜泰坦圖像生成器。

AWS還在Bedrock中發布了一項新功能，允許企業評估、比較和選擇適合其用例和業務需求的最佳基礎模型。

該公司表示，該功能在Amazon Bedrock上被稱為模型評估，目前正在預覽中，旨在簡化多項任務，如確定基準、設置評估工具和運行評估，并補充說，這節省了時間和成本。

3、Amazon SageMaker更新：支持生成式AI

為了幫助企業高效地訓練和部署大型語言模型，AWS在其亞馬遜SageMaker人工智能和機器學習服務中推出了兩種新產品——SageMaker HyperPod和SageMaker推理。

該公司表示，與手動模型訓練過程相比，HyperPod消除了為訓練模型構建和優化機器學習基礎設施所涉及的繁重任務，將訓練時間減少了40%，而手動模型訓練容易出現延遲、不必要的支出和其他復雜情況。

另一方面，SageMaker推理旨在幫助企業降低模型部署成本，減少模型響應的延遲。為了做到這一點，推理允許企業將多個模型部署到同一個云實例，以更好地利用底層加速器。

AWS還更新了針對商業分析師的低代碼機器學習平臺SageMaker Canvas。

AWS數據庫、分析和機器學習服務主管Swami Sivasubramanian表示，分析師可以使用自然語言在Canvas中準備數據，以生成機器學習模型。無代碼平臺支持來自Anthropic、Cohere和AI21實驗室的LLM。

SageMaker現在還具有模型評估功能，現在稱為SageMaker Clarify，可以從SageMaker Studio中訪問。

4、Amazon Q：萬物生成的AI助手

上周二，AWS首席執行官Adam Selipsky首次展示了這家云巨頭的re:Invent 2023會議的明星：Amazon Q，這是該公司對微軟GPT驅動的Copilot生成人工智能助手的回應。Amazon Q可供企業用于各種功能，包括開發應用程序、轉換代碼、生成商業智能、充當商業應用程序的生成AI助理，以及通過Amazon Connect服務幫助客戶服務代理。

5、Amazon Braket 計劃：保留量子計算

這家云服務提供商宣布了一項名為“Amazon Braket Direct”的新計劃，為研究人員提供量子計算機的直接私人訪問。該項目是AWS托管量子計算服務的一部分，名為Amazon Braket，Amazon Bracket Direct于2020年推出。

亞馬遜表示，它允許企業的研究人員在沒有任何等待時間的情況下私人訪問各種量子處理單元（QPU）的全部容量，還提供了從亞馬遜量子計算專家團隊獲得其工作負載專家指導的選項。

目前，Direct計劃支持保留IonQ Aria、QuEra Aquila和Rigetti Aspen-M-3量子計算機。IonQ的價格為每小時7000美元，QuEra Aquila的價格為2500美元。Aspen-M-3的價格略高，為每小時3000美元。

6、成本優化中心，幫助企業減少支出

re:Invent上宣布的更新包括一個新的AWS計費和成本管理功能，稱為AWS成本優化中心，使企業能夠輕松識別、過濾、匯總和量化AWS成本優化建議的節約。

據云服務提供商稱，新的Hub將AWS云財務管理（CFM）服務中的所有成本優化建議行動收集在一個地方，包括AWS成本資源管理器和AWS計算優化器。AWS補充道，它將特定于客戶的定價和折扣納入了這些建議中，并消除了重復的發現和節省，從而對企業的成本優化機會提供了一個綜合的視圖。

該功能可能有助于FinOps或基礎設施管理團隊獲得更多成本優化的可能性。

7、Zero-ETL, 向量數據庫和其他更新

AWS繼續努力實現數據倉庫服務的零ETL，宣布了與Amazon Aurora PostgreSQL、Amazon DynamoDB和Amazon RDS for MySQL的新的Amazon RedShift集成。

企業通常使用提取、轉換、加載（ETL）將來自多個源的數據集成到單個一致的數據存儲中，以便加載到數據倉庫中進行分析。

然而，大多數數據工程師聲稱，從不同來源轉換數據可能是一項困難而耗時的任務，因為該過程涉及到清理、過濾、重塑和匯總原始數據等步驟。AWS表示，另一個問題是為運行分析準備數據管道的團隊的維護成本增加。

相比之下，根據該公司的說法，新的零ETL集成消除了在Aurora PostgreSQL、DynamoDB、RDS for MySQL和RedShift之間執行ETL的需要，因為這些數據庫中的事務數據幾乎可以立即復制到RedShift中，并可以運行分析。

re:Invent的其他生成AI相關更新包括對Amazon Bedrock向量數據庫的更新支持。這些數據庫包括AmazonAurora和MongoDB。其他受支持的數據庫包括Pinecone、Redis Enterprise Cloud和Vector Engine for Amazon OpenSearch Serverless。該公司還在其基于云的開發工具中添加了一個新的企業定價層，Amazon CodeCatalyst。

參考鏈接：https://www.infoworld.com/article/3711385/aws-reinvent-2023-7-takeaways-from-the-big-annual-event.html