Hello folks，我是 Luga，今天我們來聊一下人工智能（AI）生態領域相關的底座技術 -  NVIDIA GPU Core。

近年來，如果大家使用過 NVIDIA 的 GPU，一定對“ GPU Core”有所耳聞。那么，這玩意 究竟是什么？

現代 NVIDIA GPU 的強大性能源于其內部精心設計的多類型核心架構，其中 CUDA cores、Tensor cores 和 Ray-Tracing cores 各司其職，共同推動 GPU 在計算性能、人工智能和圖形渲染等領域的跨越式發展。

一、CUDA Cores：并行計算的基石

CUDA cores（Compute Unified Device Architecture cores）是 NVIDIA GPU 中最基礎的處理單元，專門用于執行并行計算任務。其主要職責包括處理大規模的浮點運算和整數運算，尤其適合需要高吞吐量的計算場景。

GPU 內部的處理單元被稱為 CUDA 核心。CUDA 是“Compute Unified Device Architecture”（計算統一設備架構）的縮寫。這個術語旨在描述 GPU 的并行計算能力，以及允許我們訪問 GPU 中 NVIDIA CUDA 核心指令集的應用程序接口（API）。這些核心是 NVIDIA GPU 的基石，自 2006 年首次推出以來，已成為高性能計算領域不可或缺的重要組成部分。

CUDA 核心的設計特點是 “多線程并行執行”，能夠一次性運行數千甚至數百萬個線程。這種架構使 GPU 在以下任務中表現卓越：

• 圖像和視頻處理：通過對像素和幀進行并行處理，顯著提升渲染效率。
• 科學計算：例如粒子模擬、氣象預測等需要密集計算的領域。
• 實時物理計算：如游戲中的碰撞檢測、流體模擬等。

CUDA cores 核心優勢主要體現在如下幾點：

• 大規模并行性：CUDA cores 通常以成千上萬的數量存在，其核心數顯著高于傳統 CPU 核心。
• 高計算效率：通過簡化指令流水線，提高并行任務的執行速度。
• 廣泛的開發工具支持：NVIDIA 提供了完整的 CUDA 開發工具鏈，幫助開發者編寫高效的并行代碼。

CUDA cores 典型應用包括但不限于如下：

• 視頻轉碼（如 NVIDIA NVENC）：加速高分辨率視頻的編碼和解碼。
• 3D 渲染：在 Blender 或 Maya 等軟件中顯著提升渲染速度。
• 深度學習基礎運算：為復雜矩陣運算提供底層計算支持。

二、Tensor Cores：AI 核心驅動力

作為 NVIDIA GPU 中的第2大核心，Tensor cores  為深度學習模型訓練和推理任務專門設計的計算單元，首次引入于 Volta 架構（如 Tesla V100）。其核心特性是能夠在 張量運算（Tensor Operations）中表現出色，例如矩陣乘法和累加計算（Matrix Multiplication and Accumulation, MMA）。

相比傳統的 CUDA cores，Tensor cores 能夠以 混合精度（FP16/FP32 或更高精度）處理大規模矩陣運算，這顯著提升了深度學習任務的性能和效率。通常而言，Tensor cores 的性能優勢在于其專用性。例如，在矩陣計算任務中，其性能往往是 CUDA cores 的數倍，尤其是在處理 FP16 或 INT8 類型的高效計算時。

Tensor cores 核心優勢主要體現在如下幾點：

• 混合精度計算：通過在性能與精度之間找到平衡，Tensor cores 可實現 10 倍甚至更高的運算速度。
• 針對 AI 優化：專為神經網絡的訓練和推理任務設計。
• 低延遲高吞吐量：加速深度學習中占主導地位的線性代數運算。

Tensor cores 典型應用包括但不限于如下：

• 深度學習訓練：如神經網絡的前向傳播和反向傳播計算。
• 推理優化：在實時語音識別或圖像分類任務中顯著提升推理速度。
• 生成式 AI：支持像 GPT-4、DALL-E 這樣的生成模型加速計算。
• 大規模 AI 框架支持：TensorFlow、PyTorch 和 JAX 等深度學習框架已深度集成對 Tensor cores 的優化。

三、Ray-Tracing Cores：渲染技術的革命者

作為 NVIDIA GPU 最后一個核心，Ray-Tracing cores 是 NVIDIA 針對光線追蹤渲染技術專門設計的核心單元，首次引入于 Turing 架構（如 RTX 20 系列）。其主要任務是加速光線追蹤計算，即模擬光線在 3D 場景中的傳播和交互，以實現逼真的光影效果。

光線追蹤的關鍵任務：

• 光線與場景交互檢測（Ray-Object Intersection Detection）：快速判斷光線是否與場景中的幾何體相交。
• 路徑追蹤（Path Tracing）：模擬光線的多次反射和折射路徑，生成真實感光影效果。
• 動態光影渲染：支持實時生成動態場景中的光影變化。

Ray-Tracing cores 核心優勢主要體現在如下幾點：

• 硬件加速：相較于傳統的軟件光線追蹤，Ray-Tracing cores 能夠以更高效率完成復雜光線計算。
• 實時性能：在高分辨率游戲和虛擬現實場景中實現實時光線追蹤效果。
• 兼容性與擴展性：支持 NVIDIA 的 RTX 技術（如 DLSS）進一步優化性能。

Ray-Tracing cores 典型應用包括但不限于如下：

• 高端游戲：如《賽博朋克 2077》和《戰地 V》，提供真實的光影和反射效果。
• 電影特效：提升 CG 動畫渲染效率和視覺效果。
• 虛擬現實：增強 VR 場景中的沉浸感。

通常而言，在現代 NVIDIA GPU 工作機制下，盡管 CUDA cores、Tensor cores 和 Ray-Tracing cores 在功能上分工明確，但它們并非孤立運行，而是以互補和協同的方式共同完成任務。以下從硬件架構和應用場景兩方面，剖析三者之間的關系，具體可參考：

1. 硬件架構中的關系

• 共享基礎資源：三種核心都集成在 GPU 的 Streaming Multiprocessor (SM) 模塊中，SM 通過共享緩存、寄存器和內存接口，使得三者能夠高效協同工作。
• 多任務調度：CUDA cores 負責通用計算任務，而當涉及特定的深度學習推理或訓練時，任務會由 Tensor cores 加速執行。對于需要實時光線追蹤的場景，Ray-Tracing cores 會接管相關計算。
• 統一編程模型：NVIDIA 提供統一的 CUDA 編程框架，使開發者能夠靈活調配三種核心的資源。例如，開發者可以通過 CUDA 代碼調用 Tensor cores 的矩陣加速功能，或在光線追蹤算法中結合 CUDA cores 進行輔助計算。

2. 應用場景中的關系

三種核心的協同作用在實際應用中尤為明顯，它們通過分工合作提升了計算效率：

(1) 深度學習中的協同作用

Tensor cores 提供高效的矩陣計算，用于深度神經網絡訓練和推理。

CUDA cores 處理預處理、數據加載和其他非矩陣計算任務，為 Tensor cores 減輕負擔。

在某些生成式模型（如 GAN 和 Stable Diffusion）中，Ray-Tracing cores 可用于生成更真實的圖像效果。

(2) 游戲與圖形渲染中的協同作用

Ray-Tracing cores 處理復雜的光線追蹤運算，如反射、折射和全局光照。

CUDA cores 輔助執行像素著色、幾何計算和紋理映射等傳統渲染任務。

Tensor cores 加速 AI 驅動的渲染技術（如 NVIDIA DLSS），通過深度學習優化渲染質量和性能。

(3) 科學計算中的協同作用

CUDA cores 負責通用的數值計算和模擬任務。

Tensor cores 加速涉及矩陣運算的高性能計算任務，如氣候模擬和分子動力學仿真。

Ray-Tracing cores 可用于科學可視化中的光線追蹤渲染，生成高質量的三維圖像。

此外，三種核心的協同工作使得 NVIDIA GPU 能夠在多種應用場景中展現出卓越性能，其主要優勢包括：

(1) 性能最大化

不同核心各司其職，分擔不同計算任務，提高整體吞吐量。例如，在 AI 模型訓練中，Tensor cores 執行矩陣運算，CUDA cores 執行輔助任務，從而實現更快的訓練速度。

(2) 多功能性

三種核心的結合使得 GPU 不僅能夠勝任通用計算任務，還能處理 AI 推理和實時渲染等高度專業化任務，擴展了 GPU 的應用范圍。

(3) 節能與效率

通過為不同類型的任務分配最合適的硬件資源，GPU 的功耗得以優化。例如，Tensor cores 的設計使其能夠在較低的功耗下完成高效矩陣計算。

總而言之，CUDA cores、Tensor cores 和 Ray-Tracing cores 的分工明確卻又緊密協作，代表了現代 GPU 的三大計算支柱。CUDA cores 提供通用計算能力，Tensor cores 專注于 AI 加速，而 Ray-Tracing cores 為光線追蹤渲染提供支持。三者在硬件架構、任務協作和應用場景中形成了高效的協同關系，為深度學習、科學計算、圖形渲染等領域帶來了革命性突破。

未來，隨著任務復雜度的提升和計算需求的增長，三者的協同作用將進一步深化，推動 GPU 技術繼續引領高性能計算的前沿。

Happy Coding ~

Reference ：https://developer.nvidia.com/