破解內存瓶頸：如何通過內存池優化資源利用
想象一下，你經營著一家熱鬧的餐廳 ，用餐高峰期時，顧客們來來往往，服務員需要不斷地為新顧客安排座位，收拾離開顧客的餐桌。如果每次有新顧客到來，都要臨時去找可用的桌椅，不僅效率低下，還可能因為頻繁挪動和尋找造成餐廳的混亂，桌椅擺放雜亂無章。但要是餐廳提前準備了一個 “桌椅儲備區”，當有顧客需要時，直接從儲備區調配桌椅，顧客離開后再將桌椅放回儲備區，這樣是不是就能大大提高服務效率，讓餐廳運營更加順暢呢？
在計算機的世界里，內存就如同餐廳里的桌椅，是程序運行不可或缺的資源 。程序在運行過程中，會頻繁地進行內存的申請（就像為新顧客安排座位）和釋放（收拾離開顧客的餐桌）操作。傳統的內存分配方式，比如使用malloc、new等函數，每次申請內存時，都要與操作系統進行交互，這就好比每次為新顧客找桌椅都要去倉庫重新搬一套，過程繁瑣且耗時。而且，頻繁地申請和釋放內存，會導致內存空間變得碎片化，就像餐廳里的桌椅被隨意擺放，難以找到連續的大片可用空間，最終影響程序的性能 。
為了解決這些問題，內存池（Memory Pool）應運而生，它就像是餐廳的 “桌椅儲備區” 。內存池在程序啟動時，一次性向操作系統申請一大塊內存，然后將這塊內存劃分成多個小塊進行管理。當程序需要內存時，直接從內存池中獲取，而不是每次都向操作系統請求；當程序釋放內存時，也不是直接還給操作系統，而是歸還到內存池，以便后續再次使用。這樣一來，大大減少了與操作系統的交互次數，提高了內存分配和釋放的效率，同時也有效減少了內存碎片的產生，讓程序運行得更加高效、穩定 。
一、內存池簡介
1.1池化技術
池是在計算技術中經常使用的一種設計模式，其內涵在于：將程序中需要經常使用的核心資源先申請出來，放到一個池內，由程序自管理，這樣可以提高資源的利用率，也可以保證本程序占有的資源數量，經常使用的池化技術包括內存池，線程池，和連接池等，其中尤以內存池和線程池使用最多
1.2內存池
內存池是一種管理內存分配和釋放的技術。它通過預先分配一塊連續的內存空間，然后將其劃分成多個固定大小的小塊，稱為內存塊或內存頁。當需要分配內存時，從內存池中取出一個可用的內存塊，并在使用完成后將其標記為已用。而不是頻繁地向操作系統請求動態分配和釋放內存。
通過使用內存池，可以減少因頻繁進行動態內存分配和釋放而導致的性能開銷和碎片化問題。它特別適用于那些需要頻繁申請和釋放相同大小的對象的場景，如網絡服務器、數據庫系統等。通過優化了對象分配過程，并提供更高效的資源利用率，從而提升程序的性能和可伸縮性。內存池通常用于高性能的服務器程序、嵌入式系統和實時系統等場景中。
mempool_t是Linux內核提供的一種內存池實現，包含于<linux/mempool.h>頭文件中。mempool_t提供了一種簡單、高效的內存池管理方法，可以用于在內核模塊中管理預分配的內存塊。mempool_t支持對內存塊的分配、回收和管理，并提供了多種內存池算法以適應不同的應用場景。使用mempool_t可以顯著降低內存分配和釋放的成本，避免內存碎片的產生，提高內核模塊的性能和可靠性。
在 Linux 內核中，可以使用 kmem_cache_create()、kmem_cache_alloc() 和 kmem_cache_free() 函數來創建和使用內存池。以下是它們的詳細說明：
1.kmem_cache_create(): 用于創建內存池。
struct kmem_cache *kmem_cache_create(const char *name, size_t size, size_t align,
unsigned long flags, void (*ctor)(void *));參數說明：
- name: 內存池的名稱。
- size: 每個對象的大小。
- align: 對齊方式（通常設置為ARCH_KMALLOC_MINALIGN）。
- flags: 標志位，如GFP_KERNEL、GFP_ATOMIC等。
- ctor: 構造函數指針，用于初始化新分配的對象。
2.kmem_cache_alloc(): 用于從內存池中分配內存塊。
void *kmem_cache_alloc(struct kmem_cache *cache, gfp_t flags);參數說明：
- cache: 內存池結構體指針，通過 kmem_cache_create() 創建得到。
- flags: 分配內存時的標志位。
3.kmem_cache_free(): 用于將已分配的內存塊釋放回內存池中。
void kmem_cache_free(struct kmem_cache *cache, void *obj);參數說明：
- cache: 內存池結構體指針，通過 kmem_cache_create() 創建得到。
- obj: 要釋放的內存塊指針。
4.kmem_cache_init(): 在模塊加載時初始化內存池。
int kmem_cache_init(void);5.kmem_cache_destroy(): 在模塊卸載時銷毀內存池。
void kmem_cache_destroy(struct kmem_cache *cache);二、為什么吸引內存池？
2.1 內存碎片問題
造成堆利用率很低的一個主要原因就是內存碎片化。如果有未使用的存儲器，但是這塊存儲器不能用來滿足分配的請求，這時候就會產生內存碎片化問題。內存碎片化分為內部碎片和外部碎片。
內部碎片：是指一個已分配的塊比有效載荷大時發生的。(假設以前分配了10個大小的字節，現在只用了5個字節，則剩下的5個字節就會內碎片)。內部碎片的大小就是已經分配的塊的大小和他們的有效載荷之差的和。因此內部碎片取決于以前請求內存的模式和分配器實現(對齊的規則)的模式。
外部碎片：假設系統依次分配了16byte、8byte、16byte、4byte，還剩余8byte未分配。這時要分配一個24byte的空間，操作系統回收了一個上面的兩個16byte，總的剩余空間有40byte，但是卻不能分配出一個連續24byte的空間，這就是外碎片問題。
2.2申請效率問題
例如：我們上學家里給生活費一樣，假設一學期的生活費是6000塊。
- 方式1：開學時6000塊直接給你，自己保管，自己分配如何花。
- 方式2：每次要花錢時，聯系父母，父母轉錢。
同樣是6000塊錢，第一種方式的效率肯定更高，因為第二種方式跟父母的溝通交互成本太高了。
同樣的道理，程序就像是上學的我們，操作系統就像父母，頻繁申請內存的場景下，每次需要內存，都像系統申請效率必然有影響。
2.3常見內存池實現方案
- 固定大小緩沖池：固定大小緩沖池適用于頻繁分配和釋放固定大小對象的情況。
- dlmalloc：dlmalloc 是一個內存分配器，由Doug Lea從1987年開始編寫，目前最新版本為2.8.3，由于其高效率等特點被廣泛使用和研究。
- SGI STL內存分配器：SGI STL allocator 是目前設計最優秀的 C++ 內存分配器之一，其內部free_list[16] 數組負責管理從 8 bytes到128 bytes不同大小的內存塊（ chunk ），每一個內存塊都由連續的固定大?。?fixed size block ）的很多 chunk 組成，并用指針鏈表連接。
- Loki小對象分配器：Loki 分配器使用vector管理數組，可以指定 fixed size block 的大小。free blocks分布在一個連續的大內存塊中，free chunks 可以根據使用情況自動增長和減少合適的數目，避免內存分配得過多或者過少。
- Boost object_pool：可以根據用戶具體應用類的大小來分配內存塊，通過維護一個free nodes的鏈表來管理。可以自動增加nodes塊，初始32個nodes，每次增加都以兩倍數向system heap要內存塊。object_pool 管理的內存塊需要在其對象銷毀的時候才返還給 system heap 。
- ACE_Cached_Allocator 和 ACE_Free_List：ACE 框架中包含一個可以維護固定大小的內存塊的分配器，通過在 ACE_Cached_Allocator 中定義Free_list 鏈表來管理一個連續的大內存塊，內存塊中包含多個固定大小的未使用內存區塊（ free chunk），同時使用ACE_unbounded_Set維護已使用的chuncks 。
- TCMalloc：Google開源項目gperftools提供了內存池實現方案。TCMalloc替換了系統的malloc，更加底層優化，性能更好。
三、內存池核心原理
初始化階段：在程序啟動時，內存池首先要進行初始化 。這就好比開餐廳前要先規劃好桌椅儲備區的大小和布局。內存池會根據程序的需求，向操作系統申請一塊足夠大的連續內存空間 。申請到內存后，內存池會根據預先設定好的規則，把這塊大內存分割成多個大小相等或不等的小內存塊 。這些小內存塊會被組織成特定的數據結構，比如鏈表、位圖等，方便后續的管理和分配 。例如，我們可以用鏈表將這些小內存塊串聯起來，每個內存塊都包含指向下一個內存塊的指針，這樣就形成了一個內存塊鏈表，就像把倉庫里的小格子用通道連接起來，方便取用 。
內存分配階段：當程序需要分配內存時，會向內存池發出請求 。內存池會根據自身的分配策略，從已有的空閑內存塊中挑選一個合適的分配給程序 。如果是固定大小內存池，每個內存塊大小固定，分配過程就比較簡單，直接從鏈表頭部取出一個空閑內存塊即可 ，就像從儲備區最前面拿一套桌椅給顧客。如果是可變大小內存池，內存池則需要根據請求的內存大小，在內存塊鏈表中尋找一個大小合適的空閑內存塊 ，如果沒有正好合適的，可能會選擇一個稍大的內存塊，然后將其分割成所需大小和一個新的空閑內存塊 ，再把所需大小的內存塊分配出去 。在這個過程中，內存池還需要更新相關的數據結構，標記該內存塊已被使用 ，比如修改鏈表指針或者位圖中的標志位 。
內存釋放階段：當程序不再需要某個內存塊時，會將其釋放回內存池 。內存池接收到釋放的內存塊后，會將其重新標記為空閑狀態，并將其放回內存塊鏈表或相應的數據結構中 ，以便后續再次分配 。如果內存池采用的是鏈表結構，釋放的內存塊會被插入到鏈表的合適位置，可能是頭部，也可能是根據某種規則插入到鏈表中間 ，就像把顧客用完的桌椅放回儲備區合適的位置 。對于可變大小內存池，如果釋放的內存塊與相鄰的空閑內存塊相鄰，內存池還會將它們合并成一個更大的空閑內存塊 ，以減少內存碎片 ，就像把相鄰的空桌椅區域合并成一個更大的空區域 。
下面通過一段簡單的 C++ 代碼示例，來更直觀地感受內存池的工作過程：
#include <iostream>
#include <cstdlib>
// 定義內存塊結構體
struct MemoryBlock {
size_t size; // 內存塊大小
bool isFree; // 是否空閑
MemoryBlock* next; // 指向下一個內存塊的指針
};
// 定義內存池類
class MemoryPool {
public:
MemoryPool(size_t poolSize, size_t blockSize) : poolSize(poolSize), blockSize(blockSize) {
// 申請內存池空間
pool = static_cast<MemoryBlock*>(std::malloc(poolSize));
if (pool == nullptr) {
std::cerr << "內存池初始化失敗" << std::endl;
return;
}
// 初始化內存塊鏈表
MemoryBlock* current = pool;
for (size_t i = 0; i < poolSize / blockSize - 1; ++i) {
current->size = blockSize;
current->isFree = true;
current->next = current + 1;
current = current->next;
}
current->size = blockSize;
current->isFree = true;
current->next = nullptr;
freeList = pool; // 空閑鏈表頭指針指向第一個內存塊
}
~MemoryPool() {
std::free(pool);
}
// 分配內存
void* allocate() {
if (freeList == nullptr) {
std::cerr << "內存池已無空閑內存塊" << std::endl;
return nullptr;
}
MemoryBlock* allocatedBlock = freeList;
freeList = freeList->next;
allocatedBlock->isFree = false;
return allocatedBlock;
}
// 釋放內存
void deallocate(void* block) {
if (block == nullptr) {
return;
}
MemoryBlock* freedBlock = static_cast<MemoryBlock*>(block);
freedBlock->isFree = true;
freedBlock->next = freeList;
freeList = freedBlock;
}
private:
MemoryBlock* pool; // 內存池起始地址
MemoryBlock* freeList; // 空閑內存塊鏈表頭指針
size_t poolSize; // 內存池大小
size_t blockSize; // 每個內存塊大小
};
int main() {
MemoryPool pool(1024, 64); // 創建一個大小為1024字節，每個內存塊為64字節的內存池
void* block1 = pool.allocate(); // 分配內存塊
void* block2 = pool.allocate();
pool.deallocate(block1); // 釋放內存塊
void* block3 = pool.allocate();
return 0;
}在這段代碼中，MemoryPool 類實現了一個簡單的固定大小內存池 。在構造函數中，它向系統申請了一塊大小為 poolSize 的內存，并將其劃分為多個大小為 blockSize 的內存塊，通過鏈表將這些內存塊連接起來，構建了空閑內存塊鏈表 。allocate 方法從空閑鏈表中取出一個內存塊并標記為已使用，deallocate 方法則將釋放的內存塊重新加入空閑鏈表 。通過這個示例，我們可以清晰地看到內存池的初始化、分配和釋放過程 。
四、內存池設計：從理論到實踐
4.1為什么要使用內存池
- 提高性能：內存池可以預先分配一塊連續的物理內存空間，并將其劃分為多個大小相等的塊。這樣，在后續需要分配內存時，可以直接從緩存中獲取已經準備好的內存對象，而不需要每次都進行物理內存分配操作，從而提高了內存分配的效率。
- 減少碎片化：頻繁地進行小塊內存分配和釋放容易導致堆內存碎片化，使得可用的連續內存空間變少。而使用內存池可以減少碎片化問題，因為它在預先分配階段就已經將一大塊連續內存劃分成固定大小的小塊，并且通過循環利用來管理這些小塊。
- 簡化管理：使用內存池可以簡化對于小塊內存對象的管理。它提供了一個數據結構來緩沖已經分配好的內存對象，并跟蹤哪些是可用的、哪些是被占用的。這樣，在應用程序中只需調用相應的函數來申請和釋放內存對象即可，無需手動進行復雜的管理。
- 控制資源消耗：由于內存池提前申請一定數量的內存塊，并按需分配，可以有效地控制對系統資源的消耗。這對于一些具有嚴格資源限制的環境或嵌入式系統特別重要。
4.2工作原理
- 初始化：在內存池被創建時，需要預先分配一塊連續的物理內存空間。這個空間可以是從操作系統申請的大塊內存，也可以是來自其他資源的預留空間。
- 劃分內存塊：將初始化得到的內存空間劃分為大小相等的小塊（也稱為對象或節點）。每個小塊都有固定大小，并且可以容納一個特定類型的數據對象。
- 管理空閑鏈表：使用一個數據結構（通常是鏈表或數組）來管理已經分配和未分配的小塊。初始化時，所有小塊都會被鏈接成一個空閑鏈表。每當有代碼請求申請內存時，會從空閑鏈表中取出一個空閑的小塊供使用。
- 分配內存：當有代碼請求申請內存時，內存池會從空閑鏈表中獲取一個可用的小塊，并將其標記為已分配狀態。然后返回該小塊給調用方使用。
- 釋放內存：當不再需要某個已經分配的小塊時，調用方通過釋放函數將其返回給內存池。此時，該小塊會被標記為空閑狀態，并重新加入到空閑鏈表中以供下次使用。
- 擴展內存池（可選）：在某些情況下，如果內存池中的空閑小塊不夠用了，可以考慮擴展內存池的大小。這可能需要重新分配更多的物理內存空間，并將其劃分為新的小塊。
內存池的主要優勢在于可以避免動態分配內存時產生的內存碎片，同時也避免了重復調用內存分配器的開銷。由于內存塊是預先分配的，因此內存池的內存分配速度相對較快。
在Linux內核中，mempool_t通過使用kmem_cache_t來實現內存池。kmem_cache_t是一種內存高速緩存器，可以用于高效地分配預定義大小的內存塊。mempool_t在初始化時會創建一個kmem_cache_t對象，并分配一定數量的內存塊。當需要分配內存時，mempool_t從kmem_cache_t中獲取內存塊并返回。當不需要使用內存塊時，將其返回到kmem_cache_t中。
4.3內存池的演變
(1)最簡單的內存分配器
做一個鏈表指向空閑內存，分配就是取出一塊來，改寫鏈表，返回，釋放就是放回到鏈表里面，并做好歸并。注意做好標記和保護，避免二次釋放，還可以花點力氣在如何查找最適合大小的內存快的搜索上，減少內存碎片，有空你了還可以把鏈表換成伙伴算法。
- 優點： 實現簡單
- 缺點： 分配時搜索合適的內存塊效率低，釋放回歸內存后歸并消耗大，實際中不實用
- 。
(2)定長內存分配器
即實現一個 FreeList，每個 FreeList 用于分配固定大小的內存塊，比如用于分配 32字節對象的固定內存分配器，之類的。每個固定內存分配器里面有兩個鏈表，OpenList 用于存儲未分配的空閑對象，CloseList用于存儲已分配的內存對象，那么所謂的分配就是從 OpenList 中取出一個對象放到 CloseList 里并且返回給用戶，釋放又是從 CloseList 移回到 OpenList。分配時如果不夠，那么就需要增長 OpenList：申請一個大一點的內存塊，切割成比如 64 個相同大小的對象添加到 OpenList中。這個固定內存分配器回收的時候，統一把先前向系統申請的內存塊全部還給系統。
- 優點：簡單粗暴，分配和釋放的效率高，解決實際中特定場景下的問題有效。
- 缺點：功能單一，只能解決定長的內存需求，另外占著內存沒有釋放。
(3)哈希映射的FreeList 池
在定長分配器的基礎上，按照不同對象大小(8，16，32，64，128，256，512，1k…64K),構造十多個固定內存分配器，分配內存時根據要申請內存大小進行對齊然后查H表，決定到底由哪個分配器負責，分配后要在內存頭部的 header 處寫上 cookie，表示由該塊內存哪一個分配器分配的，這樣釋放時候你才能正確歸還。如果大于64K，則直接用系統的 malloc作為分配，如此以浪費內存為代價你得到了一個分配時間近似O(1)的內存分配器。這種內存池的缺點是假設某個 FreeList 如果高峰期占用了大量內存即使后面不用，也無法支援到其他內存不夠的 FreeList，達不到分配均衡的效果。
- 優點：這個本質是定長內存池的改進，分配和釋放的效率高。可以解決一定長度內的問題。
- 缺點：存在內碎片的問題，且將一塊大內存切小以后，申請大內存無法使用。多線程并發場景下，鎖競爭激烈，效率降低。
- 范例：sgi stl 六大組件中的空間配置器就是這種設計實現的。
(4)了解malloc底層原理
malloc優點：使用自由鏈表的數組，提高分配釋放效率；減少內存碎片，可以合并空閑的內存
malloc缺點：為了維護隱式/顯示鏈表需要維護一些信息，空間利用率不高；在多線程的情況下，會出現線程安全的問題，如果以加鎖的方式解決，會大大降低效率。
4.4內存池框架
現行內存池框架主要有以下三種：
- 伙伴算法：伙伴算法是把整塊內存分成小塊的做法，類似現實生活中的找零錢的做法，將內存分解成2的整數次冪的大小?；锇樗惴ù嬖谝粋€問題，回收內存需要兩個空閑空間連續且大小一致，所以不適合以字節為單位分配內存的情況，適用于以頁為單位分配內存的情況。
- slab機制：slab也是將內存分成2的整數次冪的大小，與伙伴算法的區別是slab提前分配好，而不是分配時再拆分，沒有就向上“借位”。slab適用于小空間分配的情況。tcmalloc、jemalloc是slab的變種。
- 粗放型設計：先給每個業務或連接分配一頁空間，當連接斷開或業務結束時釋放，這也是“粗放”的原因。這種方法適用于特定業務場景。
1）kmem_cache 內存池實現
#include <linux/slab.h>
struct my_struct {
int data;
};
struct kmem_cache *my_cache;
void init_my_pool(void) {
my_cache = kmem_cache_create("my_pool", sizeof(struct my_struct), 0, 0, NULL);
}
void destroy_my_pool(void) {
kmem_cache_destroy(my_cache);
}
struct my_struct *alloc_from_my_pool(void) {
return kmem_cache_alloc(my_cache, GFP_KERNEL);
}
void free_to_my_pool(struct my_struct *ptr) {
kmem_cache_free(my_cache, ptr);
}2）slab內存池實現：
#include <linux/slab.h>
struct my_struct {
int data;
};
struct kmem_cache *my_slab;
void init_my_pool(void) {
my_slab = kmem_cache_create("my_pool", sizeof(struct my_struct), 0, SLAB_HWCACHE_ALIGN, NULL);
}
void destroy_my_pool(void) {
kmem_cache_destroy(my_slab);
}
struct my_struct *alloc_from_my_pool(void) {
return kmalloc(sizeof(struct my_struct), GFP_KERNEL);
}
void free_to_my_pool(struct my_struct *ptr) {
kfree(ptr);
}3）slub內存池實現：
#include <linux/slab.h>
struct my_struct {
int data;
};
struct kmem_cache *my_slub;
void init_my_pool(void) {
my_slub = KMEM_CACHE(my_struct, SLUB_PANIC);
}
void destroy_my_pool(void) {
kmem_cache_destroy(my_slub);
}
struct my_struct *alloc_from_my_pool(void) {
return kmem_cache_alloc(my_slub, GFP_KERNEL);
}
void free_to_my_pool(struct my_struct *ptr) {
kmem_cache_free(my_slub, ptr);
}這些是粗放型設計的示例代碼，可根據具體需求進行調整。在使用這些內存池時，請確保正確地初始化和銷毀內存池，并使用適當的函數來分配和釋放內存塊。請注意，以上代碼僅為示例，實際使用時應根據需要進行適當的錯誤處理、邊界檢查等操作。
五、并發內存池
計劃實現一個內存池管理的類MemoryPool，它具有如下特性：
- 內存池的總大小自動增長。
- 內存池中內存片的大小固定。
- 支持線程安全。
- 在內存片被歸還之后，清除其中的內容。
- 兼容std::allocator。
因為內存池的內存片的大小是固定的，不涉及到需要匹配最合適大小的內存片，由于會頻繁的進行插入、移除的操作，但查找比較少，故選用鏈表數據結構來管理內存池中的內存片。
MemoryPool中有2個鏈表，它們都是雙向鏈表（設計成雙向鏈表主要是為了在移除指定元素時，能夠快速定位該元素的前后元素，從而在該元素被移除后，將其前后元素連接起來，保證鏈表的完整性）：
- data_element_ 記錄以及分配出去的內存片。
- free_element_ 記錄未被分配出去的內存片。
MemoryPool實現代碼
代碼中使用了std::mutex等C++11才支持的特性，所以需要編譯器最低支持C++11：
#ifndef PPX_BASE_MEMORY_POOL_H_
#define PPX_BASE_MEMORY_POOL_H_
#include <climits>
#include <cstddef>
#include <mutex>
namespace ppx {
namespace base {
template <typename T, size_t BlockSize = 4096, bool ZeroOnDeallocate = true>
class MemoryPool {
public:
/* Member types */
typedef T value_type;
typedef T* pointer;
typedef T& reference;
typedef const T* const_pointer;
typedef const T& const_reference;
typedef size_t size_type;
typedef ptrdiff_t difference_type;
typedef std::false_type propagate_on_container_copy_assignment;
typedef std::true_type propagate_on_container_move_assignment;
typedef std::true_type propagate_on_container_swap;
template <typename U> struct rebind {
typedef MemoryPool<U> other;
};
/* Member functions */
MemoryPool() noexcept;
MemoryPool(const MemoryPool& memoryPool) noexcept;
MemoryPool(MemoryPool&& memoryPool) noexcept;
template <class U> MemoryPool(const MemoryPool<U>& memoryPool) noexcept;
~MemoryPool() noexcept;
MemoryPool& operator=(const MemoryPool& memoryPool) = delete;
MemoryPool& operator=(MemoryPool&& memoryPool) noexcept;
pointer address(reference x) const noexcept;
const_pointer address(const_reference x) const noexcept;
// Can only allocate one object at a time. n and hint are ignored
pointer allocate(size_type n = 1, const_pointer hint = 0);
void deallocate(pointer p, size_type n = 1);
size_type max_size() const noexcept;
template <class U, class... Args> void construct(U* p, Args&&... args);
template <class U> void destroy(U* p);
template <class... Args> pointer newElement(Args&&... args);
void deleteElement(pointer p);
private:
struct Element_ {
Element_* pre;
Element_* next;
};
typedef char* data_pointer;
typedef Element_ element_type;
typedef Element_* element_pointer;
element_pointer data_element_;
element_pointer free_element_;
std::recursive_mutex m_;
size_type padPointer(data_pointer p, size_type align) const noexcept;
void allocateBlock();
static_assert(BlockSize >= 2 * sizeof(element_type), "BlockSize too small.");
};
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
inline typename MemoryPool<T, BlockSize, ZeroOnDeallocate>::size_type
MemoryPool<T, BlockSize, ZeroOnDeallocate>::padPointer(data_pointer p, size_type align)
const noexcept {
uintptr_t result = reinterpret_cast<uintptr_t>(p);
return ((align - result) % align);
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
MemoryPool<T, BlockSize, ZeroOnDeallocate>::MemoryPool()
noexcept {
data_element_ = nullptr;
free_element_ = nullptr;
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
MemoryPool<T, BlockSize, ZeroOnDeallocate>::MemoryPool(const MemoryPool& memoryPool)
noexcept :
MemoryPool() {
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
MemoryPool<T, BlockSize, ZeroOnDeallocate>::MemoryPool(MemoryPool&& memoryPool)
noexcept {
std::lock_guard<std::recursive_mutex> lock(m_);
data_element_ = memoryPool.data_element_;
memoryPool.data_element_ = nullptr;
free_element_ = memoryPool.free_element_;
memoryPool.free_element_ = nullptr;
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
template<class U>
MemoryPool<T, BlockSize, ZeroOnDeallocate>::MemoryPool(const MemoryPool<U>& memoryPool)
noexcept :
MemoryPool() {
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
MemoryPool<T, BlockSize, ZeroOnDeallocate>&
MemoryPool<T, BlockSize, ZeroOnDeallocate>::operator=(MemoryPool&& memoryPool)
noexcept {
std::lock_guard<std::recursive_mutex> lock(m_);
if (this != &memoryPool) {
std::swap(data_element_, memoryPool.data_element_);
std::swap(free_element_, memoryPool.free_element_);
}
return *this;
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
MemoryPool<T, BlockSize, ZeroOnDeallocate>::~MemoryPool()
noexcept {
std::lock_guard<std::recursive_mutex> lock(m_);
element_pointer curr = data_element_;
while (curr != nullptr) {
element_pointer prev = curr->next;
operator delete(reinterpret_cast<void*>(curr));
curr = prev;
}
curr = free_element_;
while (curr != nullptr) {
element_pointer prev = curr->next;
operator delete(reinterpret_cast<void*>(curr));
curr = prev;
}
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
inline typename MemoryPool<T, BlockSize, ZeroOnDeallocate>::pointer
MemoryPool<T, BlockSize, ZeroOnDeallocate>::address(reference x)
const noexcept {
return &x;
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
inline typename MemoryPool<T, BlockSize, ZeroOnDeallocate>::const_pointer
MemoryPool<T, BlockSize, ZeroOnDeallocate>::address(const_reference x)
const noexcept {
return &x;
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
void
MemoryPool<T, BlockSize, ZeroOnDeallocate>::allocateBlock() {
// Allocate space for the new block and store a pointer to the previous one
data_pointer new_block = reinterpret_cast<data_pointer> (operator new(BlockSize));
element_pointer new_ele_pointer = reinterpret_cast<element_pointer>(new_block);
new_ele_pointer->pre = nullptr;
new_ele_pointer->next = nullptr;
if (data_element_) {
data_element_->pre = new_ele_pointer;
}
new_ele_pointer->next = data_element_;
data_element_ = new_ele_pointer;
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
inline typename MemoryPool<T, BlockSize, ZeroOnDeallocate>::pointer
MemoryPool<T, BlockSize, ZeroOnDeallocate>::allocate(size_type n, const_pointer hint) {
std::lock_guard<std::recursive_mutex> lock(m_);
if (free_element_ != nullptr) {
data_pointer body =
reinterpret_cast<data_pointer>(reinterpret_cast<data_pointer>(free_element_) + sizeof(element_type));
size_type bodyPadding = padPointer(body, alignof(element_type));
pointer result = reinterpret_cast<pointer>(reinterpret_cast<data_pointer>(body + bodyPadding));
element_pointer tmp = free_element_;
free_element_ = free_element_->next;
if (free_element_)
free_element_->pre = nullptr;
tmp->next = data_element_;
if (data_element_)
data_element_->pre = tmp;
tmp->pre = nullptr;
data_element_ = tmp;
return result;
}
else {
allocateBlock();
data_pointer body =
reinterpret_cast<data_pointer>(reinterpret_cast<data_pointer>(data_element_) + sizeof(element_type));
size_type bodyPadding = padPointer(body, alignof(element_type));
pointer result = reinterpret_cast<pointer>(reinterpret_cast<data_pointer>(body + bodyPadding));
return result;
}
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
inline void
MemoryPool<T, BlockSize, ZeroOnDeallocate>::deallocate(pointer p, size_type n) {
std::lock_guard<std::recursive_mutex> lock(m_);
if (p != nullptr) {
element_pointer ele_p =
reinterpret_cast<element_pointer>(reinterpret_cast<data_pointer>(p) - sizeof(element_type));
if (ZeroOnDeallocate) {
memset(reinterpret_cast<data_pointer>(p), 0, BlockSize - sizeof(element_type));
}
if (ele_p->pre) {
ele_p->pre->next = ele_p->next;
}
if (ele_p->next) {
ele_p->next->pre = ele_p->pre;
}
if (ele_p->pre == nullptr) {
data_element_ = ele_p->next;
}
ele_p->pre = nullptr;
if (free_element_) {
ele_p->next = free_element_;
free_element_->pre = ele_p;
}
else {
ele_p->next = nullptr;
}
free_element_ = ele_p;
}
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
inline typename MemoryPool<T, BlockSize, ZeroOnDeallocate>::size_type
MemoryPool<T, BlockSize, ZeroOnDeallocate>::max_size()
const noexcept {
size_type maxBlocks = -1 / BlockSize;
return (BlockSize - sizeof(data_pointer)) / sizeof(element_type) * maxBlocks;
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
template <class U, class... Args>
inline void
MemoryPool<T, BlockSize, ZeroOnDeallocate>::construct(U* p, Args&&... args) {
new (p) U(std::forward<Args>(args)...);
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
template <class U>
inline void
MemoryPool<T, BlockSize, ZeroOnDeallocate>::destroy(U* p) {
p->~U();
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
template <class... Args>
inline typename MemoryPool<T, BlockSize, ZeroOnDeallocate>::pointer
MemoryPool<T, BlockSize, ZeroOnDeallocate>::newElement(Args&&... args) {
std::lock_guard<std::recursive_mutex> lock(m_);
pointer result = allocate();
construct<value_type>(result, std::forward<Args>(args)...);
return result;
}
template <typename T, size_t BlockSize, bool ZeroOnDeallocate>
inline void
MemoryPool<T, BlockSize, ZeroOnDeallocate>::deleteElement(pointer p) {
std::lock_guard<std::recursive_mutex> lock(m_);
if (p != nullptr) {
p->~value_type();
deallocate(p);
}
}
}
}
#endif // PPX_BASE_MEMORY_POOL_H_
使用示例：
#include <iostream>
#include <thread>
using namespace std;
class Apple {
public:
Apple() {
id_ = 0;
cout << "Apple()" << endl;
}
Apple(int id) {
id_ = id;
cout << "Apple(" << id_ << ")" << endl;
}
~Apple() {
cout << "~Apple()" << endl;
}
void SetId(int id) {
id_ = id;
}
int GetId() {
return id_;
}
private:
int id_;
};
void ThreadProc(ppx::base::MemoryPool<char> *mp) {
int i = 0;
while (i++ < 100000) {
char* p0 = (char*)mp->allocate();
char* p1 = (char*)mp->allocate();
mp->deallocate(p0);
char* p2 = (char*)mp->allocate();
mp->deallocate(p1);
mp->deallocate(p2);
}
}
int main()
{
ppx::base::MemoryPool<char> mp;
int i = 0;
while (i++ < 100000) {
char* p0 = (char*)mp.allocate();
char* p1 = (char*)mp.allocate();
mp.deallocate(p0);
char* p2 = (char*)mp.allocate();
mp.deallocate(p1);
mp.deallocate(p2);
}
std::thread th0(ThreadProc, &mp);
std::thread th1(ThreadProc, &mp);
std::thread th2(ThreadProc, &mp);
th0.join();
th1.join();
th2.join();
Apple *apple = nullptr;
{
ppx::base::MemoryPool<Apple> mp2;
apple = mp2.newElement(10);
int a = apple->GetId();
apple->SetId(10);
a = apple->GetId();
mp2.deleteElement(apple);
}
apple->SetId(12);
int b = -4 % 4;
int *a = nullptr;
{
ppx::base::MemoryPool<int, 18> mp3;
a = mp3.allocate();
*a = 100;
//mp3.deallocate(a);
int *b = mp3.allocate();
*b = 200;
//mp3.deallocate(b);
mp3.deallocate(a);
mp3.deallocate(b);
int *c = mp3.allocate();
*c = 300;
}
getchar();
return 0;
}六、手把手教你實現內存池
6.1前期準備要做好
在實現內存池之前，我們需要先明確所需的工具和技術 。編程語言方面，C 和 C++ 是常見的選擇，它們提供了對內存的直接操作能力，能夠很好地滿足內存池實現的需求 。如果你對 C 語言比較熟悉，那么可以使用 C 語言來實現內存池，其簡潔高效的特性適合對性能要求較高的場景 。如果你更傾向于面向對象的編程風格，C++ 則是一個不錯的選擇，它的類和模板機制可以讓代碼更加模塊化和通用 。
數據結構知識也是必不可少的 。鏈表、數組、哈希表等數據結構在內存池的實現中都有著廣泛的應用 。比如，我們可以用鏈表來管理空閑內存塊，每個內存塊作為鏈表的一個節點，這樣在分配和釋放內存時，只需要操作鏈表的指針，效率較高 。數組則可以用于存儲內存塊的相關信息，如內存塊的大小、狀態等 。哈希表可以用于快速查找特定大小的內存塊，提高內存分配的速度 。
開發環境的選擇也很重要 。常用的開發工具如 Visual Studio（Windows 平臺）、GCC（Linux 平臺）等都提供了豐富的功能和調試工具，能夠幫助我們高效地開發和調試內存池代碼 。在 Windows 平臺上，使用 Visual Studio 可以方便地進行代碼編輯、編譯和調試，它的集成開發環境（IDE）提供了智能代碼提示、語法檢查、斷點調試等功能，大大提高了開發效率 。在Linux平臺上，GCC是一款強大的編譯器，配合 GDB 調試工具，可以對內存池代碼進行深入的調試和分析 。
6.2代碼實現步步為營
下面，我們以 C++ 為例，逐步實現一個簡單的固定大小內存池 。
定義內存塊和內存池結構體：首先，我們需要定義內存塊和內存池的結構體 。內存塊結構體用于表示每個內存塊的信息，包括內存塊的大小、是否空閑以及指向下一個內存塊的指針 。內存池結構體則包含內存池的大小、每個內存塊的大小、空閑內存塊鏈表的頭指針等信息 。
#include <iostream>
#include <cstdlib>
// 定義內存塊結構體
struct MemoryBlock {
size_t size; // 內存塊大小
bool isFree; // 是否空閑
MemoryBlock* next; // 指向下一個內存塊的指針
};
// 定義內存池類
class MemoryPool {
public:
MemoryPool(size_t poolSize, size_t blockSize) : poolSize(poolSize), blockSize(blockSize) {
// 申請內存池空間
pool = static_cast<MemoryBlock*>(std::malloc(poolSize));
if (pool == nullptr) {
std::cerr << "內存池初始化失敗" << std::endl;
return;
}
// 初始化內存塊鏈表
MemoryBlock* current = pool;
for (size_t i = 0; i < poolSize / blockSize - 1; ++i) {
current->size = blockSize;
current->isFree = true;
current->next = current + 1;
current = current->next;
}
current->size = blockSize;
current->isFree = true;
current->next = nullptr;
freeList = pool; // 空閑鏈表頭指針指向第一個內存塊
}
~MemoryPool() {
std::free(pool);
}
// 分配內存
void* allocate() {
if (freeList == nullptr) {
std::cerr << "內存池已無空閑內存塊" << std::endl;
return nullptr;
}
MemoryBlock* allocatedBlock = freeList;
freeList = freeList->next;
allocatedBlock->isFree = false;
return allocatedBlock;
}
// 釋放內存
void deallocate(void* block) {
if (block == nullptr) {
return;
}
MemoryBlock* freedBlock = static_cast<MemoryBlock*>(block);
freedBlock->isFree = true;
freedBlock->next = freeList;
freeList = freedBlock;
}
private:
MemoryBlock* pool; // 內存池起始地址
MemoryBlock* freeList; // 空閑內存塊鏈表頭指針
size_t poolSize; // 內存池大小
size_t blockSize; // 每個內存塊大小
};初始化內存池：在內存池的構造函數中，我們向系統申請一塊大小為poolSize的內存，并將其劃分為多個大小為blockSize的內存塊 。然后，將這些內存塊通過鏈表連接起來，構建空閑內存塊鏈表 。
MemoryPool::MemoryPool(size_t poolSize, size_t blockSize) : poolSize(poolSize), blockSize(blockSize) {
// 申請內存池空間
pool = static_cast<MemoryBlock*>(std::malloc(poolSize));
if (pool == nullptr) {
std::cerr << "內存池初始化失敗" << std::endl;
return;
}
// 初始化內存塊鏈表
MemoryBlock* current = pool;
for (size_t i = 0; i < poolSize / blockSize - 1; ++i) {
current->size = blockSize;
current->isFree = true;
current->next = current + 1;
current = current->next;
}
current->size = blockSize;
current->isFree = true;
current->next = nullptr;
freeList = pool; // 空閑鏈表頭指針指向第一個內存塊
}分配內存：allocate方法用于從內存池中分配內存 。它首先檢查空閑鏈表是否為空，如果為空，則表示內存池已無空閑內存塊，返回nullptr 。否則，從空閑鏈表頭部取出一個內存塊，將其標記為已使用，并返回該內存塊的指針 。
void* MemoryPool::allocate() {
if (freeList == nullptr) {
std::cerr << "內存池已無空閑內存塊" << std::endl;
return nullptr;
}
MemoryBlock* allocatedBlock = freeList;
freeList = freeList->next;
allocatedBlock->isFree = false;
return allocatedBlock;
}釋放內存：deallocate方法用于將釋放的內存塊歸還到內存池 。它首先檢查傳入的指針是否為nullptr，如果是則直接返回 。然后，將釋放的內存塊標記為空閑，并將其插入到空閑鏈表的頭部 。
void MemoryPool::deallocate(void* block) {
if (block == nullptr) {
return;
}
MemoryBlock* freedBlock = static_cast<MemoryBlock*>(block);
freedBlock->isFree = true;
freedBlock->next = freeList;
freeList = freedBlock;
}6.3調試優化不能少
在實現內存池后，調試和優化是確保其性能和正確性的關鍵步驟 。調試內存池代碼時，可以使用調試工具，如 GDB（Linux 平臺）或 Visual Studio 的調試器（Windows 平臺） 。通過設置斷點，可以在代碼執行到特定位置時暫停，查看變量的值、內存狀態等信息，幫助我們找出潛在的問題 。例如，在分配和釋放內存的函數中設置斷點，可以觀察內存塊鏈表的變化，檢查是否存在內存泄漏或雙重釋放等問題 。
添加日志信息也是一種有效的調試方法 。在關鍵的代碼位置，如內存分配、釋放和內存池初始化等地方，添加日志語句，記錄相關信息，如分配的內存大小、釋放的內存地址等 。通過查看日志文件，我們可以了解內存池的運行情況，追蹤問題的發生過程 。比如，在每次分配內存時，記錄分配的內存塊地址和大小，這樣在出現問題時，可以根據日志快速定位到問題發生的位置 。
優化內存池性能可以從多個方面入手 。減少內存碎片是一個重要的優化方向 。對于可變大小內存池，可以采用更智能的內存塊合并算法，在釋放內存塊時，及時將相鄰的空閑內存塊合并成更大的內存塊，減少內存碎片的產生 。同時，優化分配算法也能提高分配效率 。例如，對于固定大小內存池，可以使用更高效的鏈表操作方法，減少查找空閑內存塊的時間 。在多線程環境下，還需要考慮線程安全問題，通過合理地使用鎖機制或無鎖數據結構，減少線程競爭，提高內存池在多線程環境下的性能 。
七、內存池應用場景
7.1高頻內存分配釋放場景
在高頻內存分配和釋放場景中，內存池的優勢尤為明顯 。以 Web 服務器為例，它需要處理大量的并發請求 。每個請求到來時，服務器都可能需要分配內存來存儲請求數據、解析結果等 。當請求處理完成后，又需要釋放這些內存 。如果使用傳統的內存分配方式，頻繁地調用malloc和free，不僅會增加系統開銷，還容易產生內存碎片，降低服務器的性能 。
而采用內存池技術，服務器可以在啟動時預先申請一塊足夠大的內存池 。當有請求到來時，直接從內存池中分配內存，請求處理結束后，將內存釋放回內存池 。這樣大大減少了內存分配和釋放的時間開銷，提高了服務器的響應速度 。據測試，在高并發情況下，使用內存池的 Web 服務器能夠處理的請求數量比不使用內存池時提升 30% 以上 ，響應時間也能縮短 20% 左右 ，有效提升了服務器的性能和用戶體驗 。
7.2實時系統
實時系統對時間的要求極為嚴格，內存分配必須在極短的時間內完成，否則可能會導致系統響應延遲，影響整個系統的實時性 。例如，航空航天領域的飛行控制系統，它需要實時處理各種傳感器數據，對飛機的飛行狀態進行監控和調整 。在這個過程中，會頻繁地進行內存分配和釋放操作，以存儲和處理傳感器數據 。
如果使用傳統的內存分配方式，由于其分配時間的不確定性，可能會導致飛行控制系統對某些關鍵數據的處理延遲，從而影響飛機的安全飛行 。而內存池可以預先分配好內存塊，當系統需要內存時，能夠在極短的時間內從內存池中獲取，保證了系統的實時性 。在飛行控制系統中應用內存池后，數據處理的平均延遲從原來的幾十毫秒降低到了幾毫秒以內 ，大大提高了系統的實時響應能力，保障了飛行安全 。
7.3嵌入式系統
嵌入式系統通常資源有限，內存空間寶貴 。而且，嵌入式設備往往需要長時間穩定運行，不能因為內存問題而出現故障 。比如智能手環、智能家居設備等嵌入式設備，它們的內存容量相對較小 。在運行過程中，如果頻繁地進行動態內存分配和釋放，很容易導致內存碎片的產生，使得有限的內存空間變得更加碎片化，最終可能導致系統無法分配到足夠的連續內存，出現內存不足的錯誤 。
內存池通過預先分配內存，并對內存塊進行有效的管理，可以減少內存碎片的產生，提高內存利用率 。在一款智能手環的開發中，引入內存池后，內存利用率提高了 25% 左右 ，系統的穩定性也得到了顯著提升，減少了因內存問題導致的設備死機和異常重啟現象 ，延長了設備的使用壽命 。
7.4游戲開發
在游戲開發中，游戲對象的創建和銷毀非常頻繁 。例如，在一款動作游戲中，會不斷地生成和銷毀各種游戲角色、子彈、道具等對象 。每個游戲對象的創建都需要分配內存來存儲其相關信息，銷毀時則需要釋放內存 。如果采用傳統的內存分配方式，頻繁的內存操作會消耗大量的時間，導致游戲運行不流暢，出現卡頓現象 ，嚴重影響玩家的游戲體驗 。
使用內存池可以有效地解決這個問題 。游戲開發者可以根據游戲對象的類型和大小，創建相應的內存池 。當需要創建游戲對象時，直接從對應的內存池中獲取內存，當游戲對象銷毀時，將內存歸還到內存池 。這樣不僅提高了內存分配和釋放的速度，還減少了內存碎片的產生 。在一款熱門的手機動作游戲中，使用內存池后，游戲的幀率從原來的平均 40 幀提升到了 60 幀以上 ，游戲運行更加流暢，畫面更加穩定，為玩家帶來了更好的游戲體驗 。
八、內存池避坑指南
在使用內存池的過程中，我們也需要注意一些潛在的問題，避免陷入 “坑” 中 。內存泄漏是一個常見的問題 。如果在內存釋放過程中出現錯誤，比如忘記將釋放的內存塊標記為空閑，或者在多線程環境下，釋放內存的操作被其他線程干擾，導致內存塊沒有正確歸還到內存池，就會造成內存泄漏 。為了避免內存泄漏，在編寫代碼時，要仔細檢查內存釋放的邏輯，確保每個分配的內存塊都能被正確釋放 ?？梢允褂弥悄苤羔樀裙ぞ邅磔o助內存管理，減少手動管理內存帶來的風險 。在多線程環境下，要確保內存釋放操作的線程安全，合理地使用鎖機制或無鎖數據結構 。
內存溢出也是需要關注的問題 。如果內存池的大小設置不合理，或者程序在運行過程中內存需求突然增大，超過了內存池的容量，就可能導致內存溢出 。為了防止內存溢出，在初始化內存池時，要根據程序的實際需求，合理地設置內存池的大小 ?？梢酝ㄟ^對程序進行性能測試和分析，預估內存使用量，從而確定合適的內存池大小 。同時，在程序運行過程中，可以實時監控內存池的使用情況，當發現內存池即將耗盡時，及時采取措施，如動態擴展內存池的大小 。
性能瓶頸也是可能遇到的問題之一 。雖然內存池的設計初衷是提高內存分配和釋放的效率，但如果設計或實現不當，反而可能導致性能瓶頸 。比如，分配算法選擇不合理，導致查找合適內存塊的時間過長；線程安全機制的實現過于復雜，增加了額外的開銷等 。為了避免性能瓶頸，在設計內存池時，要選擇合適的分配算法，根據程序的內存使用特點進行優化 。在多線程環境下，要合理地設計線程安全機制，減少鎖競爭和其他額外開銷 ?？梢酝ㄟ^性能測試工具，對內存池的性能進行分析和優化，找出潛在的性能瓶頸并加以解決 。
