動態內存管理
內存管理的目標是提供一種方法,為實現各種目的而在各個用戶之間實現內存共享。內存管理方法應該實現以下兩個功能:
最小化管理內存所需的時間?
最大化用于一般應用的可用內存(最小化管理開銷)?
內存管理實際上是一種關于權衡的零和游戲。您可以開發一種使用少量內存進行管理的算法,但是要花費更多時間來管理可用內存。也可以開發一個算法來有效地管理內存,但卻要使用更多的內存。最終,特定應用程序的需求將促使對這種權衡作出選擇。
每個內存管理器都使用了一種基于堆的分配策略。在這種方法中,大塊內存(稱為?堆)用來為用戶定義的目的提供內存。當用戶需要一塊內存時,就請求給自己分配一定大小的內存。堆管理器會查看可用內存的情況(使用特定算法)并返回一塊內存。搜索過程中使用的一些算法有?first-fit(在堆中搜索到的第一個滿足請求的內存塊)和?best-fit(使用堆中滿足請求的最合適的內存塊)。當用戶使用完內存后,就將內存返回給堆。
這種基于堆的分配策略的根本問題是碎片(fragmentation)。當內存塊被分配后,它們會以不同的順序在不同的時間返回。這樣會在堆中留下一些洞,需要花一些時間才能有效地管理空閑內存。這種算法通常具有較高的內存使用效率(分配需要的內存),但是卻需要花費更多時間來對堆進行管理。
另外一種方法稱為?buddy memory allocation,是一種更快的內存分配技術,它將內存劃分為 2 的冪次方個分區,并使用 best-fit 方法來分配內存請求。當用戶釋放內存時,就會檢查 buddy 塊,查看其相鄰的內存塊是否也已經被釋放。如果是的話,將合并內存塊以最小化內存碎片。這個算法的時間效率更高,但是由于使用 best-fit 方法的緣故,會產生內存浪費。
本文將著重介紹 Linux 內核的內存管理,尤其是?slab 分配提供的機制。
slab 緩存
Linux 所使用的 slab 分配器的基礎是 Jeff Bonwick 為 SunOS 操作系統首次引入的一種算法。Jeff 的分配器是圍繞對象緩存進行的。在內核中,會為有限的對象集(例如文件描述符和其他常見結構)分配大量內存。Jeff 發現對內核中普通對象進行初始化所需的時間超過了對其進行分配和釋放所需的時間。因此他的結論是不應該將內存釋放回一個全局的內存池,而是將內存保持為針對特定目而初始化的狀態。例如,如果內存被分配給了一個互斥鎖,那么只需在為互斥鎖首次分配內存時執行一次互斥鎖初始化函數(mutex_init)即可。后續的內存分配不需要執行這個初始化函數,因為從上次釋放和調用析構之后,它已經處于所需的狀態中了。
Linux slab 分配器使用了這種思想和其他一些思想來構建一個在空間和時間上都具有高效性的內存分配器。
圖 1 給出了 slab 結構的高層組織結構。在最高層是?cache_chain,這是一個 slab 緩存的鏈接列表。這對于 best-fit 算法非常有用,可以用來查找最適合所需要的分配大小的緩存(遍歷列表)。cache_chain?的每個元素都是一個?kmem_cache?結構的引用(稱為一個?cache)。它定義了一個要管理的給定大小的對象池。
圖 1. slab 分配器的主要結構
每個緩存都包含了一個?slabs?列表,這是一段連續的內存塊(通常都是頁面)。存在 3 種 slab:
slabs_full
完全分配的 slab?
slabs_partial
部分分配的 slab?
slabs_empty
空 slab,或者沒有對象被分配?
注意?slabs_empty?列表中的 slab 是進行回收(reaping)的主要備選對象。正是通過此過程,slab 所使用的內存被返回給操作系統供其他用戶使用。
slab 列表中的每個 slab 都是一個連續的內存塊(一個或多個連續頁),它們被劃分成一個個對象。這些對象是從特定緩存中進行分配和釋放的基本元素。注意 slab 是 slab 分配器進行操作的最小分配單位,因此如果需要對 slab 進行擴展,這也就是所擴展的最小值。通常來說,每個 slab 被分配為多個對象。
由于對象是從 slab 中進行分配和釋放的,因此單個 slab 可以在 slab 列表之間進行移動。例如,當一個 slab 中的所有對象都被使用完時,就從?slabs_partial?列表中移動到?slabs_full?列表中。當一個 slab 完全被分配并且有對象被釋放后,就從?slabs_full?列表中移動到?slabs_partial?列表中。當所有對象都被釋放之后,就從?slabs_partial?列表移動到?slabs_empty?列表中。
slab 背后的動機
與傳統的內存管理模式相比, slab 緩存分配器提供了很多優點。首先,內核通常依賴于對小對象的分配,它們會在系統生命周期內進行無數次分配。slab 緩存分配器通過對類似大小的對象進行緩存而提供這種功能,從而避免了常見的碎片問題。slab 分配器還支持通用對象的初始化,從而避免了為同一目而對一個對象重復進行初始化。最后,slab 分配器還可以支持硬件緩存對齊和著色,這允許不同緩存中的對象占用相同的緩存行,從而提高緩存的利用率并獲得更好的性能。
API 函數
現在來看一下能夠創建新 slab 緩存、向緩存中增加內存、銷毀緩存的應用程序接口(API)以及 slab 中對對象進行分配和釋放操作的函數。
第一個步驟是創建 slab 緩存結構,您可以將其靜態創建為:
struct struct kmem_cache *my_cachep;
slab 緩存的 Linux 源代碼?
您可以在 ./linux/mm/slab.c 中找到 slab 緩存的源代碼。?kmem_cache?結構也是在 ./linux/mm/slab.c 中定義的。本文著重討論 2.6.21 Linux 內核中的當前實現。?
然后其他 slab 緩存函數將使用該引用進行創建、刪除、分配等操作。kmem_cache?結構包含了每個中央處理器單元(CPU)的數據、一組可調整的(可以通過 proc 文件系統訪問)參數、統計信息和管理 slab 緩存所必須的元素。
kmem_cache_create
內核函數?kmem_cache_create?用來創建一個新緩存。這通常是在內核初始化時執行的,或者在首次加載內核模塊時執行。其原型定義如下:
struct kmem_cache *kmem_cache_create( const char *name, size_t size, size_t align, unsigned long flags; void (*ctor)(void*, struct kmem_cache *, unsigned long), void (*dtor)(void*, struct kmem_cache *, unsigned long));
name?參數定義了緩存名稱,proc 文件系統(在 /proc/slabinfo 中)使用它標識這個緩存。?size?參數指定了為這個緩存創建的對象的大小,?align?參數定義了每個對象必需的對齊。?flags?參數指定了為緩存啟用的選項。這些標志如表 1 所示。
表 1. kmem_cache_create 的部分選項(在 flags 參數中指定)
選項
說明
SLAB_RED_ZONE在對象頭、尾插入標志,用來支持對緩沖區溢出的檢查。SLAB_POISON使用一種己知模式填充 slab,允許對緩存中的對象進行監視(對象屬對象所有,不過可以在外部進行修改)。SLAB_HWCACHE_ALIGN指定緩存對象必須與硬件緩存行對齊。
ctor?和?dtor?參數定義了一個可選的對象構造器和析構器。構造器和析構器是用戶提供的回調函數。當從緩存中分配新對象時,可以通過構造器進行初始化。
在創建緩存之后,?kmem_cache_create?函數會返回對它的引用。注意這個函數并沒有向緩存分配任何內存。相反,在試圖從緩存(最初為空)分配對象時,refill?操作將內存分配給它。當所有對象都被使用掉時,也可以通過相同的操作向緩存添加內存。
kmem_cache_destroy
內核函數?kmem_cache_destroy?用來銷毀緩存。這個調用是由內核模塊在被卸載時執行的。在調用這個函數時,緩存必須為空。
void kmem_cache_destroy( struct kmem_cache *cachep );
kmem_cache_alloc
要從一個命名的緩存中分配一個對象,可以使用?kmem_cache_alloc?函數。調用者提供了從中分配對象的緩存以及一組標志:
void kmem_cache_alloc( struct kmem_cache *cachep, gfp_t flags );
這個函數從緩存中返回一個對象。注意如果緩存目前為空,那么這個函數就會調用?cache_alloc_refill?向緩存中增加內存。?kmem_cache_alloc?的 flags 選項與?kmalloc?的 flags 選項相同。表 2 給出了標志選項的部分列表。
表 2. kmem_cache_alloc 和 kmalloc 內核函數的標志選項
標志
說明
GFP_USER為用戶分配內存(這個調用可能會睡眠)。GFP_KERNEL從內核 RAM 中分配內存(這個調用可能會睡眠)。GFP_ATOMIC使該調用強制處于非睡眠狀態(對中斷處理程序非常有用)。GFP_HIGHUSER從高端內存中分配內存。
NUMA 的 slab 分配?
對于 NUMA(Non-Uniform Memory Access)架構來說,對某個特定節點的分配函數是?kmem_cache_alloc_node。?
kmem_cache_zalloc
內核函數?kmem_cache_zalloc?與?kmem_cache_alloc?類似,只不過它對對象執行?memset?操作,用來在將對象返回調用者之前對其進行清除操作。
NUMA 的 slab 分配?
對于 NUMA(Non-Uniform Memory Access)架構來說,對某個特定節點的分配函數是?kmem_cache_alloc_node。
kmem_cache_free
要將一個對象釋放回 slab,可以使用?kmem_cache_free。調用者提供了緩存引用和要釋放的對象。
void kmem_cache_free( struct kmem_cache *cachep, void *objp );
kmalloc 和 kfree
內核中最常用的內存管理函數是?kmalloc?和?kfree?函數。這兩個函數的原型如下:
void *kmalloc( size_t size, int flags );void kfree( const void *objp );
注意在?kmalloc?中,惟一兩個參數是要分配的對象的大小和一組標志(請參看?表 2?中的部分列表)。但是?kmalloc?和?kfree?使用了類似于前面定義的函數的 slab 緩存。kmalloc?沒有為要從中分配對象的某個 slab 緩存命名,而是循環遍歷可用緩存來查找可以滿足大小限制的緩存。找到之后,就(使用?__kmem_cache_alloc)分配一個對象。要使用?kfree?釋放對象,從中分配對象的緩存可以通過調用?virt_to_cache?確定。這個函數會返回一個緩存引用,然后在?__cache_free?調用中使用該引用釋放對象。
通用對象分配?
在 slab 源代碼中,提供了一個名為?kmem_find_general_cachep?的函數,可執行緩存搜索,即用來查找最適合所需對象大小的 slab 緩存。
其他函數
slab 緩存 API 還提供了其他一些非常有用的函數。?kmem_cache_size?函數會返回這個緩存所管理的對象的大小。您也可以通過調用?kmem_cache_name?來檢索給定緩存的名稱(在創建緩存時定義)。緩存可以通過釋放其中的空閑 slab 進行收縮。這可以通過調用?kmem_cache_shrink?實現。注意這個操作(稱為回收)是由內核定期自動執行的(通過?kswapd)。
unsigned int kmem_cache_size( struct kmem_cache *cachep );const char *kmem_cache_name( struct kmem_cache *cachep );int kmem_cache_shrink( struct kmem_cache *cachep );
通用對象分配?
在 slab 源代碼中,提供了一個名為?kmem_find_general_cachep?的函數,可執行緩存搜索,即用來查找最適合所需對象大小的 slab 緩存。
slab 緩存的示例用法
下面的代碼片斷展示了創建新 slab 緩存、從緩存中分配和釋放對象然后銷毀緩存的過程。首先,必須要定義一個?kmem_cache?對象,然后對其進行初始化(請參看清單 1)。這個特定的緩存包含 32 字節的對象,并且是硬件緩存對齊的(由標志參數?SLAB_HWCACHE_ALIGN?定義)。
清單 1. 創建新 slab 緩存
static struct kmem_cache *my_cachep;static void init_my_cache( void ){ my_cachep = kmem_cache_create( "my_cache", /* Name */ 32, /* Object Size */ 0, /* Alignment */ SLAB_HWCACHE_ALIGN, /* Flags */ NULL, NULL ); /* Constructor/Deconstructor */ return;}
使用所分配的 slab 緩存,您現在可以從中分配一個對象了。清單 2 給出了一個從緩存中分配和釋放對象的例子。它還展示了兩個其他函數的用法。
清單 2. 分配和釋放對象
int slab_test( void ){ void *object; printk( "Cache name is %s/n", kmem_cache_name( my_cachep ) ); printk( "Cache object size is %d/n", kmem_cache_size( my_cachep ) ); object = kmem_cache_alloc( my_cachep, GFP_KERNEL ); if (object) { kmem_cache_free( my_cachep, object ); } return 0;}
最后,清單 3 演示了 slab 緩存的銷毀。調用者必須確保在執行銷毀操作過程中,不要從緩存中分配對象。
清單 3. 銷毀 slab 緩存
static void remove_my_cache( void ){ if (my_cachep) kmem_cache_destroy( my_cachep ); return;}
SLOB 分配器
對于小型的嵌入式系統來說,存在一個 slab 模擬層,名為 SLOB。這個 slab 的替代品在小型嵌入式 Linux 系統中具有優勢,但是即使它保存了 512KB 內存,依然存在碎片和難于擴展的問題。在禁用?CONFIG_SLAB?時,內核會回到這個 SLOB 分配器中。
結束語
slab 緩存分配器的源代碼實際上是 Linux 內核中可讀性較好的一部分。除了函數調用的間接性之外,源代碼也非常直觀,總的來說,具有很好的注釋。如果您希望了解更多有關 slab 緩存分配器的內容,建議您從源代碼開始,因為它是有關這種機制的最新文檔。 下面的?參考資料?一節提供了介紹 slab 緩存分配器的參考資料,但是不幸的是就目前的 2.6 實現來說,這些文檔都已經過時了。
?
評論
查看更多