直接記憶體回收中的等待隊列

在直接記憶體回收過程中，有可能會造成當前需要分配記憶體的進程被加入一個等待隊列，當整個node的空閑頁數量滿足要求時，由kswapd喚醒它重新獲取記憶體。這個等待隊列頭就是node結點描述符pgdat中的pfmemalloc_wait。如果當前進程加入到了這個等待隊列中，那麼進程就不會進行直接記憶體回收， ...

在直接記憶體回收過程中，有可能會造成當前需要分配記憶體的進程被加入一個等待隊列，當整個node的空閑頁數量滿足要求時，由kswapd喚醒它重新獲取記憶體。這個等待隊列頭就是node結點描述符pgdat中的pfmemalloc_wait。如果當前進程加入到了pgdat->pfmemalloc_wait這個等待隊列中，那麼進程就不會進行直接記憶體回收，而是由kswapd喚醒後直接進行記憶體分配。

直接記憶體回收執行路徑是：

__alloc_pages_slowpath() -> __alloc_pages_direct_reclaim() -> __perform_reclaim() -> try_to_free_pages() -> do_try_to_free_pages() -> shrink_zones() -> shrink_zone()

在__alloc_pages_slowpath()中可能喚醒了所有node的kswapd內核線程，也可能沒有喚醒，每個node的kswapd是否在__alloc_pages_slowpath()中被喚醒有兩個條件：

分配標誌中沒有__GFP_NO_KSWAPD，只有在透明大頁的分配過程中會有這個標誌。
node中有至少一個zone的空閑頁框沒有達到空閑頁框數量 >= high閥值 + 1 << order + 保留記憶體，或者有至少一個zone需要進行記憶體壓縮，這兩種情況node的kswapd都會被喚醒。

而在kswapd中會對node中每一個不平衡的zone進行記憶體回收，直到所有zone都滿足 zone分配頁框後剩餘的頁框數量 > 此zone的high閥值 + 此zone保留的頁框數量。kswapd就會停止記憶體回收，然後喚醒在等待隊列的進程。

之後進程由於記憶體不足，對zonelist進行直接回收時，會調用到try_to_free_pages()，在這個函數內，決定了進程是否加入到node結點的pgdat->pfmemalloc_wait這個等待隊列中，如下：

unsigned long try_to_free_pages(struct zonelist *zonelist, int order,
                gfp_t gfp_mask, nodemask_t *nodemask)
{
    unsigned long nr_reclaimed;
    struct scan_control sc = {
        /* 打算回收32個頁框 */
        .nr_to_reclaim = SWAP_CLUSTER_MAX,
        .gfp_mask = (gfp_mask = memalloc_noio_flags(gfp_mask)),
        /* 本次記憶體分配的order值 */
        .order = order,
        /* 允許進行回收的node掩碼 */
        .nodemask = nodemask,
        /* 優先順序為預設的12 */
        .priority = DEF_PRIORITY,
        /* 與/proc/sys/vm/laptop_mode文件有關
         * laptop_mode為0，則允許進行回寫操作，即使允許回寫，直接記憶體回收也不能對臟文件頁進行回寫
         * 不過允許回寫時，可以對非文件頁進行回寫
         */
        .may_writepage = !laptop_mode,
        /* 允許進行unmap操作 */
        .may_unmap = 1,
        /* 允許進行非文件頁的操作 */
        .may_swap = 1,
    };

    /*
     * Do not enter reclaim if fatal signal was delivered while throttled.
     * 1 is returned so that the page allocator does not OOM kill at this
     * point.
     */
    /* 當zonelist中獲取到的第一個node平衡，則返回，如果獲取到的第一個node不平衡，則將當前進程加入到pgdat->pfmemalloc_wait這個等待隊列中 
     * 這個等待隊列會在kswapd進行記憶體回收時，如果讓node平衡了，則會喚醒這個等待隊列中的進程
     * 判斷node平衡的標準:
     * 此node的ZONE_DMA和ZONE_NORMAL的總共空閑頁框數量 是否大於 此node的ZONE_DMA和ZONE_NORMAL的平均min閥值數量，大於則說明node平衡
     * 加入pgdat->pfmemalloc_wait的情況
     * 1.如果分配標誌禁止了文件系統操作，則將要進行記憶體回收的進程設置為TASK_INTERRUPTIBLE狀態，然後加入到node的pgdat->pfmemalloc_wait，並且會設置超時時間為1s 
     * 2.如果分配標誌沒有禁止了文件系統操作，則將要進行記憶體回收的進程加入到node的pgdat->pfmemalloc_wait，並設置為TASK_KILLABLE狀態，表示允許 TASK_UNINTERRUPTIBLE 響應致命信號的狀態 
     * 返回真，表示此進程加入過pgdat->pfmemalloc_wait等待隊列，並且已經被喚醒
     * 返回假，表示此進程沒有加入過pgdat->pfmemalloc_wait等待隊列
     */
    if (throttle_direct_reclaim(gfp_mask, zonelist, nodemask))
        return 1;

    trace_mm_vmscan_direct_reclaim_begin(order,
                sc.may_writepage,
                gfp_mask);

    /* 進行記憶體回收，有三種情況到這裡 
     * 1.當前進程為內核線程
     * 2.最優node是平衡的，當前進程沒有加入到pgdat->pfmemalloc_wait中
     * 3.當前進程接收到了kill信號
     */
    nr_reclaimed = do_try_to_free_pages(zonelist, &sc);

    trace_mm_vmscan_direct_reclaim_end(nr_reclaimed);

    return nr_reclaimed;
}

主要通過throttle_direct_reclaim()函數判斷是否加入到pgdat->pfmemalloc_wait等待隊列中，主要看此函數：

/* 當zonelist中第一個node平衡，則返回，如果node不平衡，則將當前進程加入到pgdat->pfmemalloc_wait這個等待隊列中 
 * 這個等待隊列會在kswapd進行記憶體回收時，如果讓node平衡了，則會喚醒這個等待隊列中的進程
 * 判斷node平衡的標準:
 * 此node的ZONE_DMA和ZONE_NORMAL的總共空閑頁框數量 是否大於 此node的ZONE_DMA和ZONE_NORMAL的平均min閥值數量，大於則說明node平衡
 * 加入pgdat->pfmemalloc_wait的情況
 * 1.如果分配標誌禁止了文件系統操作，則將要進行記憶體回收的進程設置為TASK_INTERRUPTIBLE狀態，然後加入到node的pgdat->pfmemalloc_wait，並且會設置超時時間為1s 
 * 2.如果分配標誌沒有禁止了文件系統操作，則將要進行記憶體回收的進程加入到node的pgdat->pfmemalloc_wait，並設置為TASK_KILLABLE狀態，表示允許 TASK_UNINTERRUPTIBLE 響應致命信號的狀態 
 */
static bool throttle_direct_reclaim(gfp_t gfp_mask, struct zonelist *zonelist,
                    nodemask_t *nodemask)
{
    struct zoneref *z;
    struct zone *zone;
    pg_data_t *pgdat = NULL;

    /* 如果標記了PF_KTHREAD，表示此進程是一個內核線程，則不會往下執行 */
    if (current->flags & PF_KTHREAD)
        goto out;

    /* 此進程已經接收到了kill信號，準備要被殺掉了 */
    if (fatal_signal_pending(current))
        goto out;

    /* 遍歷zonelist，但是裡面只會在獲取到第一個pgdat時就跳出 */
    for_each_zone_zonelist_nodemask(zone, z, zonelist,
                    gfp_mask, nodemask) {

        /* 只遍歷ZONE_NORMAL和ZONE_DMA區 */
        if (zone_idx(zone) > ZONE_NORMAL)
            continue;

        /* 獲取zone對應的node */
        pgdat = zone->zone_pgdat;
        /* 判斷node是否平衡，如果平衡，則返回真
         * 如果不平衡，如果此node的kswapd沒有被喚醒，則喚醒，並且這裡喚醒kswapd只會對ZONE_NORMAL以下的zone進行記憶體回收
         * node是否平衡的判斷標準是:
         * 此node的ZONE_DMA和ZONE_NORMAL的總共空閑頁框數量 是否大於 此node的ZONE_DMA和ZONE_NORMAL的平均min閥值數量，大於則說明node平衡
         */
        if (pfmemalloc_watermark_ok(pgdat))
            goto out;
        break;
    }

    if (!pgdat)
        goto out;

    count_vm_event(PGSCAN_DIRECT_THROTTLE);

    if (!(gfp_mask & __GFP_FS)) {
        /* 如果分配標誌禁止了文件系統操作，則將要進行記憶體回收的進程設置為TASK_INTERRUPTIBLE狀態，然後加入到node的pgdat->pfmemalloc_wait，並且會設置超時時間為1s 
         * 1.pfmemalloc_watermark_ok(pgdat)為真時被喚醒，而1s沒超時，返回剩餘timeout(jiffies)
         * 2.睡眠超過1s時會喚醒，而pfmemalloc_watermark_ok(pgdat)此時為真，返回1
         * 3.睡眠超過1s時會喚醒，而pfmemalloc_watermark_ok(pgdat)此時為假，返回0
         * 4.接收到信號被喚醒，返回-ERESTARTSYS
         */
        wait_event_interruptible_timeout(pgdat->pfmemalloc_wait,
            pfmemalloc_watermark_ok(pgdat), HZ);

        goto check_pending;
    }

    /* Throttle until kswapd wakes the process */
    /* 如果分配標誌沒有禁止了文件系統操作，則將要進行記憶體回收的進程加入到node的pgdat->pfmemalloc_wait，並設置為TASK_KILLABLE狀態，表示允許 TASK_UNINTERRUPTIBLE 響應致命信號的狀態 
     * 這些進程在兩種情況下被喚醒
     * 1.pfmemalloc_watermark_ok(pgdat)為真時
     * 2.接收到致命信號時
     */
    wait_event_killable(zone->zone_pgdat->pfmemalloc_wait,
        pfmemalloc_watermark_ok(pgdat));

check_pending:
    /* 如果加入到了pgdat->pfmemalloc_wait後被喚醒，就會執行到這 */
    
    /* 喚醒後再次檢查當前進程是否接受到了kill信號，準備退出 */
    if (fatal_signal_pending(current))
        return true;

out:
    return false;
}

　有四點需要註意：

當前進程已經接收到kill信號，則不會將其加入到pgdat->pfmemalloc_wait中。
只獲取第一個node，也就是當前進程最希望從此node中分配到記憶體。
判斷一個node是否平衡的條件是：此node的ZONE_NORMAL和ZONE_DMA兩個區的空閑頁框數量 > 此node的ZONE_NORMAL和ZONE_DMA兩個區的平均min閥值。如果不平衡，則加入到pgdat->pfmemalloc_wait等待隊列中，如果平衡，則直接返回，並由當前進程自己進行直接記憶體回收。
如果當前進程分配記憶體時使用的標誌沒有__GFP_FS，則加入pgdat->pfmemalloc_wait中會有一個超時限制，為1s。並且加入後的狀態是TASK_INTERRUPTABLE。
其他情況的進程加入到pgdat->pfmemalloc_wait中沒有超時限制，並且狀態是TASK_KILLABLE。

如果進程加入到了node的pgdat->pfmemalloc_wait等待隊列中。在此node的kswapd進行記憶體回收後，會通過再次判斷此node是否平衡來喚醒這些進程，如果node平衡，則喚醒這些進程，否則不喚醒。實際上，不喚醒也說明瞭node沒有平衡，kswapd還是會繼續進行記憶體回收，最後kswapd實在沒辦法讓node達到平衡水平下，會在kswapd睡眠前，將這些進程全部進行喚醒。