新四季網

深入理解mmap0拷貝技術(細細閱讀3張圖帶你理解)

2023-05-30 20:05:22 1

零拷貝說白了,其實就是傳統 IO 的性能實在有點拉胯,所以搞出來一個零拷貝機制提升一下效率。 要了解零拷貝的話,首先得先了解一下傳統 IO 的執行流程,這裡舉個例子,通過傳統的 IO 進行網絡傳輸來傳輸一個文件。

相關參考

文章

盡情閱讀,技術進階,詳解mmap原理

一文帶你,徹底了解,零拷貝Zero-Copy技術

PS:相關學習文檔,後臺私信(Linux)

先上一張圖,這張圖就代表了傳統 IO 傳輸文件的流程。

讀取文件的時候,會從用戶態切換為內核態,同時基於 DMA 引擎將磁碟文件拷貝到內核緩衝區。

看到這裡,可能你就已經懵逼了,什麼是用戶態和內核態,什麼是 DMA 拷貝,我用大白話解釋一下: 首先用戶態其實就是 CPU 在執行你的代碼,而內核態呢,其實就是你沒有那個權限去操作硬體,所以只能交給系統去調用,這個時候就是內核態。

舉個例子,你的女朋友需要你修個電腦(醒醒,但凡有一粒花生米也不至於喝成這樣),我換個說法,假如你同班的女同學想讓你修個電腦,但是宿管阿姨不肯放你進女生宿舍,這個時候你就是用戶態,你不能進女生宿舍,所以你只能讓宿管阿姨(內核態)來幫你把電腦取出來。

那什麼是 DMA 拷貝呢,DMA(DirectMemoryAccess,直接內存存取)其實就是因為 CPU 老哥太累了,所以找了個小弟,就是 DMA 替他完成一部分的拷貝工作,這樣 CPU 就能去做其他事情了。

講完了內核態和用戶態還有 DMA 的大概意思,我們接著回到剛才的 IO 流程中,第一步我們將文件從磁碟文件讀到了用戶緩衝區,此時經歷了一次上下文切換和一次拷貝。

由內核態切換為用戶態,基於 CPU 把內核緩衝區的數據拷貝到用戶緩衝區。 調用 socket 的輸出流的 write 方法的話,此時會從用戶態切換到內核態,同時基於 CPU把用戶緩衝區裡的數據拷貝到 socket 緩衝區裡去,接著會有一個異步化的過程,基於 DMA 引擎從 Socket 緩衝區裡把數據拷貝到網絡協議引擎裡發送出去。

當 IO 操作完成之後,又從內核態切換為用戶態。

通過上面的步驟可以發現傳統的 IO 操作執行,有 4 次上下文的切換和 4 次拷貝,是不是很繁瑣。 零拷貝的話,一般有 mmap 和 sendFile 兩種,一個一個來說。

mmap

mmap 是一種內存映射技術,mmap 相比於傳統的 IO 來說,其實就是少了 1 次 CPU 拷貝而已,上圖。

傳統 IO 裡面從內核緩衝區到用戶緩衝區有一次 CPU 拷貝,從用戶緩衝區到 Socket 緩衝區又有一次 CPU 拷貝。

mmap 則一步到位,直接基於 CPU 將內核緩衝區的數據拷貝到了 Socket 緩衝區。

之所以能夠減少一次拷貝,就是因為 mmap 直接將磁碟文件數據映射到內核緩衝區,這個映射的過程是基於 DMA 拷貝的,同時用戶緩衝區是跟內核緩衝區共享一塊映射數據的,建立共享映射之後,就不需要從內核緩衝區拷貝到用戶緩衝區了。

雖然減少了一次拷貝,但是上下文切換的次數還是沒變。 RocketMQ 中就是使用的 mmap 來提升磁碟文件的讀寫性能。

sendFile

在 Linux 中,提供 sendFile 函數,實現了零拷貝,依舊是先上圖。

可以看到在圖中,已經沒有了用戶緩衝區,因為用戶緩衝區是在用戶空間的,所以沒有了用戶緩衝區也就意味著不需要上下文切換了,就省略了這一步的從內核態切換為用戶態。

同時也不需要基於 CPU 將內核緩衝區的數據拷貝到 Socket 緩衝區了,只需要從內核緩衝區拷貝一些 offset 和 length 到 Socket 緩衝區。

接著從內核態切換到用戶態,從內核緩衝區直接把數據拷貝到網絡協議引擎裡去;同時從 Socket 緩衝區裡拷貝一些 offset 和 length 到網絡協議引擎裡去,但是這個 offset 和 length 的量很少,幾乎可以忽略。

sendFile 整個過程只有兩次上下文切換和兩次 DMA 拷貝,很重要的一點是這裡完全不需要 CPU 來進行拷貝了,所以才叫做零拷貝,這裡的拷貝指的就是作業系統的層面。

那你肯定會問,那 mmap 裡面有一次 CPU 拷貝為啥也算零拷貝,只能說那不算是嚴格意義上的零拷貝,但是他確實是優化了普通 IO 的執行流程,就像老婆餅裡也沒有老婆嘛。 Kafka 和 Tomcat 內部使用就是 sendFile 這種零拷貝。

總結一下

傳統 IO 執行的話需要 4 次上下文切換(用戶態 -> 內核態 -> 用戶態 -> 內核態 -> 用戶態)和 4 次拷貝(磁碟文件 DMA 拷貝到內核緩衝區,內核緩衝區 CPU 拷貝到用戶緩衝區,用戶緩衝區 CPU 拷貝到 Socket 緩衝區,Socket 緩衝區 DMA 拷貝到協議引擎)。

mmap 將磁碟文件映射到內存,支持讀和寫,對內存的操作會反映在磁碟文件上,適合小數據量讀寫,需要 4 次上下文切換(用戶態 -> 內核態 -> 用戶態 -> 內核態 -> 用戶態)和3 次拷貝(磁碟文件DMA拷貝到內核緩衝區,內核緩衝區 CPU 拷貝到 Socket 緩衝區,Socket 緩衝區 DMA 拷貝到協議引擎)。

sendfile 是將讀到內核空間的數據,轉到 socket buffer,進行網絡發送,適合大文件傳輸,只需要 2 次上下文切換(用戶態 -> 內核態 -> 用戶態)和 2 次拷貝(磁碟文件 DMA 拷貝到內核緩衝區,內核緩衝區 DMA 拷貝到協議引擎)。

文章福利 Linux後端開發網絡底層原理知識學習提升,後臺私信(Linux)獲取,完善技術棧,內容知識點包括Linux,Nginx,ZeroMQ,MySQL,Redis,線程池,MongoDB,ZK,Linux內核,CDN,P2P,epoll,Docker,TCP/IP,協程,DPDK等等。

,
同类文章
葬禮的夢想

葬禮的夢想

夢見葬禮,我得到了這個夢想,五個要素的五個要素,水火只好,主要名字在外面,職業生涯良好,一切都應該對待他人治療誠意,由於小,吉利的冬天夢想,秋天的夢是不吉利的
找到手機是什麼意思?

找到手機是什麼意思?

找到手機是什麼意思?五次選舉的五個要素是兩名士兵的跡象。與他溝通很好。這是非常財富,它擅長運作,職業是仙人的標誌。單身男人有這個夢想,主要生活可以有人幫忙
我不怎麼想?

我不怎麼想?

我做了什麼意味著看到米飯烹飪?我得到了這個夢想,五線的主要土壤,但是Tu Ke水是錢的跡象,職業生涯更加真誠。他真誠地誠實。這是豐富的,這是夏瑞的巨星
夢想你的意思是什麼?

夢想你的意思是什麼?

你是什​​麼意思夢想的夢想?夢想,主要木材的五個要素,水的跡象,主營業務,主營業務,案子應該抓住魅力,不能疏忽,春天夢想的吉利夢想夏天的夢想不幸。詢問學者夢想
拯救夢想

拯救夢想

拯救夢想什麼意思?你夢想著拯救人嗎?拯救人們的夢想有一個現實,也有夢想的主觀想像力,請參閱週宮官方網站拯救人民夢想的詳細解釋。夢想著敵人被拯救出來
2022愛方向和生日是在[質量個性]中

2022愛方向和生日是在[質量個性]中

[救生員]有人說,在出生88天之前,胎兒已經知道哪天的出生,如何有優質的個性,將走在什麼樣的愛情之旅,將與生活生活有什么生活。今天
夢想切割剪裁

夢想切割剪裁

夢想切割剪裁什麼意思?你夢想切你的手是好的嗎?夢想切割手工切割手有一個真正的影響和反應,也有夢想的主觀想像力。請參閱官方網站夢想的細節,以削減手
夢想著親人死了

夢想著親人死了

夢想著親人死了什麼意思?你夢想夢想你的親人死嗎?夢想有一個現實的影響和反應,還有夢想的主觀想像力,請參閱夢想世界夢想死亡的親屬的詳細解釋
夢想搶劫

夢想搶劫

夢想搶劫什麼意思?你夢想搶劫嗎?夢想著搶劫有一個現實的影響和反應,也有夢想的主觀想像力,請參閱週恭吉夢官方網站的詳細解釋。夢想搶劫
夢想缺乏缺乏紊亂

夢想缺乏缺乏紊亂

夢想缺乏缺乏紊亂什麼意思?你夢想缺乏異常藥物嗎?夢想缺乏現實世界的影響和現實,還有夢想的主觀想像,請看官方網站的夢想組織缺乏異常藥物。我覺得有些東西缺失了