CPU：別再拿我當(dāng)搬磚工！一個故事看懂零拷貝技術(shù)
數(shù)據(jù)搬運工
Hi，我是CPU一號車間的阿Q，有段日子沒見面了。
還記得上回說到咱們廠里用上了DMA技術(shù)（太慢不能忍！CPU又拿硬盤和網(wǎng)卡開刀了！）之后，我們總算解放了，再也不用奔波于網(wǎng)卡、硬盤與內(nèi)存之間搬運數(shù)據(jù)了。
前段時間，我到二號車間虎子那里去串門，發(fā)現(xiàn)他正忙的滿頭大汗。
“老哥，你這是接到什么任務(wù)了？看把你給你忙的”
虎子一看我過來，擦了擦頭上的汗說到：“我這是在搬運數(shù)據(jù)啊，剛剛搬完一批，累死我了”
我有些疑惑：“咱們現(xiàn)在不是有DMA技術(shù)了嗎，找外包DMA控制器搬運啊，你干嘛還親自上陣？”
“DMA是用于I/O外部設(shè)備與內(nèi)存之間搬運數(shù)據(jù)，我現(xiàn)在的任務(wù)是內(nèi)存之間的復(fù)制拷貝工作，這DMAC也幫不上什么忙啊，還不得我親自動手復(fù)制。”
我癟了癟嘴，“也是，但愿我不要接到這種任務(wù)”
“先不跟你聊了，又有活要干了”，虎子屁股還沒坐熱，又起身去忙了，我也起身準(zhǔn)備回去。
“我靠！怎么又要拷貝這批數(shù)據(jù)！”，我剛走兩步，就聽到虎子的吐槽。
我回過頭去問到：“咋了這是？”
“我剛才才把這份數(shù)據(jù)從內(nèi)核地址空間往用戶態(tài)地址空間拷貝了一次，這還沒喘口氣，又讓我再搬一次從用戶態(tài)再搬回內(nèi)核地址空間，太折騰我了吧！”
我拍了拍他的肩膀說到：“嗨，這沒辦法，咱們就是打工的，哪輪得到咱們挑挑揀揀啊，加油吧！”
我一邊給他打氣，一邊暗自祈禱別給我安排這種活，又累有沒有技術(shù)含量。
天有不測風(fēng)云，回到一號車間沒多久，我也攤上這種事了。老話說得好，真是怕什么來什么。
一開始我還能忍著，時間一久我就抑制不住心里的不滿了，還真是落在自己身上才知道痛。
數(shù)據(jù)的四次拷貝
第二天，我約上虎子去找操作系統(tǒng)內(nèi)存管理部門反應(yīng)這事。
內(nèi)存管理部門居然踢皮球，說這事不歸他們管，讓我們找I/O部門，沒辦法，我們又來到I/O部門反應(yīng)這事。
I/O部門的人聽完我們的抱怨，也很無奈：“兩位，實在不是我們故意戲耍你們。之前讓你們兩次搬運數(shù)據(jù)實在沒有辦法，這是上邊的應(yīng)用程序要這樣寫的。他們要把硬盤上的文件讀取出來，然后再通過網(wǎng)卡發(fā)送出去。這一讀一寫的不就要搬兩次嗎？”
- File.read(file, buf, len);
- Socket.send(socket, buf, len);
“硬盤？網(wǎng)卡？這，這，這我們不是有了DMA技術(shù)了嗎，正好解決了和他們的數(shù)據(jù)傳輸，干嘛還另外讓我們再在內(nèi)存之間復(fù)制來復(fù)制去呢？”，我問到。
對方看出了我們的疑惑，在旁邊的白板上畫了一張圖：
“你們看，數(shù)據(jù)從硬盤最終到網(wǎng)卡，因為有應(yīng)用程序的參與，他們需要先讀到他們在用戶空間的緩存區(qū)，再發(fā)送出去，這樣就總共有四次數(shù)據(jù)的傳輸。其中從硬盤到內(nèi)核空間和從內(nèi)核空間到網(wǎng)卡這兩個環(huán)節(jié)，DMAC可以幫你們搬運。不過剩下兩次的用戶空間和內(nèi)核空間的來回拷貝，這還得靠你們來搬運下啊”
“原來是這樣，唉，看來是沒辦法避免了，咱先回去吧”，虎子看完圖垂頭喪氣的說到。
我卻不愿放棄，想在這圖中找出可以優(yōu)化改進的地方。
“能不能讓數(shù)據(jù)不要去應(yīng)用程序那里，直接在內(nèi)核空間復(fù)制一次就好，我們就可以少搬運一次了？”，我拋出了一個問題。
“那怎么可能呢，他不讀上去，后面怎么發(fā)出去呢？不行不行”，I/O部門的人連連搖頭。
“還是可以發(fā)啊，你看像這樣···反正最后也是把數(shù)據(jù)從內(nèi)核空間交給網(wǎng)卡發(fā)，只是免去了數(shù)據(jù)去用戶空間白晃一圈的浪費”，我把他畫的圖改了一下，不肯放棄解釋到。
對方被我的話點醒了一般，眼珠左右轉(zhuǎn)動，反復(fù)思考。
片刻之后，回到：“還是不行，萬一人家要對讀取的文件數(shù)據(jù)進行修改，或者解密，那還是得讀到他的用戶空間緩存區(qū)才行”
我想了一下，這似乎沒辦法避免，說到：“那這種情況咱們就認(rèn)了，反正以我的經(jīng)驗來看，你說的這種情況不多。大部分情況下都是數(shù)據(jù)原封不動的從內(nèi)核到用戶空間，又從用戶空間回到內(nèi)核。”
I/O部門的人再也沒有什么說辭，點了點頭答應(yīng)了下來，說把我們的意見匯報到Linux帝國高層討論后才能做決定。我們就先回去等消息了。
零拷貝技術(shù)
不過后來工作太忙，遲遲沒有操作系統(tǒng)那邊的消息，慢慢的我們就把這事給淡忘了，直到前幾天······
“阿Q，聽說了嗎，最近Linux帝國新成立了一個公司，居然繞過我們CPU就能把數(shù)據(jù)從網(wǎng)卡寫入硬盤中”，虎子火急火燎的來找我。
“不可能啊，按照我們之前的方案，怎么說也得至少經(jīng)過我們拷貝一次吧”
“根本不用，他們號稱是零拷貝技術(shù)”
我們趕緊放下手里的工作，去打聽下究竟怎么回事。
原來，Linux帝國最近新推出了一個API，叫sendfile
- ssize_t sendfile(
- int out_fd,
- int in_fd,
- off_t *offset,
- size_t count
- );
只需要指定打開文件的描述符和要發(fā)送的網(wǎng)絡(luò)接口描述符，就直接實現(xiàn)了把文件通過網(wǎng)絡(luò)發(fā)出去。
我們再次來到了操作系統(tǒng)I/O部門，對方一看是我們，熱情的接待了我們。
“你們來的正好，我還沒來得及告訴你們呢。上次你們提的思路非常好，帝國高層非常重視，我一反應(yīng)上去，當(dāng)即就采納了你們的意見。這不你們估計也知道了，推出了新的API給應(yīng)用程序們使用，省去了數(shù)據(jù)白白去用戶空間轉(zhuǎn)一圈的開銷。一推出就大受歡迎，說起來還得感謝你們呢”
“原來是這樣，我說最近怎么搬運數(shù)據(jù)的工作少了不少。不過你們是怎么做到零拷貝的？”
I/O部門的人瞅了我們幾眼，得意的一笑，“帝國高層在討論你們的方案時，覺得還可以再進一步優(yōu)化，直接把從硬盤讀取到的數(shù)據(jù)緩沖區(qū)地址和長度給到網(wǎng)絡(luò)socket描述符，就不用你們再搬運一次數(shù)據(jù)，徹底解放你們，所以叫零拷貝啦！”
我倆連連點頭稱贊。
“還沒完呢！咱Linux帝國還把這一技術(shù)推廣到了文件數(shù)據(jù)復(fù)制上，增加了另一個API:splice，以后文件拷貝也可以減輕你們的負(fù)擔(dān)了”
- ssize_t splice(
- int fd_in,
- loff_t *off_in,
- int fd_out,
- loff_t *off_out,
- size_t len,
- unsigned int flags
- );
我倆回去之后，把這一消息告知了全廠，大家都高興壞了，原來各個車間都受苦久矣。
