Linux虛擬化KVM-Qemu分析之中斷虛擬化
本文轉載自微信公眾號「 LoyenWang」，作者 LoyenWang。轉載本文請聯系 LoyenWang公眾號。
背景
- Read the fucking source code! --By 魯迅
- A picture is worth a thousand words. --By 高爾基
說明：
- KVM版本：5.9.1
- QEMU版本：5.0.0
- 工具：Source Insight 3.5， Visio
- 文章同步在博客園：https://www.cnblogs.com/LoyenWang/
1. 概述
本文會將ARM GICv2中斷虛擬化的總體框架和流程講清楚，這個曾經困擾我好幾天的問題在被捋清的那一刻，讓我有點每有會意，欣然忘食的感覺。
在講述中斷虛擬化之前，我們應該對中斷的作用與處理流程有個大致的了解：
- 中斷是處理器用于異步處理外圍設備請求的一種機制;
- 外設通過硬件管腳連接在中斷控制器上，并通過電信號向中斷控制器發送請求;
- 中斷控制器將外設的中斷請求路由到CPU上;
- CPU(以ARM為例)進行模式切換(切換到IRQ/FIQ)，保存Context后，根據外設的中斷號去查找系統中已經注冊好的Handler進行處理，處理完成后再將Context進行恢復，接著之前打斷的執行流繼續move on;
- 中斷的作用不局限于外設的處理，系統的調度，SMP核間交互等，都離不開中斷;
中斷虛擬化，將從中斷信號產生到路由到vCPU的角度來展開，包含以下三種情況：
- 物理設備產生中斷信號，路由到vCPU;
- 虛擬外設產生中斷信號，路由到vCPU;
- Guest OS中CPU之間產生中斷信號(IPI中斷);
本文將圍繞ARM-GICv2來描述，因此也不會涉及到MSI以及ITS等特性，帶著問題出發吧。
2. VGIC
- 在講中斷虛擬化之前，有必要先講一下ARMv8中Hypervisor的架構，因為涉及到不同的Exception Level的切換;
- 在我閱讀源代碼時，根據代碼去匹配某篇Paper中的理論時，出現了一些理解偏差，曾一度困擾了我好幾天;
- Non-VHE
- Linux ARM架構的Hypervisor在引入時，采用的是左圖中的系統架構，以便能充分利用Linux現有的機制，比如scheduler等;
- KVM/ARM的實現采用了split模式，分成Highvisor和Lowvisor，這樣可以充分利用ARM處理器不同模式的好處，比如，Highvisor可以利用Linux Kernel的現有機制，而Lowvisor又可以利用Hyp Mode的特權。此外，帶來的好處還包含了不需要大量修改Linux內核的代碼，這個在剛引入的時候是更容易被社區所接受的;
- Lowvisor有三個關鍵功能：1)對不同的執行Context進行隔離與保護，比如VM之間不會相互影響;2)提供Guest和Host的相互切換，也就是所謂的world switch;3)提供一個虛擬化trap handler，用于處理trap到Hypervisor的中斷和異常;
VHE
- VHE: Virtualization Host Extensions，用于支持Host OS運行在EL2上，Hypervisor和Host OS都運行在EL2，可以減少Context切換帶來的開銷;
- 目前Cortex-A55, Cortex-A75, Cortex-A76支持VHE，其中VHE的控制是通過HCR_EL2寄存器的操作來實現的;
再補充一個知識點：
- Host如果運行在EL1時，可以通過HVC(Hypervisor Call)指令，主動trap到EL2中，從而由Hypervisor來接管;
- Guest OS可以配置成當有中斷或異常時trap到EL2中，在中斷或異常產生時，trap到EL2中，從而由Hypervisor來接管;
- EL2可以通過eret指令，退回到EL1;
本文的討論基于Non-VHE系統。
2.1 GIC虛擬化支持
GICv2硬件支持虛擬化，來一張舊圖：
先看一下物理GIC的功能模塊：
- GIC分成兩部分：Distributor和CPU Interfaces，Distributor和CPU Interfaces都是通過MMIO的方式來進行訪問;
- Distributor用于配置GIC，比如中斷的enable與disable，SMP中的IPI中斷、CPU affinity，優先級處理等;
- CPU Interfaces用于連接CPU，進行中斷的ACK(Acknowledge)以及EOI(End-Of-Interrupt)信號處理等，比如當CPU收到中斷信號時，會通過CPU Interfaces進行ACK回應，并且在處理完中斷后寫入EOI寄存器，而在寫EOI之前將不再收到該中斷;
簡化圖如下：
GICv2，提供了硬件上的虛擬化支持，也就是虛擬GIC(VGIC)，從而中斷的接收不需要通過Hypervisor來軟件模擬：
- 針對每個vCPU，VGIC引入了VGIC CPU Interfaces和對應的Hypervisor控制接口;
- 可以通過寫Hypervisor控制接口中的LR(List Register)寄存器來產生虛擬中斷，VGIC CPU Interface會將虛擬中斷信號送入到Guest中;
- VGIC CPU Interface支持ACK和EOI，因此這些操作也不需要trap到Hypervisor中來通過軟件進行模擬，也減少了CPU接收中斷的overhead;
- Distributor仍然需要trap到Hypervisor中來進行軟件模擬，比如，當某個vCPU需要發送虛擬IPI到另一個vCPU時，此時是需要Distributor來輔助完成功能的，這個過程就需要trap到Hypervisor;
2.2 虛擬中斷產生流程
本文開始提到的三種中斷信號源，如下圖所示：
- ①：物理外設產生虛擬中斷流程：
- 外設中斷信號(Hypervisor已經將其配置成虛擬中斷)到達GIC;
- GIC Distributor將該物理IRQ發送至CPU;
- CPU trap到Hyp模式，此時將會退出Guest OS的運行，并返回到Host OS;
- Host OS將響應該物理中斷，也就是Host OS驅動響應外設中斷信號;
- Hypervisor往List Register寫入虛擬中斷，Virtual CPU interface將virtual irq信號發送至vCPU;
- CPU將處理該異常，Guest OS會從Virtual CPU Interface讀取中斷狀態進行響應;
- ②：虛擬外設產生虛擬中斷流程：
Qemu模擬外設，通過irqfd來觸發Hypervisor進行中斷注入;
Hypervisor往List Register寫入虛擬中斷，Virtual CPU interface將virtual irq信號發送至vCPU;
CPU將處理該異常，Guest OS會從Virtual CPU Interface讀取中斷狀態進行響應;
- ③：vCPU IPI中斷流程：
Guest OS訪問Virtual Distributor，觸發異常，trap到Hypervisor;
Hypervisor進行IO異常響應，并最終將虛擬中斷寫入到List Register中，Virtual CPU interface將virtual irq信號發送至vCPU;
CPU將處理該異常，Guest OS會從Virtual CPU Interface讀取中斷狀態進行響應;
上述描述的流程，實際中需要和虛擬外設去交互，包括虛擬外設框架(比如VFIO)等，而本文只是從中斷的角度來分析，省去了外設部分。
理論部分講完了，下邊就開始從源碼中去印證理論了。
3. 軟件實現流程
3.1 VGIC初始化
- kvm_init為總入口，進入vgic_v2_probe函數，完成GICv2的初始化操作，此處還會跟GICV2內核中的驅動交互，去獲取gic_kvm_info信息，主要包括基地址信息等，便于后續操作中去進行配置操作;
- 從藍色部分的函數調用可以看出，初始化完成后，會注冊一個kvm_device_ops的操作函數集，以便響應用戶層的ioctl操作;
- 用戶層調用ioctl(vm_fd, KVM_CREATE_DEVICE, 0)，最終將調用vgic_create函數，完成VGIC設備的創建，在該創建函數中也會注冊kvm_device_fops操作函數集，用于設備屬性的設置和獲取;
- 用戶層通過ioctl(dev_fd, KVM_SET_DEVICE_ATTR, 0)/ioctl(dev_fd, KVM_GET_DEVICE_ATTR, 0)來進行屬性的設置和獲取，最終也會調用vgic_v2_set_attr/vgic_v2_get_attr，以便完成對VGIC的設置;
3.2 物理外設產生中斷
假設你已經看過之前CPU的虛擬化文章了，按照慣例，先上圖：
- 先來一個先決條件：HCR_EL2.IMO設置為1，所有的IRQ都將trap到Hyp模式，因此，當Guest OS運行在vCPU上時，物理外設觸發中斷信號時，此時將切換到EL2，然后執行el1_irq;
- 在Host中，當用戶態通過KVM_RUN控制vCPU運行時，在kvm_call_hyp_ret將觸發Exception Level的切換，切換到Hyp模式并調用__kvm_vcpu_run_nvhe，在該函數中__guest_enter將切換到Guest OS的context，并最終通過eret返回到EL1，Guest OS正式開始運行;
- 中斷觸發后el1_irq將執行__guest_exit，這個過程將進行Context切換，也就是跳轉到Host切入Guest的那個點，恢復Host的執行。注意了，這里邊有個點很迷惑，el1_irq和__guest_exit的執行都是在EL2中，而Host在EL1執行，之前我一直沒有找到eret來進行Exception Level的切換，最終發現原來是kvm_call_hyp_ret調用時，去異常向量表中找到對應的執行函數，實際會調用do_el2_call，在該函數中完成了Exception Level的切換，最終回到了EL1;
- 切回到Host中時，當local_irq_enable打開中斷后，物理pending的中斷就可以被Host歡快的響應了;
那虛擬中斷是什么時候注入的呢?沒錯，圖中的kvm_vgic_flush_hwstate會將虛擬中斷注入，并且在__guest_enter切換回Guest OS時進行響應：
- vgic_cpu結構體中的ap_list_head鏈表用于存放Active和Pending狀態的中斷，這也就是命名為ap_list_head的原因;
- kvm_vgic_flush_hwstate函數會遍歷ap_list_head中的中斷信息，并填入到vgic_lr數組中，最終會通過vgic_restore_state函數將數組中的內容更新到GIC的硬件中，也就完成了中斷的注入了，當__guest_enter執行后，切換到Guest OS，便可以響應虛擬中斷了;
- 當從Guest OS退出后，此時需要調用kvm_vgic_sync_hwstate，這個操作相當于kvm_vgic_flush_hwstate的逆操作，將硬件信息進行保存，并對短期內不會處理的中斷進行剔除;
3.3 虛擬外設產生中斷
- irqfd提供了一種機制用于注入虛擬中斷，而這個中斷源可以來自虛擬外設;
- irqfd是基于eventfd的機制來實現的，用于用戶態與內核態，以及內核態之間的事件通知;
- 事件源可以是虛擬設備，比如VFIO框架等，這個模塊還沒有去深入了解過，不敢妄言，后續系列會跟進;
軟件流程如下圖：
- 初始化的操作包括兩部分：1)設置Routing entry(【a】vgic_init初始化的時候創建默認的entry;【b】：用戶層通過KVM_SET_GSI_ROUTING來設置);2)設置irqfd;
- 初始化設置完成后，系統可以隨時響應事件觸發了，當事件源觸發時，將調度到irqfd_inject函數;
- irqfd_inject函數完成虛擬中斷的注入操作，在該函數中會去回調set函數，而set函數是在Routing entry初始化的時候設置好的;
- 實際的注入操作在vgic_irqfd_set_irq函數中完成;
- kvm_vcpu_kick函數，將Guest OS切回到Host OS，中斷注入后再切回到Guest OS就可以響應了;
3.4 vCPU IPI
- Host對VGIC的Distributor進行了模擬，當Guest嘗試訪問VGIC Distributor時，將觸發異常操作，trap到Hyp模式;
- Hypervisor對異常進行處理，完成寫入操作，并最終切回到Guest OS進行響應;
- 簡單來說，Hypervisor就是要對中斷進行管理，沒錯，就是這么強勢;
軟件流程如下：
- 上層調用ioctl(vcpu_fd, KVM_RUN, 0)時，最終將調用到vgic_register_dist_iodev函數，該函數完成的作用就是將VGIC的Distributor注冊為IO設備，以便給Guest OS來進行訪問;
- vgic_register_dist_iodev分為兩個功能模塊：1)初始化struct vgic_registers_region結構體字段和操作函數集;2)注冊為MMIO總線設備;
- struct vgic_registers_region定義好了不同的寄存器區域，以及相應的讀寫函數，vgic_v2_dist_registers數組最終會提供給dispach_mmio_read/dispach_mmio_write函數來查詢與調用;
- 當Guest OS訪問Distributor時，觸發IO異常并切換回Host進行處理，io_mem_abort會根據總線的類型(MMIO)去查找到對應的讀寫函數進行操作，也就是圖中對應的dispatch_mmio_read/dispach_mmio_write函數，最終完成寄存器區域的讀寫;
- 圖中的紅色線，代表的就是異常處理的執行流，可以說是一目了然了。
耗時耗力耗心血的一篇文章終于寫完了，ARMv8 GICv2中斷虛擬化的總體框架和流程應該算是理順了，全網相關主題的文章并不多，希望能給帶來點幫助吧。
如果對你有用的話，在看，分享，打賞三連吧。
參考
《arm_gic_architecture_specification》《ARM_Interrupt_Virtualization》《VM-Support-ARM》《CoreLink GIC-400 Generic Interrupt Controller》《Virtualization in the ARM Architecture》https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/linux.git/commit/?id=721eecbf4fe995ca94a9edec0c9843b1cc0eaaf3
