RISC-V Linux启动之页表建设剖析
上篇剖析了RISC-V Linux的汇编启动历程，其中讲到了relocate重定向需要开启MMU，今天剖析RISC-V Linux的页表建设 。
注重：本文基于linux5.10.111内核
sv39 mmu
RISC-V Linux支持sv32、sv39、sv48等虚拟地点名堂，划分代表32为虚拟地点、38位虚拟地点和48位虚拟地点 。RISC-V Linux默认也是使用sv39名堂，sv39的虚拟地点、物理地点、PTE名堂如下：
虚拟地点名堂：
物理地点名堂：
PTE名堂：
虚拟地点使用39位体现，其中低12位代表page offset，高位划分为了三部分：VP N[0]、VP N[1]和VP N[2]，划分代表虚拟地点VA在PTE、PMD和PGD中的索引 。
物理地点使用56位体现，低12位代表page offset，高位是物理页PPN[0]、PPN[1]和PPN[2]
PTE生涯了物理页PPN[0]、PPN[1]和PPN[2]，和物理地点中的PPN相对应；PTE的低10位代表物理地点的会见权限，当RWX全为0时，则代表该PTE存储的地点是下一级页表的物理地点，不然代表目今页表是最后一级页表 。
再看看sv39 的页表名堂，sv39使用的是三级页表，PGD、PMD和PTE，每一个级页表使用9bit体现，即每一级页表都有512个页表项 。
在代码中，建设一个有512个元素的数组即代表一个页表 。一个PTE有512个页表项，每一个页表项占用8字节，512*8=4096字节，以是一个PTE代表4K 。一个PMD也是512个页表项，每一项可代表一个PTE，512 *4 K=2M，以是一个PMD就代表2M 。以此类推，一个PGD代表512 * 2M=1G 。
主要结论：PGD代表1G、PMD代表2M、PTE代表4K 。sv39默认的页巨细是4K 。
三级页表虚拟地点转为物理地点历程示意图：
sv39三级页表虚拟地点转为物理地点历程：
MMU通过satp寄存器获得PGD的物理地点，团结PGD index（即V PN[2]）找到PMD；找到PMD后，再团结PMD index（即V PN[1]）找到PTE，然后团结PTE index（即V PN[0]）获得VA在PTE索引中的值，从而获得物理地点 。
最后在PTE中取出PPN[2]、PPN[1]和PPN[0],再和虚拟地点的低12位offset相加，获得最终的物理地点 。
暂时页表剖析
MMU开启前，需要建设好kernel、dtb、trampoline等页表 。以便MMU开启后，并且在内存治理�？樵诵兄�，kernel可以正常初始化，dtb可以正常地被剖析 。这部分页表都是暂时页表，最终的页表在setup_vm_final()建设 。
暂时页表建设顺序：
首先为fixmap建设早期的PGD、PMD，这时PGD使用early_pg_dir 。然后对从kernel最先的前2M内存建设二级页表，此时PGD使用trampoline_pg_dir，为这2M建设的页表也叫作superpage 。再然后，对整个kernel建设二级页表，此时PGD使用early_pg_dir 。最后为dtb预留4M巨细建设二级页表 。
页表建设函数
create_pgd_mapping()
void __init create_pgd_mapping(pgd_t *pgdp,
uintptr_t va, phys_addr_t pa,
phys_addr_t sz, pgprot_t prot)
登录后复制
pgdp：PGD页表
va：虚拟地点
pa：物理地点
sz：映射巨细，PGDIR_SIZE或PMD_SIZE或PTE_SIZE
prot：PAGE_KERNEL_EXEC/PAGE_KERNEL体现目今是最后一级页表，不然pa代表下一级页表的物理地点
create_pmd_mapping()
static void __init create_pmd_mapping(pmd_t *pmdp,
uintptr_t va, phys_addr_t pa,
phys_addr_t sz, pgprot_t prot)
登录后复制
pmdp：PMD页表
va：虚拟地点
pa：物理地点
sz：映射巨细，PMD_SIZE或PAGE_SIZE
prot：权限，PAGE_KERNEL_EXEC/PAGE_KERNEL体现目今是最后一级页表，不然pa代表下一级页表的物理地点
create_pte_mapping()
static void __init create_pte_mapping(pte_t *ptep,
uintptr_t va, phys_addr_t pa,
phys_addr_t sz, pgprot_t prot)
登录后复制
ptep：PTE页表
va：虚拟地点
pa：物理地点
sz：映射巨细，PAGE_SIZE
prot：权限，PAGE_KERNEL_EXEC/PAGE_KERNEL体现目今是最后一级页表，不然pa代表下一级页表的物理地点
使用举例
例如，将虚拟地点PAGE_OFFSET映射到物理地点pa，映射巨细为4K，建设三级页表PGD、PMD和PTE：
create_pgd_mapping(early_pg_dir，PAGE_OFFSET，
(uintptr_t)early_pmd，PGDIR_SIZE,PAGE_TABLE);
create_pmd_mapping(early_pmd，PAGE_OFFSET，
(uintptr_t)early_pte，PGDIR_SIZE,PAGE_TABLE);
create_pte_mapping(early_pte，PAGE_OFFSET，
(uintptr_t)pa，PAGE_SIZE,PAGE_KERNEL_EXEC);
登录后复制
这样建设后，MMU就会凭证PAGE_OFFSET在PGD中找到PMD，然后再PMD中找到PTE，最后取出物理地点 。
页表建设源码剖析
RISC-V Linux启动，履历了两次页表建设历程，第一次使用C函数setup_vm()建设暂时页表，第二次使用C函数setup_vm_final()建设最终页表 。
详细细节参考代码中的注释，下面的代码省略了一些不主要的部分 。
setup_vm()
asmlinkage void __init setup_vm(uintptr_t dtb_pa)
{
uintptr_t va, pa, end_va;
uintptr_t load_pa = (uintptr_t)(&_start);
uintptr_t load_sz = (uintptr_t)(&_end) - load_pa;
uintptr_t map_size;
//load_pa就是kernel加载的着实物理地点
//load_sz就是kernel的现实巨细
//page_offset就是kernel的起始物理地点对应的虚拟地点，va_pa_offset是他们的偏移量
va_pa_offset = PAGE_OFFSET - load_pa;
//盘算获得kernel起始物理地点的物理页，PFN_DOWN是将物理地点右移12位，由于sv39的物理地点的低12位是pa_offset，以是右移12位，获得pfn
pfn_base = PFN_DOWN(load_pa);
map_size = PMD_SIZE;//PMD_SIZE为2M，在目今，map_size只能为PGDIR_SIZE或PMD_SIZE 。这时kernel默认不允许建设PTE 。
//检查PAGE_OFFSET是否1G对齐，以及kernel入口地点是否2M对齐
BUG_ON((PAGE_OFFSET % PGDIR_SIZE) != 0);
BUG_ON((load_pa % map_size) != 0);
//allc_pte_early内里是BUG(),关于暂时页表，kernel不允许我们建设PTE
pt_ops.alloc_pte = alloc_pte_early;
pt_ops.get_pte_virt = get_pte_virt_early;
#ifndef __PAGETABLE_PMD_FOLDED
pt_ops.alloc_pmd = alloc_pmd_early;
pt_ops.get_pmd_virt = get_pmd_virt_early;
#endif
/* 设置 early PGD for fixmap */
create_pgd_mapping(early_pg_dir, FIXADDR_START,
(uintptr_t)fixmap_pgd_next, PGDIR_SIZE, PAGE_TABLE);
/* 设置 fixmap PMD */
create_pmd_mapping(fixmap_pmd, FIXADDR_START,
(uintptr_t)fixmap_pte, PMD_SIZE, PAGE_TABLE);
/* 设置 trampoline PGD and PMD */
create_pgd_mapping(trampoline_pg_dir, PAGE_OFFSET,
(uintptr_t)trampoline_pmd, PGDIR_SIZE, PAGE_TABLE);
create_pmd_mapping(trampoline_pmd, PAGE_OFFSET,
load_pa, PMD_SIZE, PAGE_KERNEL_EXEC);
/*
* 设置笼罩整个内核的早期PGD，这将使我们能够抵达paging_init（） 。
* 稍后在下面的 setup_vm_final（） 中映射所有内存 。
*/
end_va = PAGE_OFFSET + load_sz;
for (va = PAGE_OFFSET; va < end_va; va += map_size)
create_pgd_mapping(early_pg_dir, va,
load_pa + (va - PAGE_OFFSET),
map_size, PAGE_KERNEL_EXEC);
/* 为dtb建设早期的PMD */
create_pgd_mapping(early_pg_dir, DTB_EARLY_BASE_VA,
(uintptr_t)early_dtb_pmd, PGDIR_SIZE, PAGE_TABLE);
/* 为 FDT 早期扫描建设两个一连的 PMD 映射 */
pa = dtb_pa & ~(PMD_SIZE - 1);
create_pmd_mapping(early_dtb_pmd, DTB_EARLY_BASE_VA,
pa, PMD_SIZE, PAGE_KERNEL);
create_pmd_mapping(early_dtb_pmd, DTB_EARLY_BASE_VA + PMD_SIZE,
pa + PMD_SIZE, PMD_SIZE, PAGE_KERNEL);
dtb_early_va = (void *)DTB_EARLY_BASE_VA + (dtb_pa & (PMD_SIZE - 1));
......
}
登录后复制
setup_vm()在最最先就举行了kernel入口地点的对齐检查，要求入口地点2M对齐 。假设内存起始地点为0x80000000，那么kernel只能放在0x80000000、0x80200000等2M对齐处 。为什么会有这种对齐要求呢？
我推测纯粹是为给opensbi预留了2M空间，由于kernel之前尚有opensbi，而opensbi运行完之后，默认跳转地点就是偏移2M，kernel只是为了跟opensbi对应，以是设置了2M对齐 。
那opensbi需要占用2M这么大？现实上只需要几百KB，因此opensbi和kernel中心有一段内存是空闲的，没有人使用 。这个问题我们下篇再讲 。
setup_vm_final()
在该函数中最先为整个物理内存做内存映射，通过swapper页表来治理，并且扫除掉汇编阶段的页表 。
static void __init setup_vm_final(void)
{
uintptr_t va, map_size;
phys_addr_t pa, start, end;
u64 i;
/**
* 此时MMU已经开启，可是页表还没完全建设 。
*/
pt_ops.alloc_pte = alloc_pte_fixmap;
pt_ops.get_pte_virt = get_pte_virt_fixmap;
#ifndef __PAGETABLE_PMD_FOLDED
pt_ops.alloc_pmd = alloc_pmd_fixmap;
pt_ops.get_pmd_virt = get_pmd_virt_fixmap;
#endif
/* Setup swapper PGD for fixmap */
create_pgd_mapping(swapper_pg_dir, FIXADDR_START,
__pa_symbol(fixmap_pgd_next),
PGDIR_SIZE, PAGE_TABLE);
/* 为整个物理内存建设页表 */
for_each_mem_range(i, &start, &end) {
if (start >= end)
break;
if (start <= __pa(PAGE_OFFSET) &&
__pa(PAGE_OFFSET) < end)
start = __pa(PAGE_OFFSET);
//best_map_size是选择合适的映射巨细，kernel入口地点2M对齐或者kernel巨细能被2M整除时，map_size就是2M，不然就是4K 。
map_size = best_map_size(start, end - start);
for (pa = start; pa < end; pa += map_size) {
va = (uintptr_t)__va(pa);
create_pgd_mapping(swapper_pg_dir, va, pa,
map_size, PAGE_KERNEL_EXEC);
}
}
/* 扫除fixmap的PMD和PTE */
clear_fixmap(FIX_PTE);
clear_fixmap(FIX_PMD);
/* 切换到swapper页表，这个是最终的页表，汇编阶段relocate开启MMU的操作，跟下面这句是一样的 。 */
csr_write(CSR_SATP, PFN_DOWN(__pa_symbol(swapper_pg_dir)) | SATP_MODE);
local_flush_tlb_all();//刷新TLB
......
}
登录后复制
说明：
在setup_vm_final()函数中，通过swapper_pg_dir页表来治理整个物理内存的会见 。并且扫除汇编阶段的页表fixmap_pte和early_pg_dir 。（实质上就是把该页表项的内容清0，即赋值为0）
最终把swapper_pg_dir页表的物理地点赋值给SATP寄存器 。这样CPU就可以通过该页表会见整个物理内存 。
切换页表通过如下实现：
csr_write(CSR_SATP,PFN_DOWN(_pa(swapper_pg_dir))|SATP_MODE);
在swapper_pg_dir治理的kernel space中，其虚拟地点与物理地点空间的偏移是牢靠的，为va_pa_offset（界说在arch/riscv/mm/init.c中的一个全局变量）
注重：swapper_pg_dir治理的是kernel space的页表，即它把物理内存映射到的虚拟地点空间是只能kernel会见的 。user space不可会见，用户空间若是会见，必需自行建设页表，把物理地点映射到user space的虚拟地点空间 。kernel线程共享这个swapper_pg_dir页表 。
总结
RISC-V Linux启动时的页表建设相对来说照旧较量容易明确的，都是C语言建设的，代码也较量少 。主要就是setup_vm()和setup_vm_final()两个页表建设函数 。明确了sv39的一些地点名堂后，再去剖析源码就较量容易 。不过差别kernel版本代码都纷歧样，需要详细情形详细剖析 。
本篇提到了setup_vm()会检查kernel入口地点是否2M对齐，若是差池齐kernel无法启动，但着实我们可以扫除这个2M对齐限制，将这部分空间使用起来，下篇教各人优化这部分内存 。
以上就是RISC-V Linux启动之页表建设剖析的详细内容，更多请关注本网内其它相关文章！
