linux ksm实现与代码简述

KSM 全称是 Kernel Samepage Merging,表示相同的物理页只映射一份拷贝。

原理

在ksm初始化时(ksm_init),注册了一个ksm_scan_thread线程,这个线程的核心入口是ksm_do_scan。当对一个进程第一次通过madvice(MADV_MERGEABLE)标记一段内存可合并时,会触发__ksm_enter将当前进程标记为MMF_VM_MERGEABLE,并把进程的mm_struct放在ksm_mm_head链表上。ksm_scan_thread会在ksm_mm_head链表上做扫描,找到标记合并的匿名页中,page内容的checksum不变的页(说明最近没有写入),如果是将找到的mergable 页合并到stable_tree 的 node上,将相应pte置为同一个物理地址。当有写操作时,会因为write_protected标记触发cow机制,生成新的页,并从stable tree里移除。

实现

ksm_scan_thread线程的核心是 ksm_do_scan,它会扫描所有进程(ksm_mm_head链表上的所有进程)的可合并 vma,找到checksum不变的页,如果stable tree没有,就添加到page所在numa 节点的unstable tree上,如果原本unstable tree上有,就一起移至stable tree(即引用超过2页的mergable 页才会移至stable tree中)。一轮扫描结束后,unstable tree会被清空,并在下轮扫描中重建。

每个numa 节点都有一个 stable tree和unstable tree。如果开启了ksm_merge_across_nodes,则所有numa node共用0号节点。

stable tree 是一个红黑树,当共享页的vma很多,超过ksm_max_page_sharing(256)个时,会将stable tree 的node 转为chain list node,每个chain list node 上最多存256个vma节点。它们指向同一个物理页。

unstable tree也是一个红黑树,一轮扫描结束后,unstable tree会被清空,并在下轮扫描中重建。

代码简述

ksm_do_scan主要由scan_get_next_rmap_item找可合并匿名页,由cmp_and_merge_page到对应numa节点找页尝试合并

scan_get_next_rmap_item

找mergable 的mapping了物理页的page。最终会连成一个链存在mm_struct->rmap_list上。

会顺带将不再mapping或设置unmergable的rmap_item删掉。

scan_get_next_rmap_item():// 新一轮扫描if (mm_slot == &ksm_mm_head) {/*** 新一轮扫描前首先触发一次lru_add_drain_all* 因为lru如果一直不刷新的话,有些无用的页会因为引用计数而不能做merge。*/lru_add_drain_all();/*** 如果一页做了迁移,在一轮结束时应该已经有对应节点加在了正确numa节点的stable tree上* 并增加了ref,可以安全地将ref减1了*/if (ksm_merge_across_nodes) {list_for_each_entry_safe(stable_node, next, &migrate_nodes, list) {page = get_ksm_page(stable_node, GET_KSM_PAGE_NOLOCK);if (page)put_page(page);cond_resched();}}}vma_iter_init(&vmi, mm, ksm_scan.address);for_each_vma(vmi, vma) {/*** 遍历一个进程所有mergeable anon vma中的有物理页的page,跳过device页,* 找到对应 address 的 rmap_item,或为它新创建一个rmap_item,* 上一次扫描到的ksm_scan.rmap_list 到它之间的所有item都* 不再mergable或没有物理页了,需要删除 rmap_item。* (这样一轮下来,整个进程的全部mergable的物理页的rmap,*   就全放在mm_struct->rmap_list上了)*/rmap_item = get_next_rmap_item(mm_slot, ksm_scan.rmap_list, ksm_scan.address);return rmap_item; // 找到了一个mergable匿名页}// 如果扫描一轮发现这个进程没有ksm页了,就删掉对应mm_slothash_del(&mm_slot->slot.hash);list_del(&mm_slot->slot.mm_node);

cmp_and_merge_page

如果目标页的ksm页大于等于2个,则能找目标页所在numa节点上的stable node,加入上去。

在还没找到时,会先把自己加在unstable tree对应numa节点上,等后面的ksm页发现自己,并与自己一同加到stable tree上。

如果一个numa节点的stable tree上的一个ksm页,有多个dup节点,它们会连成一个chain,在stable_tree_search->chain_prune时会优先找到映射最多page结构的dup节点,与它合并。

搜索可合并stable node过程中会顺带发现不属于当前numa 节点的ksm页,从树上删除,并在之后整一轮扫描结束时,将ref减1。

cmp_and_merge_page():stable_node = page_stable_node(page);if (stable_node) {如果不支持ksm迁移,且物理页做了 numa node 迁移。则把 stable node 迁移至migrate_nodes上。否则它已经在 stable 树上了,直接返回}// 找出一个 ksm 页kpage = stable_tree_search();// 如果有这样的 ksm 页,则将此页的pte映射到ksm页上去。并插入 stable tree。if (kpage) {try_to_merge_with_ksm_page();stable_tree_append(rmap_item, page_stable_node(kpage));}// 还没有这样的 ksm 页,计算 checksum ,看是不是与上次一样,一样则认为没有修改calc_checksum(page);// 如果checksum变了, 它可能被频繁修改,不对这样的页做合并if (rmap_item->oldchecksum != checksum) {rmap_item->oldchecksum = checksum;return;}// 如果checksum是0页,则与0页合并(0页是刚初始化的页)try_to_merge_one_page(vma, page, ZERO_PAGE(rmap_item->address));// 尝试从本轮的对应 numa 节点的 unstable tree 上找有没有出现过相同内容页,// 没有则插入 unstable treeunstable_tree_search_insert()// 如果unstable tree有,说明有两个同样内容的页内容一直没变,可以合并到 stable treetry_to_merge_two_pages()stable_tree_append(tree_rmap_item, stable_node);stable_tree_append(rmap_item, stable_node);// 如果两个相同内容页出现在同一个 compound page 上// 则只是拆分复合页,先不合并ksm,因为需要重新拿锁,可以等到下一轮split_huge_page(); 

stable_tree_search

搜索过程中,如果自己的page已经是migrate stable node了,就可以找个树上的节点替换,并返回自己。

在stable tree搜索过程中,会顺便发现物理页已经迁移了的node,并将其从树上移除。

stable_tree_search():// 如果页对应的stable node存在,则前面的cmp_and_merge_page// 保证了它在migrate_nodes上page_node = page_stable_node(page);// 在对应numa节点的红黑树查找nid = get_kpfn_nid(page_to_pfn(page));root = root_stable_tree + nid;new = &root->rb_node;while (*new) /* 一层层找到叶子节点 */{// 红黑树的节点可能是一个dup节点,如果vma超过了256,节点会组成dup链chain// 如果超过一定时间,则红黑树上chain节点的dup链,看是否只有一个dup节了。// 如果是,则用dup节点代替红黑树上的chain节点。// 这同时,会尝试把最多vma的dup节点放在chain的头上,作为下次合并首选dupchain_prune();// 比较页的内容,从而在红黑树上向下找ret = memcmp_pages(page, tree_page);// 如果目标页有stable node节点,且是一个物理页迁移了的 stable 节点if (page_node) {// 修改它的nid为它迁移到的numa节点id,并加回 stable tree //(mapcount > 1 时,以dup形式加到node chain上,等于1时走if后的逻辑加到dup上)DO_NUMA(page_node->nid = nid);stable_node_chain_add_dup(page_node, stable_node)}// chain_prune已经取了最多map页的dup节点// 这里判断下如果numa id不变,说明没有迁移过,可直接返回tree_page = get_ksm_page(stable_node_dup);if (get_kpfn_nid(stable_node_dup->kpfn) == NUMA(stable_node_dup->nid)) {return tree_page;}/*** 如果numa id 变过,则刚好发现了一个 numa 节点迁移了的 node* 可顺便将其从树上删除。并尝试将原page的stable migrate node 加回树上* (调用它的 cmp_and_merge_page 保证了如果page有stable node对应,则一定是migrate node)*/if (dup节点在红黑树上的chain上) {// 可直接将原节点删掉__stable_node_dup_del(stable_node_dup);if (page没有对应stable node migrate 节点))return null;// 如果page有节点,就把page改numa id后加到chain上去DO_NUMA(page_node->nid = nid);stable_node_chain_add_dup(page_node, stable_node);return page;} else /* dup 节点直接在红黑树上 */{if (page有对应stable node migrate 节点) {// 直接交换,并返回原页(因为它已经在树上了)rb_replace_node(&stable_node_dup->node, &page_node->node, root);return page;} else /* page 没有 stable node节点对应 */ {// 移除原节点,返回null(因为它没在树上了)rb_erase(&stable_node_dup->node, root);return null;}}}

页回收

当页被回收时,物理页的flag上swapcache标记会清理,导致get_ksm_page中观察到这个现象,并触发stable node 的删除,下次触发缺页时每个进程的页需要重新建立页的pte,再由ksmd线程重新扫描发现可合并的页。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/216463.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

C# WPF上位机开发(会员管理软件)

【 声明:版权所有,欢迎转载,请勿用于商业用途。 联系信箱:feixiaoxing 163.com】 好多同学都认为上位机只是纯软件开发,不涉及到硬件设备,比如听听音乐、看看电影、写写小的应用等等。如果是消费电子&#…

HCIP---RSTP/MSTP

文章目录 目录 文章目录 前言 一.RSTP诞生背景 二.RSTP对比STP的快速收敛机制 端口角色变化 接口状态变化 RSTP-BPDU 指定端口- P/A机制 BPDU发送变化 端口状态快速切换 优化拓扑变更机制 三.MSTP MSTP诞生背景 MSTP相关概念 MSTP配置 总结 前言 STP协议虽然能够解决环…

软件测试之压力测试详解

一、什么是压力测试 软件测试中:压力测试(Stress Test),也称为强度测试、负载测试。压力测试是模拟实际应用的软硬件环境及用户使用过程的系统负荷,长时间或超大负荷地运行测试软件,来测试被测系统的性能、…

es6从url中获取想要的参数

第一种方法 很古老,通过 split 方法慢慢截取,可行是可行但是这个方法有一个弊端,因为 split 是分割成数组了,只能按照下标的位置获取值,所以就是参数位置一旦发生变化,那么获取到的值也就错位了 let user…

LeetCode刷题--- 验证二叉搜索树

个人主页:元清加油_【C】,【C语言】,【数据结构与算法】-CSDN博客 http://t.csdnimg.cn/ZxuNL个人专栏:力扣递归算法题 http://t.csdnimg.cn/ZxuNL 【C】 http://t.csdnimg.cn/c9twt 前言:这个专栏主要讲述递归递归、搜索与回溯算法&#x…

IDEA中工具条中的debug按钮不能用了显示灰色

IDEA中工具条中的debug按钮不能用了显示灰色 1. 问题描述 IDEA上的DEBUG按钮突然变成了灰色: 2. 解决办法 一通搜索,终于找到解决办法 点击 File -> Project Structure如下图操作 3. 重启,解决 4. 参考 https://www.cnblogs.com…

k8s上安装KubeSphere

🍩安装KubeSphere 🍪前置环境🍪安装nfs-server文件系统🍪配置nfs-client🍪配置默认存储🍪创建了一个存储类🍪metrics-server集群指标监控组件 🍪安装KubeSphere🍪执行安装…

基于ssm志愿者招募网站源码和论文

网络的广泛应用给生活带来了十分的便利。所以把志愿者招募管理与现在网络相结合,利用java技术建设志愿者招募网站,实现志愿者招募的信息化。对于进一步提高志愿者招募管理发展,丰富志愿者招募管理经验能起到不少的促进作用。 志愿者招募网站…

《三十一》开发模式构建工具 Vite

20的1小时59分 基于 Vite2。 在实际开发中,编写的代码往往是不能被浏览器直接识别的,例如 ES6、React、Vue、TypeScript 等,必须通过构建工具来对代码进行转换、编译,例如 Webpack、Rolluop、Vite 等。 Vite:下一代前…

docker 资源控制

Docker的资源控制 对容器使用宿主机的资源进行限制,如cpu,内存,磁盘I/O Docker使用linux自带的功能cgroup(control grouos)是linux内核系统提供的一种可以限制,记录,隔离进程组使用的物理资源 Docker借助这个机制&…

Python 小程序之动态进度条

动态进度条 文章目录 动态进度条前言一、显示效果二、基本思路1.引入库2.基本参数3.数据处理 三、数据处理1.计算完成百分比2.动态显示进度条3.打印完成时间 总结 前言 大家在下载东西的时候都会看到有一个动态的进度条在那里。进度条走完了也就下载完了。下面我写一个简易版的…

【音视频 | H.264】H.264编码详解

😁博客主页😁:🚀https://blog.csdn.net/wkd_007🚀 🤑博客内容🤑:🍭嵌入式开发、Linux、C语言、C、数据结构、音视频🍭 🤣本文内容🤣&a…

浅谈web性能测试

什么是性能测试? web性能应该注意些什么? 性能测试,简而言之就是模仿用户对一个系统进行大批量的操作,得出系统各项性能指标和性能瓶颈,并从中发现存在的问题,通过多方协助调优的过程。而web端的性能测试…

大数据机器学习与深度学习——回归模型评估

大数据机器学习与深度学习——回归模型评估 回归模型的性能的评价指标主要有:MAE(平均绝对误差)、MSE(平均平方误差)、RMSE(平方根误差)、R2_score。但是当量纲不同时,RMSE、MAE、MSE难以衡量模型效果好坏,这就需要用到R2_score。 平均绝对…

专业证件翻译哪里比较正规?

随着国际化的步伐不断加快,我们与国外的交流日益频繁,无论是出国留学、旅游还是商务活动,都离不开证件翻译。那么,在选择证件翻译服务时,我们应该注意哪些事项呢?哪里能找到正规的翻译服务呢? 我…

Python之Requests库使用总结

概述 Requests是python中一个很Pythonic的HTTP库,用于构建HTTP请求与解析响应 Requests开发哲学 Beautiful is better than ugly.(美丽优于丑陋) Explicit is better than implicit.(直白优于含蓄) Simple is better than complex.(简单优于复杂) Complex is bett…

winform使用CefSharp嵌入VUE网页并交互

1、NuGet添加CefSharp 如果下载慢或失败可以更新下载源 腾讯资源https://mirrors.cloud.tencent.com/nuget/华为资源https://repo.huaweicloud.com/repository/nuget/v3/index.json 2、将项目平台改为X64 3、在winform窗体添加cef using CefSharp; using CefSharp.WinForms; u…

【ret2hbp】一道板子测试题 和 SCTF2023 - sycrpg

前言 ret2hbp 主要是利用在内核版本 v6.2.0 之前,cpu_entry_area mapping 区域没有参与随机化的利用。其主要针对的场景如下: 1)存在任意地址读,泄漏内核地址 2)存在无数次任意地址写,泄漏内核地址并提权…

设计模式——观察者模式(Observer Pattern)

概述 观察者模式是使用频率最高的设计模式之一,它用于建立一种对象与对象之间的依赖关系,一个对象发生改变时将自动通知其他对象,其他对象将相应作出反应。在观察者模式中,发生改变的对象称为观察目标,而被通知的对象称…

phpstudy搭建WordPress教程

一、phpstudy新建配置WordPress 打开phpstudy,启动Apache(或者Nginx)和MySQL服务 来到数据库部分,点击[创建数据库],填写新建数据库的名称,用户名以及密码,完成后点击确认 来到网站部分&#x…