Ngnix内存池——高并发实现高效内存管理

目录

一、高并发下传统方式的弊端

1、常用的内存操作函数

2、弊端一

3、弊端二

4、弊端三

5、弊端四

二、弊端解决之道

1、内存管理维度分析

2、内存管理组件选型

三、高并发内存管理最佳实践

1、内存池技术

2、内存池如何解决弊端

3、高并发内存池如何实现

四、高效内存池设计与实现

1、内存池的实现思路

2、Nginx内存池结构图

3、关键数据结构

4、ngx_pool_t结构示意图(大希奥未1024的池)

​5、Nginx内存池基本操作


一、高并发下传统方式的弊端

1、常用的内存操作函数

void *malloc(size_t size);
void *calloc(size_t nmemb, size_t size);
void *realloc(void *ptr, size_t size);
void free(void *ptr);

malloc  在内存的动态存储区中分配一块长度为size字节的连续区域返回该区域的首地址.

calloc  与malloc相似,参数size为申请地址的单位元素长度,nmemb为元素个数,即在内存中申请nmemb*size字节大小的连续地址空间.内存会初始化0

realloc  给一个已经分配了地址的指针重新分配空间,参数ptr为原有的空间地址,newsize是重新申请的地址长度.ptr 若为NULL,它就等同于 malloc.

2、弊端一

高并发时较小内存块使用导致系统调用频繁,降低了系统的执行效率。(系统调用不了解的,观看我博客里系统调用的一文)。

3、弊端二

频繁使用时增加了系统内存的碎片,降低内存使用效率

内部碎片 已经被分配出去(能明确指出属于哪个进程)却不能被利用的内存空间;

产生根源1.内存分配必须起始于可被 4、8 或 16 整除(视处理器体系结构而定)的地址

                  2.MMU的分页机制的限制

处理器

页大小

分页的级别

虚拟地址分级

x86

4KB

2

10+10+12

x86(extended)

4KB

1

10+22

x86(PAE)

4KB

3

2+9+9+12

x86-64

4KB

4

9+9+9+9+12

4、弊端三

没有垃圾回收机制,容易造成内存泄漏,导致内存枯竭

情形一:
void log_error(char *reason) 
{ char *p1; p1 = malloc(100); sprintf(p1,"The f1 error occurred because of '%s'.", reason); log(p1); 
}情形二:  
int getkey(char *filename) 
{ FILE *fp; int key; fp = fopen(filename, "r");fscanf(fp, "%d", &key); //fclose(fp);return key; 
}

5、弊端四

内存分配与释放的逻辑在程序中相隔较远时,降低程序的稳定性

例如:程序1调用程序2,误认为传参过来的是指针,用完后,进行了释放

//程序1
ret get_stu_info(Student  * _stu) 
{ char  * name= NULL; name = getName(_stu->no);//处理逻辑if(name) {free(name);name = NULL;}
}
//程序2
char stu_name[MAX];char * getName(int stu_no)
{//查找相应的学号并赋值给 stu_namesnprintf(stu_name,MAX,“%s”,name);return stu_name;
}

二、弊端解决之道

1、内存管理维度分析

2、内存管理组件选型

PtMalloc

(glibc 自带)

TcMalloc

JeMalloc

概念

Glibc 自带

Google 开源

Jason Evans

(FreeBSD著名开发人员)

性能

(一次malloc/free 操作)

300ns

50ns

<=50ns

弊端

锁机制降低性能,容易导致内存碎片

1%左右的额外内存开销

2%左右的额外内存开销

优点

传统,稳定

线程本地缓存,多线程分配效率高

线程本地缓存,多核多线程分配效率相当高

使用方式

Glibc 编译

动态链接库

动态链接库

谁在用

较普遍

safari、chrome等

facebook、firefox

适用场景

除特别追求高效内存分配以外的

多线程下高效内存分配

多线程下高效内存分配

三、高并发内存管理最佳实践

1、内存池技术

什么是内存池技术?

在真正使用内存之前,先申请分配一定数量的、大小相等(一般情况下)的内存块留作备用。当有新的内存需求时,就从内存池中分出一部分内存块,若内存块不够再继续申请新的内存,统一对程序所使用的内存进行统一的分配和回收。这样做的一个显著优点是,使得内存分配效率得到很大的提升。

2、内存池如何解决弊端

(1)、高并发时系统调用频繁,降低了系统的执行效率

        内存池提前预先分配大块内存,统一释放,极大的减少了malloc 和 free 等函数的调用。

(2)、频繁使用时增加了系统内存的碎片,降低内存使用效率

        内存池每次请求分配大小适度的内存块,避免了碎片的产生

(3)、没有垃圾回收机制,容易造成内存泄漏

        在生命周期结束后统一释放内存,完全避免了内存泄露的产生

(4)、内存分配与释放的逻辑在程序中相隔较远时,降低程序的稳定性

        在生命周期结束后统一释放内存,避免重复释放指针或释放空指针等情况

3、高并发内存池如何实现

高并发(High Concurrency是互联网分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计保证系统能够同时并行处理很多请求。

高并发特点

(1)、响应时间短

(2)、吞吐量大

(4)、每秒响应请求数 QPS

(5)、并发用户数高:

内存池设计考虑

设计逻辑应该尽量简单,避免不同请求之间互相影响,尽量降低不同模块之间的耦合

内存池生存时间应该尽可能短,与请求或者连接具有相同的周期,减少碎片堆积和内存泄漏

四、高效内存池设计与实现

1、内存池的实现思路

(1)、对于每个请求或者连接都会建立相应的内存池,建立好内存池之后,我们可以直接从内存池中申请所需要的内存,不用去管内存的释放,当内存池使用完成之后一次性销毁内存池。

(2)、区分大小内存块的申请和释放,大于池尺寸的定义为大内存块,使用单独的大内存块链表保存,即时分配和释放;小于等于池尺寸的定义为小内存块,直接从预先分配的内存块中提取,不够就扩充池中的内存,在生命周期内对小块内存不做释放,直到最后统一销毁。

2、Nginx内存池结构图

3、关键数据结构

typedef struct 
{u_char               *last;         // 保存当前数据块中内存分配指针的当前位置u_char               *end;         // 保存内存块的结束位置ngx_pool_t           *next;      // 内存池由多块内存块组成,指向下一个数据块的位置ngx_uint_t            failed;      // 当前数据块内存不足引起分配失败的次数
} ngx_pool_data_t;struct ngx_pool_s 
{ngx_pool_data_t       d;        // 内存池当前的数据区指针的结构体size_t                max;      // 当前数据块最大可分配的内存大小(Bytes)ngx_pool_t           *current;  // 当前正在使用的数据块的指针ngx_pool_large_t     *large;    // pool 中指向大数据块的指针(大数据快是指 size > max 的数据块)
};

4、ngx_pool_t结构示意图(大希奥未1024的池)



5、Nginx内存池基本操作

内存池创建、销毁和重置:

操作

函数

创建内存池

ngx_pool_t *  ngx_create_pool(size_t size);

销毁内存池

void ngx_destroy_pool(ngx_pool_t *pool);

重置内存池

void ngx_reset_pool(ngx_pool_t *pool);

内存池申请、释放和回收操作:

操作

函数

内存申请(对齐)

void *  ngx_palloc(ngx_pool_t *pool, size_t size);

内存申请(不对齐)

void *  ngx_pnalloc(ngx_pool_t *pool, size_t size);

内存申请(对齐并初始化)

void *  ngx_pcalloc(ngx_pool_t *pool, size_t size);

内存清除

ngx_int_t  ngx_pfree(ngx_pool_t *pool, void *p);

内存池申请、释放和回收操作:

操作

函数

内存申请(对齐)

void *  ngx_palloc(ngx_pool_t *pool, size_t size);

内存申请(不对齐)

void *  ngx_pnalloc(ngx_pool_t *pool, size_t size);

内存申请(对齐并初始化)

void *  ngx_pcalloc(ngx_pool_t *pool, size_t size);

内存清除

ngx_int_t  ngx_pfree(ngx_pool_t *pool, void *p);

源码代码详细见上传资源

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/362345.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Vue 学习之 axios

目录 执行安装命令&#xff1a;npm install axios 使用的时候导入 axios以data&#xff0c;params&#xff0c;headers传参方式的区别 axios封装 是一个基于 promise 的 网络请求库&#xff0c;作用于浏览器和 node.js 中。使用Axios可以在前端项目中发送各种方式的HTTP请求…

最新AI智能聊天对话问答系统源码(图文搭建部署教程)+AI绘画,文生图,TTS语音识别输入,文档分析

一、人工智能语言模型和AI绘画在多个领域广泛应用 人工智能语言模型和AI绘画在多个领域都有广泛的应用。以下是一些它们的主要用处&#xff1a; 人工智能语言模型 内容生成 写作辅助&#xff1a;帮助撰写文章、博客、报告、剧本等。 代码生成&#xff1a;自动生成或补全代码&…

迭代器模式观察者模式

文章目录 1.引出迭代器模式1.展示院系结构2.传统方式 2.迭代器模式解决院系结构展示问题1.基本介绍2.原理类图3.类图4.代码实现1.Department.java 存储信息的对象2.College.java 被迭代的类型接口3.ComputerCollege.java 被迭代的具体实现类&#xff0c;存储数据并将其在创建迭…

PAL: Program-aided Language Models

PAL: Program-aided Language Models ArXiv&#xff1a;https://arxiv.org/pdf/2211.10435 GitHub&#xff1a;https://reasonwithpal.com/ 一、动机 大模型与Chain-of-Thought可以很好地将一些复杂的问题分解为若干个子问题并进行逐步推理&#xff1b;但是对于一些较为复杂…

JavaScript算法之龟兔赛跑

简介:龟兔赛跑算法,又称弗洛伊德循环检测算法,是一种在链表中非常常用的算法。它基于运动学和直觉的基本定律。本文旨在向您简要介绍该算法,并帮助您了解这个看似神奇的算法。 假设高速公路上有两辆车。其中一辆的速度为 x,另一辆的速度为 2x。它们唯一能相遇的条件是它们…

个人支付系统实现

基础首页&#xff1a; 订单&#xff1a; 智能售卡系统 基于webmanworkerman开发 禁用函数检查 使用这个脚本检查是否有禁用函数。命令行运行curl -Ss https://www.workerman.net/check | php 如果有提示Function 函数名 may be disabled. Please check disable_functions in …

2024年6月17日~2024年6月26日周报

一、前言 在上周主要完成了可变形卷积的学习的部署。 本周&#xff0c;结合前段时间的工作与闵老师的讨论&#xff0c;思考了接下来的一些尝试方向。本周重新在之前的网络上尝试添加可变形卷积v4&#xff0c;或者将可变形卷积v2修改为可变形卷积v4。另外&#xff0c;继续学习了…

java中的Collections工具类

Collections类是java中提供的一个工具类&#xff0c;它和接口Collection乍一看非常相像&#xff0c;但是二者的区别是非常大的&#xff0c;最明显的就是它们一个是类&#xff0c;而另一个是接口了。Collections工具类的作用是对Set 、Map、 List这些容器提供辅助方法来对容器中…

Springboot + Mybatis-Plus代码生成指南

使用 Spring Boot 和 MyBatis-Plus 生成代码&#xff0c;可以大大简化开发流程&#xff0c;可以保持编码的规范性&#xff0c;生成单元测试等。以下是详细步骤&#xff1a; 配置pom.xml <dependency><groupId>com.baomidou</groupId><artifactId>myb…

4.1 四个子空间的正交性

一、四个子空间的正交性 如果两个向量的点积为零&#xff0c;则两个向量正交&#xff1a; v ⋅ w v T w 0 \boldsymbol v\cdot\boldsymbol w\boldsymbol v^T\boldsymbol w0 v⋅wvTw0。本章着眼于正交子空间、正交基和正交矩阵。两个子空间的中的向量&#xff0c;一组基中的向…

Python期末模拟题库[python123题库]

期末模拟题库 一、单项选择题 1、下列关于Python语言的特点的说法中&#xff0c;错误的是()‪‬‪‬‪‬‪‬‪‬‮‬‪‬‫‬‪‬‪‬‪‬‪‬‪‬‮‬‫‬‪‬‪‬‪‬‪‬‪‬‪‬‮‬‫‬‮‬‪‬‪‬‪‬‪‬‪‬‮‬‪‬‮‬‪‬‪‬‪‬‪‬‪‬‮‬‪‬‪‬‪‬‪‬‪…

使用ESP32开发一款chat机器人

目的&#xff1a;使用语音对话的方式实现和ai机器人对话&#xff0c;核心硬件如下 主板&#xff1a; ESP32S3 语音&#xff08;拾音器-麦克风&#xff09;&#xff1a;INMP441全向麦克风模块 购买记录&#xff1a; https://oshwhub.com/shukkkk/esp32s3_tft_mp3

原创作品—医疗行业软件界面UI、交互设计

在医疗行业大屏UI设计中&#xff0c;首要的是以用户为中心&#xff0c;深入理解医生、护士、管理层等用户群体的具体需求和工作流程。大屏设计应直观展示关键医疗数据、患者信息、设备状态等&#xff0c;确保用户能够迅速、准确地获取所需信息。同时&#xff0c;功能布局应合理…

【6.26更新】Win11 23H2 22631.3810镜像:免费下载!

微软已发布六月最新的可选更新补丁KB5039302&#xff0c;用户安装后&#xff0c;系统版本将升级至22631.3810。此次更新将会逐步推出一些新功能&#xff0c;在“设置”主页上添加了新的Game Pass推荐卡&#xff0c;同时显示桌面按钮再次默认位于任务栏上。接下来小编给大家带来…

flash申请内存失败,导致老化问题解决

背景 在闪光灯初始化阶段客制化了一个buffer&#xff0c;下发到kernel的闪光灯驱动中用于保存读取闪光灯寄存器的值。功能测试都是正常的&#xff0c;但是一旦开始批量跑产线老化测试会有1/4500左右概率的后主摄拍照卡住。定位根因是闪光灯初始化失败&#xff0c;进一步原因就…

SherlockChain:基于高级AI实现的智能合约安全分析框架

关于SherlockChain SherlockChain是一款功能强大的智能合约安全分析框架&#xff0c;该工具整合了Slither工具&#xff08;一款针对智能合约的安全工具&#xff09;的功能&#xff0c;并引入了高级人工智能模型&#xff0c;旨在辅助广大研究人员针对Solidity、Vyper和Plutus智…

第六十九:iview 表格汇总怎么拿到传过来的数据,而不是自动累加,需要自定义方法

话不多少&#xff0c;先看官方解释 我这个简单&#xff0c;所以所有说明都在图上了 handleSummary({ columns, data }){console.log(columns, data)let sums {}columns.forEach((item,index)>{const key item.key;console.log("key",item)if(index 0){console.…

煤安防爆手机为什么能在煤矿井下使用

煤安防爆手机之所以能在煤矿井下使用&#xff0c;是因为它们经过特殊设计&#xff0c;符合严格的防爆安全标准&#xff0c;能够防止电火花引发爆炸&#xff0c;同时具备防尘防水、抗冲击等特性&#xff0c;确保在恶劣的煤矿环境中稳定可靠地运行&#xff0c;为工作人员提供安全…

【FFmpeg】avformat_open_input函数

【FFmpeg】avformat_open_input函数 1.avformat_open_input1.1 初始化输入格式&#xff08;init_input&#xff09;1.1.1 文件路径判断格式&#xff08;av_probe_input_format2&#xff09;1.1.1.1 格式探测&#xff08;read_probe&#xff09;1.1.1.2 扩展匹配检查&#xff08…

iOS 其他应用的文件如何在分享中使用自己的应用打开

废话少说 一、第一步&#xff1a;先配置好plist文件 右击info.plist如下图文件打开 根据自己需要配置支持的文件类型&#xff0c;也可使用property List中配置&#xff0c;一样的 其他的文件可是参考文档&#xff1a;System-Declared Uniform Type Identifiers 可复制的代码&am…