💓博主CSDN主页:杭电码农-NEO💓
⏩专栏分类:项目日记-高并发内存池⏪
🚚代码仓库:NEO的学习日记🚚
🌹关注我🫵带你做项目
🔝🔝
开发环境:Visual Studio 2022
项目日记
- 1. 前言
- 2. 内存池整体结构一览
- 3. 线程缓存结构详解
- 4. 中心缓存结构详解
- 5. 页缓存结构详解
- 6. 总结
1. 前言
由于本项目是模拟学习tcmalloc
的优秀的思想以及巧妙的结构,所
以本项目只会把源项目的精华部分
拿出来学习,请大家耐心看完
本章重点:
本篇文章着重讲解本项目的大致
框架结构,以及每一层小结构的内
部的部分细节,这篇文章不会有很多
的代码演示,但至关重要!!!
2. 内存池整体结构一览
首先,我们采用了三层缓存结构来
实现不同的功能,每一层结构都互
相紧密联系:
- ThreadCache(线程缓存结构)
线程缓存是每一个线程独享的结构,线程申请和释放内存都在这个缓存中进行,只能用于小于256KB的内存分配.整个线程缓存结构是不用加锁的
- CentralCache(中心缓存结构)
中心缓存是所有线程所共享的，thread cache是按需从central cache中获取的对象。central cache会在合适的时机回收thread cache中的对象，避免一个线程占用了太多的内存，而其他线程的内存吃紧，达到内存分配在多个线程中更均衡的按需调度的目的。central cache是存在竞争的，所以从这里取内存对象是需要加锁，首先这里用的是桶锁，其次只有thread cache的没有内存对象时才会找central cache，所以这里竞争不会很激烈
- PageCache(页缓存结构)
页缓存是在central cache缓存上面的一层缓存，存储的内存是以页为单位存储及分配的，central cache没有内存对象时，从page cache分配出一定数量的page，并切割成定长大小的小块内存，分配给central cache。当一个span的几个跨度页的对象都回收以后，page cache会回收central cache满足条件的span对象，并且合并相邻的页，组成更大的页，缓解内存碎片的问题
看到这儿你可能一脸懵逼,但是没关系
这里的所有内容都会在后面一一讲解
三层缓存的大致结构:
3. 线程缓存结构详解
线程缓存结构实际上是一个哈希桶,
数组的下标代表这个桶中存放的小
块内存的字节数是多少,桶中存放
小块儿内存,就是定长池中的自由链表
申请内存的步骤:
申请内存时,比如申请8字节大小内存
会先去8字节对应的哈希桶中查看有
没有小块儿内存,如果有,则直接返回
给外部,若对应的桶无小块儿内存,再去
中心缓存中拿内存!
释放内存的步骤:
释放内存时,比如释放的内存大小是16
字节,那么这块儿返回来的空间就会挂
在16字节对应的哈希桶中,当满足某种
条件时,线程缓存中的小块儿内存会还
给中心缓存(最开始的内存是中心缓存给的)
4. 中心缓存结构详解
中心缓存结构本质也是一个哈希桶,
并且它的数组下标和线程缓存是相同
的,但是哈希桶中存储的内容不同,中
心缓存中存储的是一个span结构,span
就是一个结构体,它负责管理大块内存
对span的简单介绍:
我们默认系统的一页内存是8KB,
span管理的大块儿内存实际上是
大页内存,可能是一页,两页内存,
这个大页内存会被切分为小块儿的
内存,8字节对应的哈希桶中会切分
为8字节的小块儿内存,这样可以很
方便的将小块儿内存分配给线程缓存!
span的来源与去向讲解:
中心缓存的span实际上是由页缓存分配
的,并且在一个span满足某种条件时,会
把此span还给页缓存,并且span是一个
双链表结构,一个哈希桶桶中可能有多个
span,下面是span的大致成员变量:
//管理多个连续页的大块内存跨度结构,centralcache的哈希桶中链接的就是这种结构
class SpanData
{
public:size_t _n = 0;//此span中的页数SpanData* _next = nullptr;SpanData* _prev = nullptr;size_t _useCount = 0;//span中切分好的小对象有几个被使用了void* _freeList = nullptr;//切分好的小块内存的自由链表
};5. 页缓存结构详解
页缓存结构的本质也是一个哈希桶,
但它的数组下标含义与前两层不同,
它的下标代表这个哈希桶中存放的
span一共有多少页内存!
span的来源与去向讲解:
页缓存中的span和中心缓存中的
span结构体是一样的,但页缓存中的
span是直接从系统中申请的大块儿
空间,并且这个span会直接分配给中
心缓存去切分为小块儿内存后被使用
向页缓存申请span的基本步骤:
当线程缓存的哈希桶中没有小块儿内存了,并且中心缓存对应的哈希桶中页没有span了,这时会来页缓存申请span回去做切分使用,假设申请的span是5页大小,那么就会去页缓存的五号桶中查看是否有span,若有span就直接返回若没有span,则需要去6到128号桶中寻找是否存在span,假设100号桶中有span,那么会将这个100页的大span切分为一个5页的小span和一个95页的大span,再将这个5页的span返回给中心缓存,这个95页的span重新挂到页缓存的95号桶中!假如6到128号桶都没有span,则会向系统申请一个128页的大块儿空间,再来切分成小span返回!
6. 总结
这整个三层结构的设计是十分巧妙的,
在线程缓存中是不需要加锁的,因为每
个线程独享这个结构,这也是这个项目
比较快的原因之一,在中心缓存中也不
需要完全加锁,而是使用桶锁,只有当不同
的线程进入到同一个桶时才会有锁互斥!
当然这个项目的巧妙之处远不止如此
我将在后面的代码实现中,一边讲解
原理,一边带大家编码,这才能真正带大家
了解到这个项目的精髓与值得学习之处!!!
