linux存储技术学习资料

参考

https://www.cnblogs.com/pengdonglin137/p/16525428.html

image

Linux I/O栈

  • Linux内核的I/O栈大图
  • 知乎Linux I/O专栏1
  • Linux 块设备之Block Layer层架构演变
  • Linux VFS机制简析(一)
  • Linux VFS机制简析(二)
  • Linux Kernel文件系统写I/O流程代码分析(一)
  • Linux Kernel文件系统写I/O流程代码分析(二)bdi_writeback

工具

  • linux问题调查工具指南
  • Linux 要如何优化SSD(固态硬盘)?
  • linux-磁盘io监控相关工具整理
  • Linux block devices: hints for debugging and new developments

调试节点

  • Block layer statistics in /sys/block//stat

dd

  • dd 工具使用; SSD 顺序写性能测试;
  • 汇报dd的进度

FIO

  • github: https://github.com/axboe/fio
  • HOWTO.rst
  • https://fio.readthedocs.io/en/latest/index.html
  • Linux下磁盘IO读写测试工具-FIO详解
  • hdparm和fio简介
  • linux 磁盘IO测试工具:fio (同时简要介绍dd工具测试)
  • Fio Output Explained

ioprof

  • 分析IO的工具 ioprof,支持导出图表

blktrace

  • 仓库:https://git.kernel.dk/cgit/blktrace/
  • 静态编译的版本:blktrace_2.0.tar.gz
  • blktrace分析IO 绘制图表
  • 利用blktrace分析磁盘I/O
  • 利用blktrace分析IO性能
  • io分析神器blktrace
  • Deep in blktrace
  • Linux IO性能分析blktrace/blk跟踪器
  • blktrace工具
  • Debugging disk issues with blktrace, blkparse, btrace and btt in Linux environment
  • ftrace interface for blktrace

iotrace

  • https://github.com/Open-CAS/standalone-linux-io-tracer
    • Case Study

iostat

  • 容易被误读的iostat
  • I/O statistics fields
  • 深入理解iostat
  • 深入分析diskstats
  • IOSTAT中关于%util,svctm存在的陷阱及解决办法
  • 瓶颈确认之IO瓶颈确认之第一篇

hdparm

  • 查看一个文件实际使用了哪些扇区
hdparm --fibmap xxx

dumpe2fs

用法(来自chatgpt)

dumpe2fs 是一个用于显示 ext2、ext3、ext4 文件系统信息的命令行工具。以下是 dumpe2fs 的用法:

dumpe2fs [选项] 设备文件名

其中,[选项] 可以是以下任意组合:

  • -h:显示帮助信息。
  • -V:显示版本信息。
  • -b:显示块位图的信息。
  • -i:显示 inode 位图的信息。
  • -I:显示 inode 表的信息。
  • -l:显示文件系统的块和 inode 的数量、大小、使用情况等信息。
  • -o:显示文件系统的挂载选项。
  • -p:显示文件系统的预读块数。
  • -r:显示文件系统的块组摘要信息。
  • -S:显示文件系统的超级块信息。
  • -x:显示文件系统的扩展信息。

设备文件名 是要显示信息的文件系统所在的设备文件名,例如 /dev/sda1

例如,要显示 /dev/sda1 文件系统的块和 inode 的数量、大小、使用情况等信息,可以使用以下命令:

dumpe2fs -l /dev/sda1

debugfs

debugfs 是一个用于调试文件系统的工具,可以用于查看和修改文件系统的内部状态。以下是一些常见的 debugfs 命令:

  1. 打开文件系统:debugfs /dev/sda1 (假设 /dev/sda1 是要调试的文件系统)

  2. 查看文件系统的超级块信息:stat <文件系统根目录的inode号>

  3. 查看文件系统的块位图:bmap <文件名>

  4. 查看文件系统的inode位图:imap <文件名>

  5. 查看文件系统的inode信息:inode <inode号>

  6. 查看文件系统的目录项信息:ls <目录名>

  7. 查看文件系统的文件内容:cat <文件名>

  8. 修改文件系统的inode信息:write <inode号> <偏移量> <数据>

  9. 修改文件系统的目录项信息:set <目录项名> <inode号>

  10. 退出 debugfsquit

请注意,使用 debugfs 可能会对文件系统造成不可逆的损坏,因此在使用之前请务必备份数据。

fsck

tune2fs

  • EXT4是否存在FS error

dumpe2fs

blockdev

  • blockdev --setra预读优化和IO请求的大小

smartctl

sg3_utils

  • 官网:http://sg.danny.cz/sg/sg3_utils.html

Storcli64

  • Storcli64 工具操作指南

内核

  • 宋宝华:Linux文件读写(BIO)波澜壮阔的一生
  • 刘正元: Linux 通用块层之IO合并
  • block子系统内核文档
  • IOwait 到底在wait什么
  • BLOCK层代码分析(0)存储IO框架介绍
  • BLOCK 层这么多参数都是什么意思?!
  • Long Story of Block - 1 Data Unit
  • Long Story of Block - segment
  • linux block layer第一篇bio 子系统数据结构及初始化
  • linux block layer第二篇bio 的操作
  • 存储IO落盘原理及路径分析

文件系统

EXT2/3/4

  • EXT4文件系统的磁盘整体布局

F2FS

  • F2FS源码分析系列文章

FUSE

  • 吴锦华/明鑫: 用户态文件系统(FUSE)框架分析和实战

Overlay

  • 深入理解overlayfs(一):初识
  • 深入理解overlayfs(二):使用与原理分析

脏页回写

  • writeback bdi脏页回写原理linux内核源码解析
  • VFS源码分析-Page Cache Writeback脏页回写机制
  • https://lwn.net/Kernel/Index/#Memory_management-Writeback

预读

  • 程序中如何禁用Linux文件预读和缓存机制

模拟设备

  • Null block device driver
  • 基于内存的磁盘驱动

block cgroup

  • cgroup-blkio子系统分析
  • cgroupv2 权威指南
  • cgroup–blkio子系统测试-1(throttle测试)
  • Linux Cgroup v1(中文翻译)(4):Block IO Controller
  • Cgroup blkio简介和测试(使用fio测试)
  • I/O bandwidth controllers

throttle

  • 关于IO throttle
  • Buffer IO的throttle问题
  • Cgroup V2 and writeback support
  • Block Throttle
  • Block Throttle - Low Limit
  • Resource management in Docker

io latency

  • The block I/O latency controller
  • The creation of the io.latency block I/O controller
  • iolatency

io prio

  • Block io priorities
  • How disk IO priority is related with process priority?
  • How to Manage the Priority of I/O Processes in Linux

io cost

  • blk-iocost: iocost: improve donation, debt and excess handling
  • blk-iocost权重限速
  • IOCost: Block IO Control for Containers in Datacenters

Discard

  • Long Story of Block - DISCARD
  • SSD的TRIM原理及实践

blk-mq

  • linux内核block层Multi queue多队列核心点分析
  • Multi-queue 架构分析
  • Linux Block IO: Introducing Multi-queue SSD Access on Multi-core Systems
  • Block multi-queue 架构解析(一)数据结构
  • Block multi-queue 架构解析(二)流程与机制
  • blk-mq arch
  • Multi-Queue Block IO Queueing Mechanism (blk-mq)

IO调度器

  • BFQ (Budget Fair Queueing)

Integrity

  • Data Integrity
  • Using Linux Block Integrity in Building and Testing Storage Systems
    • Slide
    • Youtube
  • integritysetup

Encryption

  • Inline Encryption
  • Speeding Up Linux Disk Encryption

Zoned Block Device

  • ZNS的前世今生
  • 西数 Zoned Storage 分区存储
  • ZNS : 解决传统SSD问题的高性能存储栈设计
  • 用null_blk工具来实现模拟分区块设备
  • Zoned Storage
  • Zoned Block Device Emulation

Device Mapper

  • 内核文档:Device Mapper
  • Device Mapper 简介
  • Linux Command dmsetup管理LVM
  • linux命令----dmsetup
  • 高性能存储的另一块拼图——DM 支持 IO Polling
  • Userspace block device driver (ublk driver)

LVM

  • LVM逻辑卷和手动创建逻辑卷
  • LVM 逻辑卷管理
    • lvm 逻辑卷管理(原理概念篇)
    • LVM 逻辑卷管理(实战篇)

Multipath

  • Linux 下存储多路径软件 MultiPath 源码分析
  • Multipath 切换主路径
  • redhat DM Multipath
  • 红帽DM multipath技术文档
  • https://github.com/opensvc/multipath-tools
  • Linux multipathd多路径
  • 使用scsi_debug测试dm-multipath多路径软件的简单实验
  • 第1讲 多路径软件multipath的介绍与安装
  • 第2讲 scsi设备模拟器scsi_debug
  • 第3讲 multipath聚合由scsi_debug模拟的设备
  • 4.如何删除多路径设备和scsi设备
  • 第5讲 multipath的属性features
  • 第6讲 multipath的路径选择path-selector
  • 第7讲 multipath的路径分组策略
  • Beginners guide to Device Mapper (DM) multipathing

io_uring

  • Linux 异步 I/O 框架 io_uring:基本原理、程序示例与性能压测

Bcache

  • Linux下SSD缓存加速之bcache使用
  • bcache原理及实践

Flashcache

  • 理解flashcache(1)

direct io

  • DirectIO的对齐问题
  • Why does O_DIRECT require I/O to be 512-byte aligned?

SCSI

  • 协议
  • https://www.cnblogs.com/pengdonglin137/p/16383560.html
  • 内核文档:Documentation/scsi/
  • 内核文档:SCSI_EH
  • 内核文档:SCSI mid_level - lower_level driver interface
  • 内核文档:SCSI Kernel Parameters
  • linux scsi相关的一些学习笔记
  • SCSI代码分析(0)SCSI层框架
  • SCSI设备IO栈与块设备并发机制
  • Scsi_debug adapter driver for Linux
  • scsi设备模拟器scsi_debug
  • IO 能够保证在确定的时间回来吗?
  • BLOCK_SCSI 专栏

iscsi

  • iscsi服务器介绍和搭建
  • ISCSI服务器搭建与配置
  • block & scsi & iscsi 开启调试日志
  • 聊一聊存储协议中的孪生兄弟SCSI和iSCSI
  • 什么是ISCSI?ISCSI又能干什么呢?
  • iscsiadm和iscsid的源码
  • Linux文件系统-ISCSI存储和Multipathd
  • Multipath 多路径
  • iSCSI与multipath部署
  • iSCSI initiator软件架构
  • ISCSI介绍
  • iSCSI(一) iSCSI详解 及 iSCSI配置
  • open-iscsi
  • iSCSI command
  • How to get scsi_id

NVME

  • NVME专栏
  • NVMe的Linux内核驱动分析

RAID

  • RAID1是什么
  • RAID 10是什么

书籍推荐

  • 《存储技术原理分析 基于Linux 2.6内核源代码》
  • 《Linux内核探秘:深入解析文件系统和设备驱动的架构与设计》
  • 《深入浅出ssd-固态存储核心技术原理与实战》
  • 《大话存储》

问题排查

  • How to check Fibre Channel HBAs in Linux
  • How to identify the HBA cards/ports and WWN in Linux

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/12395.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

chatgpt赋能Python-pythagoreaios

Pythagoreaios&#xff1a;探秘这个神奇的数学工具 Pythagoreaios&#xff0c;常被称为毕达哥拉斯三角形定理&#xff0c;是一种数学工具&#xff0c;用于计算直角三角形的斜边长度。本文将深入探讨Pythagoreaios的历史、概念和应用&#xff0c;让你对它有一个全面的了解。 什…

年薪200W+的 “ChatGPT提示工程师”,是AI时代下逆袭的好职业吗?

作者| Mr.K 编辑| Emma 来源| 技术领导力(ID&#xff1a;jishulingdaoli) 使用同样的画笔&#xff0c;有人画出百鸟朝凤图&#xff0c;有人画出小鸡吃米图&#xff1b;同样的道理&#xff0c;用户使用同样的ChatGPT&#xff0c;问看上去类似的问题&#xff0c;得出的答案却有…

chatgpt赋能python:Python代码为何会闪退?探秘Python安装环境

Python代码为何会闪退&#xff1f;探秘Python安装环境 众所周知&#xff0c;Python是一种跨平台的高级编程语言&#xff0c;可应用于各种环境和领域&#xff0c;如数据科学、机器学习、爬虫等。但是&#xff0c;就像任何其他软件一样&#xff0c;它也有它的限制和运行时错误。…

chatgpt赋能python:Python凑数:探秘这种新型的编程玩具

#Python凑数&#xff1a;探秘这种新型的编程玩具 近年来&#xff0c;Python凑数一词在程序员之间逐渐崭露头角。它被看作是一种性能优异的Python编程技巧&#xff0c;可以dengo&#xff08;蹭&#xff09;来秀技术&#xff0c;同时还能极大地提升程序员的笑点。在今天的文章中…

GPT-4震撼来袭!探秘神秘AI巅峰之作,一较高下:GPT-4 VS ChatGPT

GPT-4 发布了半天&#xff0c;推上已经有了无数用例&#xff0c;性能远超GPT-3&#xff0c;而GPT-5传言年底发布&#xff0c;人类未来肯定赶不上机器的步伐 当然&#xff0c;我们还是可以尽量了解如何充分使用这个大杀器&#xff0c;以便在AI这只大老虎追来的时候&#xff0c;我…

chatgpt赋能python:Python隐藏变量:探秘程序内部的“奥秘”

Python 隐藏变量&#xff1a;探秘程序内部的“奥秘” 作为一门高级编程语言&#xff0c;Python备受程序员的欢迎。但是&#xff0c;你是否了解Python隐藏变量&#xff1f;这些看似神秘的变量对程序员的编码工作有哪些影响呢&#xff1f;本篇文章将为您详细介绍Python隐藏变量的…

ChatGPT以及LLM(大语言模型)的思考

一、ChatGPT简介 ChatGPT本质是一个对话模型,它可以回答日常问题、挑战不正确的前提,甚至会拒绝不适当的请求,在去除偏见和安全性上不同于以往的语言模型。ChatGPT从闲聊、回答日常问题,到文本改写、诗歌小说生成、视频脚本生成,以及编写和调试代码均展示了其令人惊叹的能…

解读 ChatGPT 背后的技术重点:RLHF、IFT、CoT、红蓝对抗

来自&#xff1a;Hugging Face 近段时间&#xff0c;ChatGPT 横空出世并获得巨大成功&#xff0c;使得 RLHF、SFT、IFT、CoT 等这些晦涩的缩写开始出现在普罗大众的讨论中。这些晦涩的首字母缩略词究竟是什么意思&#xff1f;为什么它们如此重要&#xff1f;我们调查了相关的所…

组队学习爆火ChatGPT背后的基础知识!

点击下方卡片&#xff0c;关注“CVer”公众号 AI/CV重磅干货&#xff0c;第一时间送达 最近几天是不是被朋友圈的ChatGPT刷屏了? 其影响已经不仅仅局限与自然语言处理领域,继今年多模态领域Diffusion Mpdel之后,ChatGPT延续了AIGC模型的火爆。在尝试了各种对话问答&#xff0c…

ChatGPT 背后包含了哪些技术?

ChatGPT 是由OpenAI开发的一款基于GPT-3&#xff08;Generative Pre-trained Transformer 3&#xff09;的人工智能语言模型。这个模型是使用多种编程语言和技术组合编写的。 首先&#xff0c;ChatGPT 使用了 Python 作为主要的编程语言。Python 是一种流行的高级编程语言&…

ChatGPT最牛应用,让它帮你更新网站新闻吧!

谁能想到&#xff0c;ChatGPT火了&#xff01;既能对话入流&#xff0c;又能写诗歌论文、出面试题、编代码&#xff0c;甚至还通过了谷歌面试拿到L3工程师offer&#xff0c;放在一年之前&#xff0c;没人相信这是当前AI能够达到的水平。ChatGPT自面世以来&#xff0c;凭借其极为…

ChatGPT评考研难度最大的十个专业

最近&#xff0c;ChatGPT在全球爆火&#xff0c;既能聊天互动回答问题又能协助人类完成各种工作&#xff0c;许多网友都感叹“只有你想不到&#xff0c;没有ChatGPT办不成的”。那么&#xff0c;今天笔者也尝试与ChatGPT聊聊考研&#xff0c;听听它认为考研难度最大的十个专业是…

港大禁用ChatGPT等AI工具,网友:“从万众瞩目到千夫所指?”

整理 | 朱珂欣 出品 | CSDN程序人生&#xff08;ID&#xff1a;coder_life&#xff09; ChatGPT 横空出世之后&#xff0c;感觉众多职业都面临被 AI 取代的危险&#xff0c;不少人惊呼&#xff1a;感觉我要被分分钟取代了&#xff0c;甚至连李开复都发微博列举了 20 项最容易…

独家 | ChatGPT喜欢的秘密提示(附证据)

作者&#xff1a;The Latest Now~AI翻译&#xff1a;陈超 校对&#xff1a;赵茹萱本文约1700字&#xff0c;建议阅读5分钟 本文介绍了ChatGPT喜欢的提示类型&#xff0c;并举例进行了介绍。 获得只有< 1% 的人知道的出色结果的强大提示。 当您仅对以下四个问题回答“是”时&…

用ChatGPT后被海外名校录取,泰库啦!!

世界之大无奇不有&#xff0c;有人竟然因为使用ChatGPT后被海外大学录取&#xff01;ChatGPT真的那么强大吗&#xff0c;竟然有这样子的能力。国内一些朋友因为各种问题没有办法使用ChatGPT&#xff0c;文章后面会给大家分享国内ChatGPT免注册免费使用的方法教程。 今天一看热搜…

ChatGPT 拓展资料:Stable Diffusion:零基础学会 AI 绘画

ChatGPT 拓展资料:Stable Diffusion:零基础学会 AI 绘画

ChatGPT 拓展资料: OpenAI API 决战生成式 AI 之巅

ChatGPT 拓展资料: OpenAI API 决战生成式 AI 之巅 链接:platform.openai.com https://platform.openai.com/playground/p/default-parse-data OpenAI是一家人工智能公司,为开发人工智能技术提供了许多工具。其中一个工具就是OpenAI的游戏场,它是一个基于Web的环境,可以让…

送新书!《Python深度学习基于Torch/TF(第2版)》,有ChatGPT拓展

文末送书~ 最近&#xff0c;人工智能公司OpenAI推出的ChatGPT风靡全球&#xff0c;上线仅两个月&#xff0c;注册用户破亿。 ChatGPT不仅能更好地理解人类的问题和指令&#xff0c;流畅进行多轮对话&#xff0c;此外&#xff0c;还可以根据文字&#xff08;或语音&#xff09;描…

ChatGPT 拓展资料:GitHub Copilot 实践课

ChatGPT 拓展资料 GitHub Copilot 实践课 Copilot 简介:背景、优势与上手 https://docs.github.com/zh/copilot

ChatGPT 拓展资料:DALL·E 创意无限

ChatGPT 拓展资料:DALLE 创意无限 https://labs.openai.com/