高性能、可扩展、分布式对象存储系统MinIO的介绍、部署步骤以及代码示例

详细介绍

MinIO 是一款流行的开源对象存储系统,设计上兼容 Amazon S3 API,主要用于私有云和边缘计算场景。它提供了高性能、高可用性以及易于管理的对象存储服务。以下是 MinIO 的详细介绍及优缺点:

  1. 架构与特性:

    • 开源与跨平台:MinIO 开源免费(Apache v2.0许可),支持在Linux、Windows、macOS等多平台上部署。
    • 分布式存储:MinIO 可以以分布式方式部署,通过纠删码(Erasure Coding)技术实现数据冗余,即使部分硬盘故障也能恢复数据,通常配置为允许丢失N/2数量的磁盘而保持数据可恢复。
    • Amazon S3兼容性:全面兼容Amazon S3的v2和v4 API,使得基于S3的应用程序和服务可以无缝地切换到MinIO。
    • 高性能:设计用于大规模工作负载,能够处理极高的并发读写请求,并且在现代硬件上性能表现优异。
    • 安全性:提供多种安全措施,包括服务器端加密(SSE)、客户端加密、身份验证(使用JWT或自定义认证机制)以及访问策略控制。
  2. 优势:

    • 成本效益:相比商业对象存储解决方案,MinIO无需支付额外许可费用,降低了存储成本。
    • 简单易用:安装配置相对简单,用户界面友好,可通过命令行工具、Web UI或者SDK进行管理和操作。
    • 可扩展性:水平扩展能力出色,可以根据需要添加节点来增加容量和性能。
    • 数据保护:采用纠删码技术确保数据可靠性,同时支持校验和checksum保证数据完整性。
  3. 前端使用场景下的优缺点:

    • 优点
      • 对于Webpack工程化构建的项目,由于其运行环境包含Node.js,因此可以通过API直接上传文件至MinIO服务器。
      • 兼容AWS SDK,方便开发者调用已有的S3接口代码进行开发。
    • 缺点
      • 不适用于Vite这类纯浏览器模块加载器构建的项目,因为无法利用Node.js原生模块。
      • 前端直传时缺乏对上传进度的直观反馈,用户体验欠佳。
      • 配置信息如端口、账号密码等如果硬编码在前端,存在安全隐患,不易维护和扩展。
  4. 整体优缺点:

    • 优点
      • 高性能、高可靠性和易于扩展
      • 良好的兼容性,对于已经使用AWS S3生态系统的组织来说迁移成本较低
      • 开源社区活跃,不断更新和改进
    • 缺点
      • 相对于大型企业级存储解决方案,可能缺少一些高级功能和专业支持
      • 在某些特定应用场景下(比如前面提到的前端直接对接时的安全和体验问题),需要额外的开发工作来完善解决方案
      • 对于不熟悉S3 API的团队,可能存在一定的学习曲线。

MinIO是一个强大的、面向云原生应用的理想存储解决方案,尤其适合那些寻求低成本、高可用和灵活扩展的私有云存储需求的组织。不过,在实际使用中需注意权衡其优缺点,并根据具体业务场景采取合适的策略和技术手段来克服潜在挑战。

官网:MinIO | High Performance, Kubernetes Native Object Storage

MinIO的部署步骤

MinIO在不同系统和环境上的部署方式有一些差异,但基本理念是类似的,即通过容器化或直接安装的方式运行一个兼容S3 API的对象存储服务。下面将简要介绍如何在Kubernetes、Docker、CentOS、Windows及macOS等系统上部署MinIO的Server端,并提供一些关于Client端连接的基本指导。

Kubernetes (k8s) 部署 MinIO Server

  1. 创建MinIO StatefulSet或Deployment:

    Yaml
    apiVersion: apps/v1
    kind: Deployment
    metadata:name: minio-deployment
    spec:replicas: 4 # 根据需求设置副本数量以实现高可用性selector:matchLabels:app: miniotemplate:metadata:labels:app: miniospec:containers:- name: minioimage: minio/minio:latestargs: ["server", "/data"]ports:- containerPort: 9000env:- name: MINIO_ACCESS_KEYvalue: "your-access-key"- name: MINIO_SECRET_KEYvalue: "your-secret-key"volumeMounts:- mountPath: /dataname: minio-datavolumes:- name: minio-datapersistentVolumeClaim:claimName: minio-pvc # 需要预先创建并绑定到实际PV
  2. 使用kubectl apply命令应用YAML配置文件来创建StatefulSet或Deployment资源,该配置文件通常会指定镜像、持久卷(PV)和持久卷声明(PVC)、端口映射以及所需环境变量。
  3. 配置Service资源: 创建一个Service资源以暴露MinIO服务,并可以通过ClusterIP、NodePort或者LoadBalancer方式对外提供访问。

  4. 初始化MinIO集群(如果需要): 如果你打算部署分布式MinIO,需要确保正确配置了启动参数和环境变量,以便各个Pod能够相互发现并组成集群。

Docker部署 MinIO Server

  1. 拉取镜像

    docker pull minio/minio
  2. 运行容器: 单节点实例:

    docker run -p 9000:9000 -p 9001:9001 --name minio \
    -e "MINIO_ACCESS_KEY=youraccesskey" \
    -e "MINIO_SECRET_KEY=yoursecretkey" \
    -v /path/to/data:/data \          #新版目录已经更改为/mnt/data
    minio/minio server /data

    分布式模式下,需要额外的环境变量来定义集群模式和其他集群成员。

docker-compose.yaml

version: '3.9'  # 使用最新的Docker Compose版本以利用新特性services:minio:image: minio/minio:RELEASE.2024-01-05T22-17-24Z.fips  # 使用最新稳定版镜像(或指定特定版本)container_name: minioports:- "19000:9000"  # 根据实际需求决定是否暴露9001端口,用于HTTPS访问时需要- "19001:9001"  # 根据实际需求决定是否暴露9001端口,用于HTTPS访问时需要environment:MINIO_ROOT_USER: youradminaccountMINIO_ROOT_PASSWORD: youradminpassword#MINIO_BROWSER: off  # (可选)关闭Web浏览器界面,如果只通过API访问#MINIO_OPTS: server --address ":9000"  # (可选)自定义启动参数,比如启用多节点集群模式等volumes:- /your pathto/minio_data:/data  # 确保宿主机目录存在并有合适的权限command: server /data --console-address ":9001"  --address ":9000" # 指定控制台监听的静态端口为9001

podman

podman run -p 9000:9000 -p 9001:9001 minio/minio server /data --console-address ":9001"podman run --name my-mc --hostname my-mc -it --entrypoint /bin/bash --rm minio/mc
[root@my-mc /]# mc alias set myminio/ https://my-minio-service MY-USER MY-PASSWORD
[root@my-mc /]# mc ls myminio/mybucket

CentOS 上直接安装 MinIO Server

  1. 安装依赖

    sudo yum install -y epel-release
    sudo yum install -y mc httpd-tools
  2. 下载并解压MinIO二进制包: 下载最新版本的MinIO二进制包,解压并移动至 /usr/local/bin 目录或自己指定目录,自定义目录时建议将目录加入系统环境的PATH。

  3. 运行MinIO: 类似于Docker中的数据卷挂载,你需要提供一个本地目录作为存储路径:

    mkdir -p /mnt/minio/data
    nohup minio server /mnt/minio/data &

Windows部署 MinIO Server

注意事项:

  1. 步骤1:下载MinIO Server

    访问MinIO官方下载页面获取适用于Windows操作系统的可执行文件:下载地址:MinIO | Code and downloads to create high performance object storage

  2. 步骤2:解压并安装

  3. 下载完成后,解压缩文件到你希望存放MinIO服务程序的位置,例如 C:\develop\minio

  4. 步骤3:创建数据存储目录

    为了持久化存储数据,需要在本地硬盘上创建一个目录用于保存上传的文件。比如,在 D:\minio-data 创建存储目录。

    步骤4:启动MinIO Server

    打开命令提示符(CMD)窗口,以管理员身份运行,并切换到MinIO可执行文件所在的目录:

    cd C:\develop\minio

    然后使用以下命令启动MinIO Server,将 <MINIO_ACCESS_KEY><MINIO_SECRET_KEY> 替换为自定义的访问密钥和私有密钥,并指定存储数据的目录:

    .\minio.exe server D:\minio-data --address ":9000" --access-key <MINIO_ACCESS_KEY> --secret-key <MINIO_SECRET_KEY>

    步骤5:环境配置(可选)

    如果需要设置域名或其他高级选项,可以使用环境变量进行配置。例如,设置MINIO_DOMAIN环境变量:

    set MINIO_DOMAIN=my-minio-server.local

    然后用包含环境变量的方式启动MinIO服务。

    步骤6:验证与访问

  5. MinIO Server默认监听9000端口,所以可以通过浏览器访问 http://localhost:9000 进入Web管理界面。
  6. 使用之前设定的访问密钥和私有密钥登录(初始默认值是 minioadmin 和 minioadmin)。
  7. 请确保防火墙或安全组规则允许9000端口的访问。在生产环境中,请务必更改默认的访问密钥和私有密钥,确保系统安全性。如果需要在分布式模式下部署MinIO,请参考官方文档关于集群部署的具体步骤。对于多节点部署,还需要额外的配置参数来定义集群成员以及纠删码等信息。

powershell方式:

## 安装minio,先直接拉取exe
Invoke-WebRequest -Uri "https://dl.min.io/server/minio/release/windows-amd64/minio.exe" -OutFile "C:\minio.exe"
setx MINIO_ROOT_USER admin
setx MINIO_ROOT_PASSWORD password
C:\minio.exe server F:\Data --console-address ":9001"## client
Invoke-WebRequest -Uri "https://dl.minio.io/client/mc/release/windows-amd64/mc.exe" -OutFile "C:\mc.exe"
C:\mc.exe alias set myminio/ http://MINIO-SERVER MYUSER MYPASSWORD

macOS部署 MinIO Server

  1. 安装Homebrew(如果尚未安装):

    /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
  2. 使用Homebrew安装MinIO

    brew install minio/stable/minio
  3. 运行MinIO: 在终端中运行MinIO服务器指向一个本地目录:

    mkdir -p ~/minio-storage
    minio server ~/minio-storage
Client端连接与使用:

对于客户端连接,无论在哪种环境下部署的MinIO服务器,都可以使用以下步骤进行连接:

  1. 设置环境变量(可选,用于简化命令行操作):

    export MINIO_ENDPOINT=http://localhost:9000
    export MINIO_ACCESS_KEY=youraccesskey
    export MINIO_SECRET_KEY=yoursecretkey
  2. 使用MinIO客户端工具mc: 安装mc(minio/mc),然后使用以下命令连接到MinIO服务器:

    mc alias set myminio $MINIO_ENDPOINT $MINIO_ACCESS_KEY $MINIO_SECRET_KEY
  3. 验证连接: 运行 mc ls myminio 来查看桶列表,如果一切正常,您应该能看到服务器上的存储桶信息。

请注意,在生产环境中,请务必替换上述示例中的“youraccesskey”和“yoursecretkey”为您的实际访问密钥和私有密钥,并且根据实际情况调整网络配置和持久化存储设置。同时,务必确保遵循最佳安全实践,如限制公网访问、启用SSL加密等。

 浏览器访问:

访问和管理MinIO服务器

启动MinIO服务器后,可以通过浏览器或通过S3 API来访问和管理MinIO服务器。

python示例代码:

以下是一个使用Python编写的示例代码,展示了如何使用MinIO的Python SDK与MinIO服务器进行交互。

import boto3# 创建MinIO客户端
s3 = boto3.client('s3',endpoint_url='http://localhost:9000',aws_access_key_id='YOUR_ACCESS_KEY',aws_secret_access_key='YOUR_SECRET_KEY')# 列出所有桶
response = s3.list_buckets()
for bucket in response['Buckets']:print(bucket['Name'])# 创建一个桶
s3.create_bucket(Bucket='mybucket')# 上传文件
s3.upload_file('myfile.txt', 'mybucket', 'myfile.txt')# 下载文件
s3.download_file('mybucket', 'myfile.txt', 'downloaded_file.txt')# 删除文件
s3.delete_object(Bucket='mybucket', Key='myfile.txt')# 删除桶
s3.delete_bucket(Bucket='mybucket')

以上代码使用了boto3库来与MinIO服务器进行交互。需要注意的是,endpoint_url参数应该指向正确的MinIO服务器地址,aws_access_key_idaws_secret_access_key参数应该设置为正确的访问密钥。

nodejs示例:

安装MinIO Node.js SDK

首先,在你的Node.js项目中安装MinIO SDK:

npm install minio

示例代码

1. 初始化MinIO客户端
const Minio = require('minio');// 创建一个MinIO客户端实例
var minioClient = new Minio.Client({endPoint: 'your-minio-server-endpoint',port: 9000, // 默认端口为9000,如果自定义了端口,请修改useSSL: false, // 如果是https连接,则设置为trueaccessKey: 'your-access-key',secretKey: 'your-secret-key'
});// 检查连接
minioClient.ping((err) => {if (err) throw err;console.log('Connected to MinIO server successfully.');
});
2. 创建一个存储桶
minioClient.makeBucket('my-bucket', 'us-west-1', function(err) {if (err) return console.log(err);console.log('Bucket created successfully');
});
3. 上传一个文件到存储桶
// 读取本地文件
const fs = require('fs');
fs.readFile('local-file.txt', (err, data) => {if (err) throw err;// 上传文件到MinIOminioClient.putObject('my-bucket', 'remote-file.txt', data, data.length, 'application/text', function(err, etag) {if (err) return console.log(err);console.log("File uploaded successfully.");});
});
4. 列出存储桶内的所有对象
minioClient.listObjectsV2('my-bucket', '', true, function(err, objects) {if (err) return console.log(err);for (let obj of objects) {console.log(obj.name);}
});

请确保替换上述代码中的your-minio-server-endpointyour-access-keyyour-secret-key为你实际的MinIO服务器地址、访问密钥和私有密钥。同时,根据需要调整存储桶名称、本地文件路径以及远程对象名。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/236343.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

jmeter--2.常用组件以及作用域

目录 1.常用的组件以及执行顺序 2.常用的组件作用 2.1 测试计划&#xff1a;jmeter启动&#xff0c;其它组件的容器 2.2 线程组&#xff08;测试片段&#xff09;&#xff1a;代表一定虚拟用户数&#xff0c;测试片段代表模块 2.3 配置元件&#xff1a;配置信息 2.4 前置处…

便携式灯具的UL测试标准UL153介绍

UL153标准&#xff1a;UL153标准主要是描述有关使用电源线及插头作为连接工具,使用120伏电压,15或20安培的电源,并符合美国国家电器规范的便携灯.此标准也适用于那些不用插头,而用一些兼容的接线端作为连接工具的便携灯&#xff0c;同时对于使用非120伏电压&#xff0c;15or20安…

Linux限制用户可用硬盘空间

为了防止某个用户占用大量资源导致其他用户无法正常使用&#xff0c;一般会对单个用户可占用资源进行限制。就磁盘限额&#xff0c;XFS文件系统原生支持目录级别的限制。ext文件系统不支持目录限制&#xff0c;曲线方式是限制用户的总占用空间。 本文介绍使用quota程序限制用户…

02. 坦克大战项目-准备工作和绘制坦克

02. 坦克大战项目-准备工作和绘制坦克 01. 准备工作 1. 首先我们要创建四个类 1. Tank类 介绍&#xff1a;Tank 类主要用来表示坦克的基本属性和行为 public class Tank {private int x;//坦克的横坐标private int y;//坦克的纵坐标public int getX() {return x;}public v…

Springboot3+EasyExcel由浅入深

环境介绍 技术栈 springboot3easyexcel 软件 版本 IDEA IntelliJ IDEA 2022.2.1 JDK 17 Spring Boot 3 EasyExcel是一个基于Java的、快速、简洁、解决大文件内存溢出的Excel处理工具。 他能让你在不用考虑性能、内存的等因素的情况下&#xff0c;快速完成Excel的读、…

Android系统remount功能的实现原理

前言 remount 是 Android 系统中的一个命令&#xff0c;用于重新挂载文件系统为可读写模式。在 Android 设备中&#xff0c;大多数文件系统默认是以只读模式挂载的&#xff0c;在这种模式下&#xff0c;无法修改或删除文件。使用 remount 命令可以将文件系统重新挂载为可读写模…

关于burpsuite设置HTTP或者SOCKS代理

使用burpsuite给自己的浏览器做代理&#xff0c;抓包重发这些想必大家都清除 流量请求过程&#xff1a; 本机浏览器 -> burpsuite -> 目标服务器 实质还是本机发出的流量 如果我们想让流量由其他代理服务器发出 实现&#xff1a; 本机浏览器 -> burpsuite -> 某…

用Gradio做一个ai-chat应用

背景 上半年国内的大模型还没遍地开花的时候&#xff0c;笔者花巨资购了两台云服务器及给OpenAI充了20$&#xff0c;给身边的亲友给做了一个可使用的ai-chat。 代码实现 起先笔者 基于openai的api接口文档 API Reference - OpenAI API &#xff0c;自己编写web后台&#xff0…

Flink自定义Source模拟数据流

maven依赖 <?xml version"1.0" encoding"UTF-8"?> <project xmlns"http://maven.apache.org/POM/4.0.0"xmlns:xsi"http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation"http://maven.apache.org/POM/4.0.…

1329:【例8.2】细胞 广度优先搜索

1329&#xff1a;【例8.2】细胞 时间限制: 1000 ms 内存限制: 65536 KB 【题目描述】 一矩形阵列由数字0 到9组成,数字1到9 代表细胞,细胞的定义为沿细胞数字上下左右还是细胞数字则为同一细胞,求给定矩形阵列的细胞个数。如: 4 10 0234500067 1034560500 2045600671 00000000…

docker搭建部署minio 存储文件

1. 介绍 MinIO是一个开源的对象存储服务器&#xff0c;它允许你在自己的硬件上构建高性能的对象存储。本文将指导你如何使用Docker搭建和部署MinIO&#xff0c;并挂载外部目录以实现文件的持久化存储。 2. 安装Docker 首先&#xff0c;确保你的系统上已经安装了Docker。你可…

基于JavaWeb+SSM+Vue基于微信小程序的消防隐患在线举报系统的设计与实现

基于JavaWebSSMVue基于微信小程序的消防隐患在线举报系统的设计与实现 源码获取入口KaiTi 报告Lun文目录前言主要技术系统设计功能截图订阅经典源码专栏Java项目精品实战案例《500套》 源码获取 源码获取入口 KaiTi 报告 1.1 题目背景 随着信息化飞速发展&#xff0c;互联网不…

3D PDF查看器HOOPS Publish助力Smartscape拓展日本AEC市场!

​ 公司&#xff1a;Smartscape Co., Ltd. 行业&#xff1a;建筑、工程和施工(AEC) 软件&#xff1a;适用于AEC行业的3D PDF工具 软件开发工具包&#xff1a;Hoops Publish HOOPS_3D软件开发工具_HOOPS中文网慧都科技是HOOPS全套产品中国地区指定授权经销商&#xff0c;提供3D…

Python教程41:使用turtle画蜡笔小新

---------------turtle源码集合--------------- Python教程39&#xff1a;使用turtle画美国队长盾牌 Python教程38&#xff1a;使用turtle画动态粒子爱心文字爱心 Python教程37&#xff1a;使用turtle画一个戴帽子的皮卡丘 Python教程36&#xff1a;海龟画图turtle写春联 …

十一、工具盒类(MyQQ)(Qt5 GUI系列)

目录 ​编辑 一、设计需求 二、实现代码 三、代码解析 四、总结 一、设计需求 抽屉效果是软件界面设计中的一种常用形式&#xff0c;可以以一种动态直观的方式在有限大小的界面上扩展出更多的功能。本例要求实现类似 QQ 抽屉效果。 二、实现代码 #include "dialog.…

应对 DevOps 中的技术债务:创新与稳定性的微妙平衡

技术性债务在DevOps到底意味着什么&#xff1f;从本质上讲&#xff0c;这是小的开发缺陷的积累&#xff0c;需要不断地返工。它可能由多种原因引起&#xff0c;例如快速交付新功能的压力&#xff0c;这可能会导致团队不得不牺牲代码的整洁和完善。但这些不完整的小代码&#xf…

【Python进阶必备】一文掌握re库:实战正则表达式

目录 re库初识 re库基础使用方法 compile()函数 基本用法 正则表达式常用规则字符 match与search方法 match search match/search findall与finditer方法 使用findall()返回所有匹配项 使用findall()提取多个组的匹配 使用finditer()逐个返回Match对象 使用findi…

Realm Management Extension领域管理扩展之系统架构

RME不仅仅是一组处理器功能,为了充分利用RME引入的功能,系统的其余部分需要提供支持。 下图显示了一个示例系统以及引入RME后受到影响的组件: 主存储器保护 RME启用的系统包括内存加密和可能的完整性。基线加密要求支持对外部内存进行加密,使用每个PA空间的单独加密密钥或…

3. SPSS数据文件的基本加工和处理

如何获取SPSS自带的案例数据文件&#xff1f; 首先找到SPSS的安装目录&#xff0c;然后找到Samples文件夹 可以看到有不同语言版本&#xff0c;选择简体中文 就能看到很多.sav文件 数据文件的整理 个案排序 单值排序 例&#xff1a;对于下面的数据集&#xff0c;将工资按…

访问学者申请需要注意什么?

访问学者申请是一项复杂而重要的过程&#xff0c;需要申请人在准备材料和过程中注意一些关键事项&#xff0c;以确保顺利完成申请并提高成功率。以下是知识人网小编的一些建议&#xff0c;希望对你的访问学者申请有所帮助。 1. 详细了解目标学术机构&#xff1a; 在申请访问学…