CurveBS 的核心应用场景主要包括:
- 虚拟机/容器的性能型、混合型、容量型云盘或持久化卷,以及物理机的远程存储盘
- 高性能存算分离架构:基于RDMA+SPDK的高性能低时延架构,支撑MySQL、kafka等各类数据库、中间件的存算分离部署架构,提升实例交付效率和资源利用率
- AI训练(含机器学习等)场景下的高性价比存储
- 大数据场景下的冷热数据自动化分层存储
- 公有云上高性价比的共享文件存储:可用于AI、大数据、文件共享等业务场景
- 混合云存储:热数据存储在本地IDC,冷数据存储在公有云
使用 CurveAdm 部署 CurveFS
- 快速部署 CurveBS/CurveFS 集群
- 容器化服务
- 运维 CurveBS/CurveFS 集群
- 同时管理多个集群
- 一键升级
- 错误精确定位
安装 CurveAdm
bash -c "$(curl -fsSL https://curveadm.nos-eastchina1.126.net/script/install.sh"
主机列表
主机模块用来统一管理用户主机,以减少用户在各配置文件中重复填写主机 SSH
连接相关配置。我们需导入部署集群和客户端所需的机器列表,以便在之后的各类配置文件中填写部署服务的主机名。
配置免密登陆
生成密钥并配置服务器免密登陆
# 一直回车即可
ssh-keygen
# 使用 ssh-copy-id 配置
ssh-copy-id root@172.31.98.243
# 验证免密
ssh root@172.31.98.243
# 无需输入密码登陆成功即可
导入主机列表
准备主机列表文件 hosts.yaml
$ vim hosts.yaml
global:
user: root # ssh 免密登陆用户名
ssh_port: 22 # ssh 端口
private_key_file: /root/.ssh/id_rsa # 密钥路径
hosts:
- host: curve
hostname: 172.31.98.243
导入主机列表
$ curveadm hosts commit hosts.yaml
查看主机列表
$ curveadm hosts ls
准备集群拓扑文件
CurveFS 支持单机部署和高可用部署,这里我们采用单机部署验证。
topology.yaml 文件,只需修改 target: curve
,其他都默认即可。
$ vim topology.yaml
kind: curvefs
global:
report_usage: true
data_dir: ${home}/curvefs/data/${service_role}${service_host_sequence}
log_dir: ${home}/curvefs/logs/${service_role}${service_host_sequence}
container_image: opencurvedocker/curvefs:v2.4
variable:
home: /tmp
target: curve
etcd_services:
config:
listen.ip: ${service_host}
listen.port: 2380${service_host_sequence} # 23800,23801,23802
listen.client_port: 2379${service_host_sequence} # 23790,23791,23792
deploy:
- host: ${target}
- host: ${target}
- host: ${target}
mds_services:
config:
listen.ip: ${service_host}
listen.port: 670${service_host_sequence} # 6700,6701,6702
listen.dummy_port: 770${service_host_sequence} # 7700,7701,7702
deploy:
- host: ${target}
- host: ${target}
- host: ${target}
metaserver_services:
config:
listen.ip: ${service_host}
listen.port: 680${service_host_sequence} # 6800,6801,6802
listen.external_port: 780${service_host_sequence} # 7800,7801,7802
global.enable_external_server: true
metaserver.loglevel: 0
braft.raft_sync: false
deploy:
- host: ${target}
- host: ${target}
- host: ${target}
config:
metaserver.loglevel: 0
部署集群
添加 my-cluster
集群,并指定集群拓扑文件
curveadm cluster add my-cluster -f topology.yaml
切换 my-cluster
集群为当前管理集群
curveadm cluster checkout my-cluster
开始部署集群
$ curveadm deploy
......
Cluster 'my-cluster' successfully deployed ^_^.
终端出现 Cluster 'my-cluster' successfully deployed ^_^.
即部署成功。
查看集群运行情况
$ curveadm status
Get Service Status: [OK]
cluster name : my-cluster
cluster kind : curvefs
cluster mds addr : 192.168.3.81:6700,192.168.3.81:6701,192.168.3.81:6702
cluster mds leader: 192.168.3.81:6702 / 7f5b7443c563
Id Role Host Replicas Container Id Status
-- ---- ---- -------- ------------ ------
6ae9ac1ae448 etcd curve 1/1 d3ecb4e81318 Up 17 minutes
c45e2f0b9266 etcd curve 1/1 8ce9befa54b8 Up 17 minutes
6c6bde442a04 etcd curve 1/1 cbf093c6605f Up 17 minutes
9516d8f5d9ae mds curve 1/1 f338ec63c493 Up 17 minutes
fe2bf5d8a072 mds curve 1/1 b423c3351256 Up 17 minutes
7f5b7443c563 mds curve 1/1 7ad99cee6b61 Up 17 minutes
e6fe68d23220 metaserver curve 1/1 d4a8662d4ed2 Up 17 minute