首页 > 其他分享 >存储方案_数据同步

存储方案_数据同步

时间:2023-02-22 18:23:03浏览次数:32  
标签:方案 存储 同步 HDFS MooseFS 文件系统 Ceph 数据

分布式文件系统选型参考

  SeaweedFS是  Minio
分布式文件系统有:GFS、HDFS、Ceph、Lustre、MogileFS、MooseFS、FastDFS、TFS、GridFS 
 适合做通用文件系统的有:Ceph,Lustre,MooseFS,GlusterFS;
 适合做小文件存储的文件系统有:Ceph,MooseFS,MogileFS,FastDFS,TFS;
 适合做大文件存储的文件系统有:HDFS,Ceph,Lustre,GlusterFS,GridFS;
 轻量级文件系统有:MooseFS,FastDFS;
 简单易用,用户数量活跃的文件系统有:MooseFS,MogileFS,FastDFS,GlusterFS;
 支持FUSE挂载的文件系统有:HDFS,Ceph,Lustre,MooseFS,GlusterFS。 
JuiceFS 是一个分布式文件系统
     JuiceFS:云原生时代的分布式文件系统 
HDFS 并不适合存储小文件

对象存储

对象存储是能够承载百亿规模文件的,
    缺少原生目录支持、缺少完整 POSIX 语义支持、元数据性能弱这三方面的问题让对象存储并不适合海量小文件训练场景。
	
IDC 机房里设置一个缓存集群,起到缓存数据加速训练的效果,相比每次从对象存储访问数据,既能节省专线带宽,还能节省对象存储 API 调用费用 		
对象存储解决方案Minio	

存储协议

POSIX、HDFS、S3 三大主流访问协议
浪潮AS13000-H并行存储系统 是专门针对高性能计算开发和优化的并行文件存储系统。它基于BeeGFS文件系统商业版本开发

网络硬件

 DAS (Direct Attached Storage) ,即“直连存储”
 SAN(Storage Attached Network),就是存储区域网络
 NAS为Network Attached Storage

跨平台数据同步工具

 rclone
 GoodSync 是一款老牌的数据同步工具
 Syncthing
    Krita/Xmind/Keepass/WPS/Obsdian/RIME/Joplin + Syncthing 就实现了安卓设备、桌面设备的无缝协同

###个人备份
电脑本机一份,NAS一份,云盘一份	
 1、冷数据和热数据
 2、重要数据和普通数据
 3、多媒体数据和其它
 
备份工具
   同步的时候,就帮你校验的工具,这里推荐:
    1、rsync
    2、freefilesync
    3、syncthing

标签:方案,存储,同步,HDFS,MooseFS,文件系统,Ceph,数据
From: https://www.cnblogs.com/ytwang/p/17145419.html

相关文章

  • 局域网大文件上传解决方案
    ​ 我们平时经常做的是上传文件,上传文件夹与上传文件类似,但也有一些不同之处,这次做了上传文件夹就记录下以备后用。首先我们需要了解的是上传文件三要素:1.表单提交方式......
  • Qt 性能优化之二:绘制视频方案选择
    一、不太推荐使用QPainter绘制视频在Qidget上显示视频,一般是通过paintEvent,由于QPainter不是用来渲染视频的,是用来自绘GUI的,用的是CPU渲染,而不是GPU,缺乏显卡......
  • VUE大文件上传解决方案
    ​ 关键部分前端用file.slice()分块前端用FileReader获取每一分块的md5值后端用MultipartFile接受分块文件后端用FileOutputStream拼装分块文件话不多说,直接上代码,......
  • html2canvas截取不到openlayer地图(底图和注记等切片服务图层)解决方案
    第一步:设置所有切片图层服务的source对象,添加属性 crossOrigin: "anonymous",   //允许跨域   第二步:设置html2canvas配置项:   最后,附上html2canvas相......
  • CSharp大文件上传解决方案
    ​ 核心原理: 该项目核心就是文件分块上传。前后端要高度配合,需要双方约定好一些数据,才能完成大文件分块,我们在项目中要重点解决的以下问题。* 如何分片;* 如何合成......
  • Mysql-存储函数-批量插入数据
    1千万数据插入数据库大概也就几分钟----------------------------------删除存储函数----------------------------------dropprocedureifexistscm_basedb.loo......
  • 【服务器数据恢复】华为某型号服务器raid5热备盘同步过程中硬盘离线导致上层应用崩溃,
    服务器数据恢复环境:华为s系列服务器;24块硬盘组成一组raid5磁盘阵列,其中包含1块热备盘。服务器故障&检测:服务器工作状态下raid5中有一块硬盘离线,热备盘激活替换离线硬盘......
  • C#.NET大文件上传解决方案
    ​ HTML部分 <%@ Page Language="C#" AutoEventWireup="true" CodeBehind="index.aspx.cs" Inherits="up6.index" %><!DOCTYPE html PUBLIC "-//W3C//DTDXH......
  • vue axios异步处理方案
    vueaxios异步处理方案1.使用setTimeout函数用延时处理(复杂一点逻辑会达不到效果) 实例:setTimeout(()=>{console.log('1');},300......
  • .NET大文件上传解决方案
    ​ 以ASP.NETCoreWebAPI 作后端 API ,用 Vue 构建前端页面,用 Axios 从前端访问后端 API,包括文件的上传和下载。 准备文件上传的API #region 文件上传......