首页 > 其他分享 >电商项目--分布式文件存储FastDFS搭建

电商项目--分布式文件存储FastDFS搭建

时间:2024-12-05 22:37:01浏览次数:11  
标签:文件 return String -- FastDFS groupName file 电商 public

  一、FastDFS环境搭建
我们使用Docker搭建FastDFS的开发环境

(1)拉取镜像

docker pull morunchang/fastdfs

 

(2)运行tracker

docker run -d --name tracker --net=host morunchang/fastdfs sh tracker.sh

(3)运行storage

docker run -d --name storage --net=host -e TRACKER_IP=<your tracker server address>:22122 -e GROUP_NAME=<group name> morunchang/fastdfs sh storage.sh

  --使用的网络模式是–net=host, 替换为机器的Ip即可
  --是组名,即storage的组
  --如果想要增加新的storage服务器,再次运行该命令,注意更换 新组名
(4)修改nginx的配置

进入storage的容器内部,修改nginx.conf

docker exec -it storage  /bin/bash

进入后

vi /data/nginx/conf/nginx.conf

 

添加以下内容

location /group1/M00 {
   proxy_next_upstream http_502 http_504 error timeout invalid_header;
     proxy_cache http-cache;
     proxy_cache_valid  200 304 12h;
     proxy_cache_key $uri$is_args$args;
     proxy_pass http://fdfs_group1;
     expires 30d;
 }

 

(5)退出容器

exit

 

(6)重启storage容器

docker restart storage

 


  二、搭建文件存储微服务
创建文件管理微服务shangcheng_service_file,该工程主要用于实现文件上传以及文件删除等功能。

步骤一:修改pom.xml,引入依赖

<dependencies>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    <dependency>
        <groupId>net.oschina.zcx7878</groupId>
        <artifactId>fastdfs-client-java</artifactId>
        <version>1.27.0.0</version>
    </dependency>
    <dependency>
        <groupId>com.changgou</groupId>
        <artifactId>changgou_common</artifactId>
        <version>1.0-SNAPSHOT</version>
    </dependency>
</dependencies>

 

步骤二:在resources文件夹下创建fasfDFS的配置文件fdfs_client.conf

connect_timeout = 60
network_timeout = 60
charset = UTF-8
http.tracker_http_port = 8080
tracker_server = 192.168.200.128:22122

 

connect_timeout:连接超时时间,单位为秒。

network_timeout:通信超时时间,单位为秒。发送或接收数据时。假设在超时时间后还不能发送或接收数据,则本次网络通信失败

charset: 字符集

http.tracker_http_port :.tracker的http端口

tracker_server: tracker服务器IP和端口设置

步骤三:在resources文件夹下创建application.yml

spring:
  servlet:
    multipart:
      max-file-size: 10MB
      max-request-size: 10MB
server:
  port: 9008
eureka:
  client:
    service-url:
      defaultZone: http://127.0.0.1:6868/eureka
  instance:
    prefer-ip-address: true
feign:
  hystrix:
    enabled: true

 

max-file-size是单个文件大小,max-request-size是设置总上传的数据大小

步骤四:创建com.changgou.file包,创建启动类FileApplication

@SpringBootApplication
@EnableEurekaClient
public class FileApplication {
​
    public static void main(String[] args) {
        SpringApplication.run(FileApplication.class);
    }
}

 


  三、实现文件上传
(1)文件信息封装:

文件上传一般都有文件的名字、文件的内容、文件的扩展名、文件的md5值、文件的作者等相关属性,我们可以创建一个对象封装这些属性,代码如下:

创建com.shangcheng.file.pojo.FastDFSFile

public class FastDFSFile {
    //文件名字
    private String name;
    //文件内容
    private byte[] content;
    //文件扩展名
    private String ext;
    //文件MD5摘要值
    private String md5;
    //文件创建作者
    private String author;
​
    public FastDFSFile(String name, byte[] content, String ext, String height,
                       String width, String author) {
        super();
        this.name = name;
        this.content = content;
        this.ext = ext;
        this.author = author;
    }
​
    public FastDFSFile(String name, byte[] content, String ext) {
        super();
        this.name = name;
        this.content = content;
        this.ext = ext;
    }
​
    // getter and setter ...
}

 

(2)文件操作:

创建FastDFSClient类,放在com.shangcheng.file.util下在该类中实现FastDFS信息获取以及文件的相关操作,

代码如下:

public class FastDFSClient {
    
    private static org.slf4j.Logger logger = LoggerFactory.getLogger(FastDFSClient.class);
​
    /***
     * 初始化加载FastDFS的TrackerServer配置
     */
    static {
        try {
            String filePath = new ClassPathResource("fdfs_client.conf").getFile().getAbsolutePath();
            ClientGlobal.init(filePath);
        } catch (Exception e) {
            logger.error("FastDFS Client Init Fail!",e);
        }
    }
​
    /***
     * 文件上传
     * @param file
     * @return
     */
    public static String[] upload(FastDFSFile file) {
        //获取文件的作者
        NameValuePair[] meta_list = new NameValuePair[1];
        meta_list[0] = new NameValuePair("author", file.getAuthor());
​
        //接收返回数据
        String[] uploadResults = null;
        StorageClient storageClient=null;
        try {
            //创建StorageClient客户端对象
            storageClient = getTrackerClient();
​
            /***
             * 文件上传
             * 1)文件字节数组
             * 2)文件扩展名
             * 3)文件作者
             */
            uploadResults = storageClient.upload_file(file.getContent(), file.getExt(), meta_list);
        } catch (Exception e) {
            logger.error("Exception when uploadind the file:" + file.getName(), e);
        }
​
        if (uploadResults == null && storageClient!=null) {
            logger.error("upload file fail, error code:" + storageClient.getErrorCode());
        }
        //获取组名
        String groupName = uploadResults[0];
        //获取文件存储路径
        String remoteFileName = uploadResults[1];
        return uploadResults;
    }
​
    /***
     * 获取文件信息
     * @param groupName:组名
     * @param remoteFileName:文件存储完整名
     * @return
     */
    public static FileInfo getFile(String groupName, String remoteFileName) {
        try {
            StorageClient storageClient = getTrackerClient();
            return storageClient.get_file_info(groupName, remoteFileName);
        } catch (Exception e) {
            logger.error("Exception: Get File from Fast DFS failed", e);
        }
        return null;
    }
​
    /***
     * 文件下载
     * @param groupName
     * @param remoteFileName
     * @return
     */
    public static InputStream downFile(String groupName, String remoteFileName) {
        try {
            //创建StorageClient
            StorageClient storageClient = getTrackerClient();
​
            //下载文件
            byte[] fileByte = storageClient.download_file(groupName, remoteFileName);
            InputStream ins = new ByteArrayInputStream(fileByte);
            return ins;
        } catch (Exception e) {
            logger.error("Exception: Get File from Fast DFS failed", e);
        }
        return null;
    }
​
    /***
     * 文件删除
     * @param groupName
     * @param remoteFileName
     * @throws Exception
     */
    public static void deleteFile(String groupName, String remoteFileName)
            throws Exception {
        //创建StorageClient
        StorageClient storageClient = getTrackerClient();
​
        //删除文件
        int i = storageClient.delete_file(groupName, remoteFileName);
    }
​
    /***
     * 获取Storage组
     * @param groupName
     * @return
     * @throws IOException
     */
    public static StorageServer[] getStoreStorages(String groupName)
            throws IOException {
        //创建TrackerClient
        TrackerClient trackerClient = new TrackerClient();
        //获取TrackerServer
        TrackerServer trackerServer = trackerClient.getConnection();
        //获取Storage组
        return trackerClient.getStoreStorages(trackerServer, groupName);
    }
​
    /***
     * 获取Storage信息,IP和端口
     * @param groupName
     * @param remoteFileName
     * @return
     * @throws IOException
     */
    public static ServerInfo[] getFetchStorages(String groupName,
                                                String remoteFileName) throws IOException {
        TrackerClient trackerClient = new TrackerClient();
        TrackerServer trackerServer = trackerClient.getConnection();
        return trackerClient.getFetchStorages(trackerServer, groupName, remoteFileName);
    }
​
    /***
     * 获取Tracker服务地址
     * @return
     * @throws IOException
     */
    public static String getTrackerUrl() throws IOException {
        return "http://"+getTrackerServer().getInetSocketAddress().getHostString()+":"+ClientGlobal.getG_tracker_http_port()+"/";
    }
​
    /***
     * 获取Storage客户端
     * @return
     * @throws IOException
     */
    private static StorageClient getTrackerClient() throws IOException {
        TrackerServer trackerServer = getTrackerServer();
        StorageClient storageClient = new StorageClient(trackerServer, null);
        return  storageClient;
    }
​
    /***
     * 获取Tracker
     * @return
     * @throws IOException
     */
    private static TrackerServer getTrackerServer() throws IOException {
        TrackerClient trackerClient = new TrackerClient();
        TrackerServer trackerServer = trackerClient.getConnection();
        return  trackerServer;
    }
}

 

(3)文件上传:

创建一个FileController,在该控制器中实现文件上传操作,代码如下:

@RestController
@RequestMapping("/file")
public class FileController {
​
    @PostMapping("/upload")
    public Result uploadFile(MultipartFile file){
        try{
            //判断文件是否存在
            if (file == null){
                throw new RuntimeException("文件不存在");
            }
            //获取文件的完整名称
            String originalFilename = file.getOriginalFilename();
            if (StringUtils.isEmpty(originalFilename)){
                throw new RuntimeException("文件不存在");
            }
​
            //获取文件的扩展名称  abc.jpg   jpg
            String extName = originalFilename.substring(originalFilename.lastIndexOf(".") + 1);
​
            //获取文件内容
            byte[] content = file.getBytes();
​
            //创建文件上传的封装实体类
            FastDFSFile fastDFSFile = new FastDFSFile(originalFilename,content,extName);
​
            //基于工具类进行文件上传,并接受返回参数  String[]
            String[] uploadResult = FastDFSClient.upload(fastDFSFile);
​
            //封装返回结果
            String url = FastDFSClient.getTrackerUrl()+uploadResult[0]+"/"+uploadResult[1];
            return new Result(true,StatusCode.OK,"文件上传成功",url);
        }catch (Exception e){
            e.printStackTrace();
        }
        return new Result(false, StatusCode.ERROR,"文件上传失败");
    }
}

 

  四、使用Postman测试文件上传


使用Postman测试文件上传 步骤:

1、选择post请求方式,输入请求地址 http://localhost:9008/upload

2、填写Headers

Key:Content-Type
Value:multipart/form-data

 


3、填写body

选择form-data 然后选择文件file 点击添加文件,最后发送即可。

标签:文件,return,String,--,FastDFS,groupName,file,电商,public
From: https://www.cnblogs.com/kongsq/p/18589555

相关文章

  • pinia 持久化存储库pinia-plugin-persist使用
    对于Vue3和Pinia,有一个名为pinia-plugin-persist的插件可以用来持久化Piniastore的状态到localStorage或sessionStorage。这个插件简化了状态持久化的过程,使得你不需要手动编写保存和加载状态的逻辑。以下是如何使用pinia-plugin-persist插件来持久化Piniastore......
  • DSP 的 CV 算子调用
    01前言DSP是征程5上的数字信号处理器,专用于处理视觉、图像等信息。在OE包的ddk/samples/vdsp_rpc_sample路径下,提供了DSP使用示例,包括nn和CV两部分。nn示例涵盖了深度学习模型的相关算子,包括量化、反量化、Softmax和雷达点云预处理;CV示例展示了如何调用地平线......
  • js 如何操作IndexedDB 存储
    IndexedDB是一种在用户浏览器中存储大量结构化数据的方式。它是一个低级API,用于在客户端存储大量数据,并使用索引来进行高性能搜索。以下是如何在前端JavaScript中使用IndexedDB的基本步骤:1.打开数据库首先,你需要打开一个数据库。如果数据库不存在,它会自动创建。letdb;......
  • linux命令
    1.查看当前目录  ls:-l 以列表方式显示-h以大小单位显示,默认字节为单位-a显示隐藏目录和隐藏文件2.以树状方式显示目录信息 tree3.查看当前目录路径  pwd4.清楚终端内容   clear5.切换目录命......
  • 小程序内嵌web-view缓存
    现状:项目是通过web-view内嵌在小程序里的H5页面,然而发布新版本之后,在小程序入口进去看到的还是旧页面原因:通用缓存原理浏览器每次发起请求,都会先在浏览器缓存中查找该请求的结果以及缓存标识浏览器每次拿到返回的请求结果都会将该结果和缓存标识存入浏览器缓存web-view组......
  • 电商项目-跨域解决方案CORS
    一、什么是跨域出于浏览器的同源策略限制。同源策略(Sameoriginpolicy)是一种约定,它是浏览器最核心也最基本的安全功能,如果缺少了同源策略,则浏览器的正常功能可能都会受到影响。可以说Web是构建在同源策略基础之上的,浏览器只是针对同源策略的一种实现。同源策略......
  • 一个js文件导出一个new class实例,其他多个地方import引用的是同一个实例对象吗
    在JavaScript中,当你从一个模块导出一个类的实例时,其他模块在导入这个实例时将获得该实例的一个引用。这意味着,如果你修改了这个实例的属性或调用它的方法,所有导入该实例的模块都会看到这些更改,因为它们引用的是同一个对象。以下是一个示例:moduleA.js:classMyClass{const......
  • 【计算机毕业设计选题】最新毕业设计----基于SpringBoot的网上预订汽车票管理系统的设
    博主介绍:原计算机互联网大厂开发,十年开发经验,带领技术团队几十名,专注技术开发,计算机毕设实战导师,专注Java、Python、小程序、安卓、深度学习和算法开发研究。主要服务内容:选题定题、开题报告、任务书、程序开发、文档编写和辅导、文档降重、程序讲解、答辩辅导等,欢迎咨询~......
  • 修改数据库的敏感字段-批量刷加密数据
    需求今天分配到一个任务,修改数据库的敏感字段。具体就是,以前有些数据库的敏感字段,诸如手机号、邮箱这一类的信息,在数据库中应该不存储或加密存储的,但是之前编写的时候并未加密直接存储在数据库了,现在为了安全需要这些敏感字段进行修改。方法修改敏感字段的方法有两种,上面也提......
  • 【大模型应用开发 动手做AI Agent】具身智能的实现
    【大模型应用开发动手做AIAgent】具身智能的实现关键词:大模型、AIAgent、具身智能、应用开发、深度学习、自然语言处理、计算机视觉、人机交互、机器人控制摘要:本文将探讨大模型在具身智能中的应用,通过动手实践构建一个AIAgent。文章首先介绍了大模型的基本概念和特......