首页 > 其他分享 >实现一个大文件上传和断点续传

实现一个大文件上传和断点续传

时间:2023-09-26 15:44:23浏览次数:29  
标签:断点续传 const 文件 data 切片 file hash 上传

本文将从零搭建前端和服务端,实现一个大文件上传和断点续传的 demo

前言

本文将从零搭建前端和服务端,实现一个大文件上传和断点续传的 demo

前端:vue element-ui

服务端:nodejs

文章有误解的地方,欢迎指出,将在第一时间改正,有更好的实现方式希望留下你的评论

大文件上传

整体思路

前端

前端大文件上传网上的大部分文章已经给出了解决方案,核心是利用 Blob.prototype.slice 方法,和数组的 slice 方法相似,调用的 slice 方法可以返回原文件的某个切片

这样我们就可以根据预先设置好的切片最大数量将文件切分为一个个切片,然后借助 http 的可并发性,同时上传多个切片,这样从原本传一个大文件,变成了同时传多个小的文件切片,可以大大减少上传时间

另外由于是并发,传输到服务端的顺序可能会发生变化,所以我们还需要给每个切片记录顺序

服务端

服务端需要负责接受这些切片,并在接收到所有切片后合并切片

这里又引伸出两个问题

何时合并切片,即切片什么时候传输完成?如何合并切片?

第一个问题需要前端进行配合,前端在每个切片中都携带切片最大数量的信息,当服务端接受到这个数量的切片时自动合并,也可以额外发一个请求主动通知服务端进行切片的合并

第二个问题,具体如何合并切片呢?这里可以使用 nodejs 的 api fs.appendFileSync,它可以同步地将数据追加到指定文件,也就是说,当服务端接受到所有切片后,先创建一个最终的文件,然后将所有切片逐步合并到这个文件中

talk is cheap,show me the code,接着我们用代码实现上面的思路

前端部分

前端使用 Vue 作为开发框架,对界面没有太大要求,原生也可以,考虑到美观使用 element-ui 作为 UI 框架

上传控件

首先创建选择文件的控件,监听 change 事件以及上传按钮

<template>
   <div>
    <input type="file" @change="handleFileChange" />
    <el-button @click="handleUpload">上传</el-button>
  </div>
</template>

<script>
export default {
  data: () => ({
    container: {
      file: null
    }
  }),
  methods: {
    async handleFileChange(e) {
      const [file] = e.target.files;
      if (!file) return;
      Object.assign(this.$data, this.$options.data());
      this.container.file = file;
    },
    async handleUpload() {}
  }
};
</script>\

请求逻辑

考虑到通用性,这里没有用第三方的请求库,而是用原生 XMLHttpRequest 做一层简单的封装来发请求

request({
      url,
      method = "post",
      data,
      headers = {},
      requestList
    }) {
      return new Promise(resolve => {
        const xhr = new XMLHttpRequest();
        xhr.open(method, url);
        Object.keys(headers).forEach(key =>
          xhr.setRequestHeader(key, headers[key])
        );
        xhr.send(data);
        xhr.onload = e => {
          resolve({
            data: e.target.response
          });
        };
      });
    }

上传切片

接着实现比较重要的上传功能,上传需要做两件事

对文件进行切片

将切片传输给服务端

  <div>
    <input type="file" @change="handleFileChange" />
    <el-button @click="handleUpload">上传</el-button>
  </div>
</template>

<script>
const LENGTH = 10; // 切片数量

export default {
  data: () => ({
    container: {
      file: null,
    data: []
    }
  }),
  methods: {
    request() {},
    async handleFileChange() {},
   // 生成文件切片
   createFileChunk(file, length = LENGTH) {
     const fileChunkList = [];
     const chunkSize = Math.ceil(file.size / length);
     let cur = 0;
     while (cur < file.size) {
       fileChunkList.push({ file: file.slice(cur, cur chunkSize) });
       cur += chunkSize;
     }
     return fileChunkList;
   },
  // 上传切片
   async uploadChunks() {
     const requestList = this.data
       .map(({ chunk }) => {
         const formData = new FormData();
         formData.append("chunk", chunk);
+					 formData.append("hash", hash);
         formData.append("filename", this.container.file.name);
         return { formData };
       })
       .map(async ({ formData }) =>
         this.request({
           url: "http://localhost:3000",
           data: formData
         })
       );
     await Promise.all(requestList); // 并发切片
   },
   async handleUpload() {
     if (!this.container.file) return;
     const fileChunkList = this.createFileChunk(this.container.file);
     this.data = fileChunkList.map(({ file },index) => ({
       chunk: file,
       hash: this.container.file.name "-" index // 文件名 数组下标
     }));
     await this.uploadChunks();
   }
  }
};
</script>

当点击上传按钮时,调用 createFileChunk 将文件切片,切片数量通过一个常量 Length 控制,这里设置为 10,即将文件分成 10 个切片上传

createFileChunk 内使用 while 循环和 slice 方法将切片放入 fileChunkList 数组中返回

在生成文件切片时,需要给每个切片一个标识作为 hash,这里暂时使用文件名 下标,这样后端可以知道当前切片是第几个切片,由于之后的合并切片

随后调用 uploadChunks 上传所有的文件切片,将文件切片,切片 hash,以及文件名放入 FormData 中,再调用上一步的 request 函数返回一个 proimise,最后调用 Promise.all 并发上传所有的切片

发送合并请求

这里使用整体思路中提到的第二种合并切片的方式,即前端主动通知服务端进行合并,所以前端还需要额外发请求,服务端接受到这个请求时主动合并切片

  <div>
    <input type="file" @change="handleFileChange" />
    <el-button @click="handleUpload">上传</el-button>
  </div>
</template>

<script>
export default {
  data: () => ({
    container: {
      file: null
    },
    data: []
  }),
  methods: {
    request() {},
    async handleFileChange() {},
    createFileChunk() {},
    // 上传切片,同时过滤已上传的切片
    async uploadChunks() {
      const requestList = this.data
        .map(({ chunk }) => {
          const formData = new FormData();
          formData.append("chunk", chunk);
          formData.append("hash", hash);
          formData.append("filename", this.container.file.name);
          return { formData };
        })
        .map(async ({ formData }) =>
          this.request({
            url: "http://localhost:3000",
            data: formData
          })
        );
      await Promise.all(requestList);
     // 合并切片
    await this.mergeRequest();
    },
   async mergeRequest() {
     await this.request({
       url: "http://localhost:3000/merge",
       headers: {
         "content-type": "application/json"
       },
       data: JSON.stringify({
         filename: this.container.file.name
       })
     });
   },    
    async handleUpload() {}
  }
};
</script>```
### 服务端部分
简单使用 http 模块搭建服务端

```const http = require("http");
const server = http.createServer();

server.on("request", async (req, res) => {
  res.setHeader("Access-Control-Allow-Origin", "*");
  res.setHeader("Access-Control-Allow-Headers", "*");
  if (req.method === "OPTIONS") {
    res.status = 200;
    res.end();
    return;
  }
});

server.listen(3000, () => console.log("正在监听 3000 端口"));

接受切片

使用 multiparty 包处理前端传来的 FormData

在 multiparty.parse 的回调中,files 参数保存了 FormData 中文件,fields 参数保存了 FormData 中非文件的字段

const http = require("http");
const path = require("path");
const fse = require("fs-extra");
const multiparty = require("multiparty");

const server = http.createServer();
const UPLOAD_DIR = path.resolve(__dirname, "..", "target"); // 大文件存储目录

server.on("request", async (req, res) => {
  res.setHeader("Access-Control-Allow-Origin", "*");
  res.setHeader("Access-Control-Allow-Headers", "*");
  if (req.method === "OPTIONS") {
    res.status = 200;
    res.end();
    return;
  }

 const multipart = new multiparty.Form();

 multipart.parse(req, async (err, fields, files) => {
   if (err) {
     return;
   }
   const [chunk] = files.chunk;
   const [hash] = fields.hash;
   const [filename] = fields.filename;
   const chunkDir = `${UPLOAD_DIR}/${filename}`;

  // 切片目录不存在,创建切片目录
   if (!fse.existsSync(chunkDir)) {
     await fse.mkdirs(chunkDir);
   }

   // 重命名文件
   await fse.rename(chunk.path, `${chunkDir}/${hash}`);
   res.end("received file chunk");
 });
});

server.listen(3000, () => console.log("正在监听 3000 端口"));

查看 multiparty 处理后的 chunk 对象,path 是存储临时文件的路径,size 是临时文件大小,在 multiparty 文档中提到可以使用 fs.rename 重命名的方式移动临时文件,也就是文件切片

在接受文件切片时,需要先创建存储切片的文件夹,由于前端在发送每个切片时额外携带了唯一值 hash,所以以 hash 作为文件名,将切片从临时路径移动切片文件夹中,最后的结果如下

合并切片

在接收到前端发送的合并请求后,服务端将文件夹下的所有切片进行合并

const http = require("http");
const path = require("path");
const fse = require("fs-extra");

const server = http.createServer();
const UPLOAD_DIR = path.resolve(__dirname, "..", "target"); // 大文件存储目录

const resolvePost = req =>
  new Promise(resolve => {
    let chunk = "";
    req.on("data", data => {
      chunk += data;
    });
    req.on("end", () => {
      resolve(JSON.parse(chunk));
    });
  });

// 合并切片
const mergeFileChunk = async (filePath, filename) => {
  const chunkDir = `${UPLOAD_DIR}/${filename}`;
  const chunkPaths = await fse.readdir(chunkDir);
  await fse.writeFile(filePath, "");
  chunkPaths.forEach(chunkPath => {
    fse.appendFileSync(filePath, fse.readFileSync(`${chunkDir}/${chunkPath}`));
    fse.unlinkSync(`${chunkDir}/${chunkPath}`);
  });
  fse.rmdirSync(chunkDir); // 合并后删除保存切片的目录
};

server.on("request", async (req, res) => {
  res.setHeader("Access-Control-Allow-Origin", "*");
  res.setHeader("Access-Control-Allow-Headers", "*");
  if (req.method === "OPTIONS") {
    res.status = 200;
    res.end();
    return;
  }

  if (req.url === "/merge") {
    const data = await resolvePost(req);
    const { filename } = data;
    const filePath = `${UPLOAD_DIR}/${filename}`;
    await mergeFileChunk(filePath, filename);
    res.end(
      JSON.stringify({
        code: 0,
        message: "file merged success"
      })
    );
  }

});

server.listen(3000, () => console.log("正在监听 3000 端口"));

由于前端在发送合并请求时会携带文件名,服务端根据文件名可以找到上一步创建的切片文件夹

接着使用 fs.writeFileSync 先创建一个空文件,这个空文件的文件名就是切片文件夹名 后缀名组合而成,随后通过 fs.appendFileSync 从切片文件夹中不断将切片合并到空文件中,每次合并完成后删除这个切片,等所有切片都合并完毕后最后删除切片文件夹

至此一个简单的大文件上传就完成了,接下来我们再此基础上扩展一些额外的功能

显示上传进度条
上传进度分两种,一个是每个切片的上传进度,另一个是整个文件的上传进度,而整个文件的上传进度是基于每个切片上传进度计算而来,所以我们先实现切片的上传进度

切片进度条

XMLHttpRequest 原生支持上传进度的监听,只需要监听 upload.onprogress 即可,我们在原来的 request 基础上传入 onProgress 参数,给 XMLHttpRequest 注册监听事件

// xhr
   request({
     url,
     method = "post",
     data,
     headers = {},
    onProgress = e => e,
     requestList
   }) {
     return new Promise(resolve => {
       const xhr = new XMLHttpRequest();
      xhr.upload.onprogress = onProgress;
       xhr.open(method, url);
       Object.keys(headers).forEach(key =>
         xhr.setRequestHeader(key, headers[key])
       );
       xhr.send(data);
       xhr.onload = e => {
         resolve({
           data: e.target.response
         });
       };
     });
   }

由于每个切片都需要触发独立的监听事件,所以还需要一个工厂函数,根据传入的切片返回不同的监听函数

在原先的前端上传逻辑中新增监听函数部分

// 上传切片,同时过滤已上传的切片
    async uploadChunks(uploadedList = []) {
      const requestList = this.data
        .map(({ chunk }) => {
          const formData = new FormData();
          formData.append("chunk", chunk);
          formData.append("filename", this.container.file.name);
          return { formData };
        })
        .map(async ({ formData }) =>
          this.request({
            url: "http://localhost:3000",
            data: formData,
          onProgress: this.createProgressHandler(this.data[index]),
          })
        );
      await Promise.all(requestList);
       // 合并切片
      await this.mergeRequest();
    },
    async handleUpload() {
      if (!this.container.file) return;
      const fileChunkList = this.createFileChunk(this.container.file);
      this.data = fileChunkList.map(({ file },index) => ({
        chunk: file,
      index,
        hash: this.container.file.name "-" index
      percentage:0
      }));
      await this.uploadChunks();
    }    
  createProgressHandler(item) {
     return e => {
       item.percentage = parseInt(String((e.loaded / e.total) * 100));
     };
   }

每个切片在上传时都会通过监听函数更新 data 数组对应元素的 percentage 属性,之后把将 data 数组放到视图中展示即可

文件进度条
将每个切片已上传的部分累加,除以整个文件的大小,就能得出当前文件的上传进度,所以这里使用 Vue 计算属性

computed: {
       uploadPercentage() {
          if (!this.container.file || !this.data.length) return 0;
          const loaded = this.data
            .map(item => item.size * item.percentage)
            .reduce((acc, cur) => acc cur);
          return parseInt((loaded / this.container.file.size).toFixed(2));
        }
 }

最终视图如下

断点续传

断点续传的原理在于前端/服务端需要记住已上传的切片,这样下次上传就可以跳过之前已上传的部分,有两种方案实现记忆的功能

前端使用 localStorage 记录已上传的切片 hash

服务端保存已上传的切片 hash,前端每次上传前向服务端获取已上传的切片
第一种是前端的解决方案,第二种是服务端,而前端方案有一个缺陷,如果换了个浏览器就失去了记忆的效果,所以这里选取后者

生成 hash

无论是前端还是服务端,都必须要生成文件和切片的 hash,之前我们使用文件名 切片下标作为切片 hash,这样做文件名一旦修改就失去了效果,而事实上只要文件内容不变,hash 就不应该变化,所以正确的做法是根据文件内容生成 hash,所以我们修改一下 hash 的生成规则

这里用到另一个库 spark-md5,它可以根据文件内容计算出文件的 hash 值,另外考虑到如果上传一个超大文件,读取文件内容计算 hash 是非常耗费时间的,并且会引起 UI 的阻塞,导致页面假死状态,所以我们使用 web-worker 在 worker 线程计算 hash,这样用户仍可以在主界面正常的交互

由于实例化 web-worker 时,参数是一个 js 文件路径且不能跨域,所以我们单独创建一个 hash.js 文件放在 public 目录下,另外在 worker 中也是不允许访问 dom 的,但它提供了importScripts 函数用于导入外部脚本,通过它导入 spark-md5

// /public/hash.js
self.importScripts("/spark-md5.min.js"); // 导入脚本

// 生成文件 hash
self.onmessage = e => {
  const { fileChunkList } = e.data;
  const spark = new self.SparkMD5.ArrayBuffer();
  let percentage = 0;
  let count = 0;
  const loadNext = index => {
    const reader = new FileReader();
    reader.readAsArrayBuffer(fileChunkList[index].file);
    reader.onload = e => {
      count++;
      spark.append(e.target.result);
      if (count === fileChunkList.length) {
        self.postMessage({
          percentage: 100,
          hash: spark.end()
        });
        self.close();
      } else {
        percentage += 100 / fileChunkList.length;
        self.postMessage({
          percentage
        });
        // 递归计算下一个切片
        loadNext(count);
      }
    };
  };
  loadNext(0);
};

在 worker 线程中,接受文件切片 fileChunkList,利用 FileReader 读取每个切片的 ArrayBuffer 并不断传入 spark-md5 中,每计算完一个切片通过 postMessage 向主线程发送一个进度事件,全部完成后将最终的 hash 发送给主线程

spark-md5 需要根据所有切片才能算出一个 hash 值,不能直接将整个文件放入计算,否则即使不同文件也会有相同的 hash,具体可以看官方文档

spark-md5

接着编写主线程与 worker 线程通讯的逻辑

//生成文件 hash(web-worker)
   calculateHash(fileChunkList) {
     return new Promise(resolve => {
      // 添加 worker 属性
       this.container.worker = new Worker("/hash.js");
       this.container.worker.postMessage({ fileChunkList });
       this.container.worker.onmessage = e => {
         const { percentage, hash } = e.data;
         this.hashPercentage = percentage;
         if (hash) {
           resolve(hash);
         }
       };
     });
    },
    async handleUpload() {
      if (!this.container.file) return;
      const fileChunkList = this.createFileChunk(this.container.file);
    this.container.hash = await this.calculateHash(fileChunkList);
      this.data = fileChunkList.map(({ file },index) => ({
      fileHash: this.container.hash,
        chunk: file,
        hash: this.container.file.name "-" index, // 文件名 数组下标
        percentage:0
      }));
      await this.uploadChunks();
    }  

主线程使用 postMessage 给 worker 线程传入所有切片 fileChunkList,并监听 worker 线程发出的 postMessage 事件拿到文件 hash

加上显示计算 hash 的进度条,看起来像这样

至此前端需要将之前用文件名作为 hash 的地方改写为 workder 返回的这个 hash

服务端则使用 hash 作为切片文件夹名,hash 下标作为切片名,hash 扩展名作为文件名,没有新增的逻辑

文件秒传

在实现断点续传前先简单介绍一下文件秒传

所谓的文件秒传,即在服务端已经存在了上传的资源,所以当用户再次上传时会直接提示上传成功

文件秒传需要依赖上一步生成的 hash,即在上传前,先计算出文件 hash,并把 hash 发送给服务端进行验证,由于 hash 的唯一性,所以一旦服务端能找到 hash 相同的文件,则直接返回上传成功的信息即可

 async verifyUpload(filename, fileHash) {
      const { data } = await this.request({
        url: "http://localhost:3000/verify",
        headers: {
          "content-type": "application/json"
        },
        data: JSON.stringify({
          filename,
          fileHash
        })
      });
      return JSON.parse(data);
    },
   async handleUpload() {
      if (!this.container.file) return;
      const fileChunkList = this.createFileChunk(this.container.file);
      this.container.hash = await this.calculateHash(fileChunkList);
    const { shouldUpload } = await this.verifyUpload(
      this.container.file.name,
      this.container.hash
    );
    if (!shouldUpload) {
      this.$message.success("秒传:上传成功");
      return;
   }
     this.data = fileChunkList.map(({ file }, index) => ({
        fileHash: this.container.hash,
        index,
        hash: this.container.hash "-" index,
        chunk: file,
        percentage: 0
      }));
      await this.uploadChunks();
    }   

秒传其实就是给用户看的障眼法,实质上根本没有上传

服务端的逻辑非常简单,新增一个验证接口,验证文件是否存在即可

const extractExt = filename =>
 filename.slice(filename.lastIndexOf("."), filename.length); // 提取后缀名
const UPLOAD_DIR = path.resolve(__dirname, "..", "target"); // 大文件存储目录

const resolvePost = req =>
  new Promise(resolve => {
    let chunk = "";
    req.on("data", data => {
      chunk += data;
    });
    req.on("end", () => {
      resolve(JSON.parse(chunk));
    });
  });

server.on("request", async (req, res) => {
  if (req.url === "/verify") {
   const data = await resolvePost(req);
   const { fileHash, filename } = data;
   const ext = extractExt(filename);
   const filePath = `${UPLOAD_DIR}/${fileHash}${ext}`;
   if (fse.existsSync(filePath)) {
     res.end(
       JSON.stringify({
         shouldUpload: false
       })
     );
   } else {
     res.end(
       JSON.stringify({
         shouldUpload: true
       })
     );
   }
  }
});
server.listen(3000, () => console.log("正在监听 3000 端口"));

暂停上传
讲完了生成 hash 和文件秒传,回到断点续传

断点续传顾名思义即断点 续传,所以我们第一步先实现“断点”,也就是暂停上传

原理是使用 XMLHttpRequest 的 abort 方法,可以取消一个 xhr 请求的发送,为此我们需要将上传每个切片的 xhr 对象保存起来,我们再改造一下 request 方法

request({
   url,
   method = "post",
   data,
   headers = {},
   onProgress = e => e,
 requestList
 }) {
   return new Promise(resolve => {
     const xhr = new XMLHttpRequest();
     xhr.upload.onprogress = onProgress;
     xhr.open(method, url);
     Object.keys(headers).forEach(key =>
       xhr.setRequestHeader(key, headers[key])
     );
     xhr.send(data);
     xhr.onload = e => {
      // 将请求成功的 xhr 从列表中删除
      if (requestList) {
        const xhrIndex = requestList.findIndex(item => item === xhr);
        requestList.splice(xhrIndex, 1);
      }
       resolve({
         data: e.target.response
       });
     };
    // 暴露当前 xhr 给外部
    requestList?.push(xhr);
   });
 },

这样在上传切片时传入 requestList 数组作为参数,request 方法就会将所有的 xhr 保存在数组中了

每当一个切片上传成功时,将对应的 xhr 从 requestList 中删除,所以 requestList 中只保存正在上传切片的 xhr

之后新建一个暂停按钮,当点击按钮时,调用保存在 requestList 中 xhr 的 abort 方法,即取消并清空所有正在上传的切片

handlePause() {
    this.requestList.forEach(xhr => xhr?.abort());
    this.requestList = [];
}

点击暂停按钮可以看到 xhr 都被取消了

恢复上传
之前在介绍断点续传的时提到使用第二种服务端存储的方式实现续传

由于当文件切片上传后,服务端会建立一个文件夹存储所有上传的切片,所以每次前端上传前可以调用一个接口,服务端将已上传的切片的切片名返回,前端再跳过这些已经上传切片,这样就实现了“续传”的效果

而这个接口可以和之前秒传的验证接口合并,前端每次上传前发送一个验证的请求,返回两种结果

服务端已存在该文件,不需要再次上传
服务端不存在该文件或者已上传部分文件切片,通知前端进行上传,并把已上传的文件切片返回给前端
所以我们改造一下之前文件秒传的服务端验证接口

const extractExt = filename =>
  filename.slice(filename.lastIndexOf("."), filename.length); // 提取后缀名
const UPLOAD_DIR = path.resolve(__dirname, "..", "target"); // 大文件存储目录

const resolvePost = req =>
  new Promise(resolve => {
    let chunk = "";
    req.on("data", data => {
      chunk += data;
    });
    req.on("end", () => {
      resolve(JSON.parse(chunk));
    });
  });

 // 返回已经上传切片名列表
const createUploadedList = async fileHash =>
  fse.existsSync(`${UPLOAD_DIR}/${fileHash}`)
   ? await fse.readdir(`${UPLOAD_DIR}/${fileHash}`)
   : [];

server.on("request", async (req, res) => {
  if (req.url === "/verify") {
    const data = await resolvePost(req);
    const { fileHash, filename } = data;
    const ext = extractExt(filename);
    const filePath = `${UPLOAD_DIR}/${fileHash}${ext}`;
    if (fse.existsSync(filePath)) {
      res.end(
        JSON.stringify({
          shouldUpload: false
        })
      );
    } else {
      res.end(
        JSON.stringify({
          shouldUpload: true,
        uploadedList: await createUploadedList(fileHash)
        })
      );
    }
  }
});
server.listen(3000, () => console.log("正在监听 3000 端口"));

接着回到前端,前端有两个地方需要调用验证的接口

点击上传时,检查是否需要上传和已上传的切片
点击暂停后的恢复上传,返回已上传的切片
新增恢复按钮并改造原来上传切片的逻辑

<template>
  <div id="app">
      <input
        type="file"
        @change="handleFileChange"
      />
       <el-button @click="handleUpload">上传</el-button>
       <el-button @click="handlePause" v-if="isPaused">暂停</el-button>
     <el-button @click="handleResume" v-else>恢复</el-button>
      //...
    </div>
</template>

  async handleResume() {
     const { uploadedList } = await this.verifyUpload(
       this.container.file.name,
       this.container.hash
     );
     await this.uploadChunks(uploadedList);
    },
    async handleUpload() {
      if (!this.container.file) return;
      const fileChunkList = this.createFileChunk(this.container.file);
      this.container.hash = await this.calculateHash(fileChunkList);

    const { shouldUpload, uploadedList } = await this.verifyUpload(
        this.container.file.name,
        this.container.hash
      );
      if (!shouldUpload) {
        this.$message.success("秒传:上传成功");
        return;
      }

      this.data = fileChunkList.map(({ file }, index) => ({
        fileHash: this.container.hash,
        index,
        hash: this.container.hash "-" index,
        chunk: file,
        percentage: 0
      }));

     await this.uploadChunks(uploadedList);
    },
   // 上传切片,同时过滤已上传的切片
  async uploadChunks(uploadedList = []) {
      const requestList = this.data
       .filter(({ hash }) => !uploadedList.includes(hash))
        .map(({ chunk, hash, index }) => {
          const formData = new FormData();
          formData.append("chunk", chunk);
          formData.append("hash", hash);
          formData.append("filename", this.container.file.name);
          formData.append("fileHash", this.container.hash);
          return { formData, index };
        })
        .map(async ({ formData, index }) =>
          this.request({
            url: "http://localhost:3000",
            data: formData,
            onProgress: this.createProgressHandler(this.data[index]),
            requestList: this.requestList
          })
        );
      await Promise.all(requestList);
      // 之前上传的切片数量 本次上传的切片数量 = 所有切片数量时
      // 合并切片
     if (uploadedList.length requestList.length === this.data.length) {
         await this.mergeRequest();
     }
    }

这里给原来上传切片的函数新增 uploadedList 参数,即上图中服务端返回的切片名列表,通过 filter 过滤掉已上传的切片,并且由于新增了已上传的部分,所以之前合并接口的触发条件做了一些改动

到这里断点续传的功能基本完成了

进度条改进
虽然实现了断点续传,但还需要修改一下进度条的显示规则,否则在暂停上传/接收到已上传切片时的进度条会出现偏差

切片进度条
由于在点击上传/恢复上传时,会调用验证接口返回已上传的切片,所以需要将已上传切片的进度变成 100%

async handleUpload() {
      if (!this.container.file) return;
      const fileChunkList = this.createFileChunk(this.container.file);
      this.container.hash = await this.calculateHash(fileChunkList);
      const { shouldUpload, uploadedList } = await this.verifyUpload(
        this.container.file.name,
        this.container.hash
      );
      if (!shouldUpload) {
        this.$message.success("秒传:上传成功");
        return;
      }
      this.data = fileChunkList.map(({ file }, index) => ({
        fileHash: this.container.hash,
        index,
        hash: this.container.hash "-" index,
        chunk: file,
      percentage: uploadedList.includes(index) ? 100 : 0
      }));
      await this.uploadChunks(uploadedList);
    },

uploadedList 会返回已上传的切片,在遍历所有切片时判断当前切片是否在已上传列表里即可

文件进度条
之前说到文件进度条是一个计算属性,根据所有切片的上传进度计算而来,这就遇到了一个问题

点击暂停会取消并清空切片的 xhr 请求,此时如果已经上传了一部分,就会发现文件进度条有倒退的现象

当点击恢复时,由于重新创建了 xhr 导致切片进度清零,所以总进度条就会倒退

此时需要创建一个“假”的进度条,这个假进度条基于文件进度条,但只会停止和增加,然后给用户展示这个假的进度条

这里我们使用 Vue 的监听属性

data: () => ({
 fakeUploadPercentage: 0
}),
computed: {
  uploadPercentage() {
    if (!this.container.file || !this.data.length) return 0;
    const loaded = this.data
      .map(item => item.size * item.percentage)
      .reduce((acc, cur) => acc cur);
    return parseInt((loaded / this.container.file.size).toFixed(2));
  }
},  
watch: {
 uploadPercentage(now) {
   if (now > this.fakeUploadPercentage) {
     this.fakeUploadPercentage = now;
   }
  }
},

当 uploadPercentage 即真的文件进度条增加时,fakeUploadPercentage 也增加,一旦文件进度条后退,假的进度条只需停止即可

至此一个大文件上传 断点续传的解决方案就完成了

总结

大文件上传

前端上传大文件时使用 Blob.prototype.slice 将文件切片,并发上传多个切片,最后发送一个合并的请求通知服务端合并切片
服务端接收切片并存储,收到合并请求后使用 fs.appendFileSync 对多个切片进行合并
原生 XMLHttpRequest 的 upload.onprogress 对切片上传进度的监听
使用 Vue 计算属性根据每个切片的进度算出整个文件的上传进度

断点续传

使用 spart-md5 根据文件内容算出文件 hash
通过 hash 可以判断服务端是否已经上传该文件,从而直接提示用户上传成功(秒传)
通过 XMLHttpRequest 的 abort 方法暂停切片的上传
上传前服务端返回已经上传的切片名,前端跳过这些切片的上传

 

参考文章:http://blog.ncmem.com/wordpress/2023/09/26/%e5%ae%9e%e7%8e%b0%e4%b8%80%e4%b8%aa%e5%a4%a7%e6%96%87%e4%bb%b6%e4%b8%8a%e4%bc%a0%e5%92%8c%e6%96%ad%e7%82%b9%e7%bb%ad%e4%bc%a0/

欢迎入群一起讨论

 

 

标签:断点续传,const,文件,data,切片,file,hash,上传
From: https://www.cnblogs.com/songsu/p/17730258.html

相关文章

  • 在用文件误删除恢复
    当一个文件在被打开,获取其他程序使用着,你不小心删除了的时候,不要慌,还有恢复的可能,也很简单如某系统日志被删除,或者某系统文件 执行命令  :  lsof|grepdeleted  查看带deleted字样的进程文件中有没有你删除的文件名,有的话,如图,执行了cp命令后,去到那个目录下查看......
  • centos7中恢复误删除文件foremost 工具
     它是将你所需要搜集的文件类型的文件全部都搜出来恢复,放到你指定的目录下,供你选择 可去阿里源搜索软件,找一个合适的rpm包装上,没什么依赖。  就只需要一条命令就可以了,然后去你指定的目录看结果。......
  • centos6误删文件恢复
     测试结果是在centos6上使用效果比较好,centos7上不给力,也不知道是否是虚拟机的缘故 当不小心误删除某文件或者目录的时候,     恢复的结果就存放在执行命令的目录下生成的目录下RECOVERED_FILES里当对还在挂载中的分区进行恢复时,会提示是否继续,选择y即可......
  • 超星读书下载的pdz文件如何转为pdf文件详细教程(亲测有效)
    前言:你还在为超星读书下载的pdz格式书籍而烦恼吗?还在为不知道怎么将pdz格式转为pdf格式而气愤吗?请看以下教程。流程:使用超星阅读器将pdz文件转换为.xps或.oxps文件利用第三方软件将.xps或.oxps文件转换为pdf文件踩坑提醒(可跳过直接看步骤一):主要是第二步中需要找到支持.xp......
  • linux系统安装软件时报错缺少libnsl.so.1文件解决方法
    linux系统安装软件时报错缺少libnsl.so.1文件解决方法1-当ISO文件或者在网上可以找到对应版本的libnsl库文件时,可采用以下命令安装:yuminstalllibnsl//系统ISO文件中存在libnsl库文件rpm-ivhlibnsl(下载的对应版本文件)//网上可以找到对应版本的libnsl库文件,并......
  • 找一种外发文件加密传输产品,需要考虑哪些问题?
    文件数据分布广泛,包括桌面及移动端、应用服务器、文件服务器、NAS、邮件系统、多云架构、组织内部和外部供应链。多年来,企业由于自身的安全防护机制不严谨,引发的数据安全事件频发。数据安全事件带来的社会影响日趋显著,经常导致严重的经济损失。全球42%的企业在过去一年中至少经历......
  • springboot大文件上传、分片上传、断点续传、秒传的实现
    对于大文件的处理,无论是用户端还是服务端,如果一次性进行读取发送、接收都是不可取,很容易导致内存问题。所以对于大文件上传,采用切块分段上传,从上传的效率来看,利用多线程并发上传能够达到最大效率。 本文是基于springboot+vue实现的文件上传,本文主要介绍服务端实现文件上传的......
  • 浅析实现大文件上传和断点续传
    大文件上传:前端部分:核心是利用 Blob.prototype.slice 方法,和数组的slice方法相似,调用的slice方法可以返回原文件的某个切片。根据预先设置好的切片最大数量将文件切分为一个个切片,然后借助http的可并发性,同时上传多个切片。这样从原本传一个大文件,变成了同时传多个小......
  • 山石防火墙的IPV6功能需要系统镜像文件携带“v6”标识
    山石防火墙的IPV6功能需要系统镜像文件携带“v6”标识检查系统信息启动文件名称后是否携带"-v6"标识,没有的话需要更新系统版本 下载地址  https://images.hillstonenet.com/ ......
  • Jrebel rebel.xml 配置文件
    Jrebel官网参考:Jrebel:config官网参考:Jrebel:advanced-config......