首页 > 其他分享 >使用 `hash-wasm` 的 `createMD5`方法,生成md5值,批处理500张图片会报错, `RangeError: WebAssembly.instantiate(): Out of m

使用 `hash-wasm` 的 `createMD5`方法,生成md5值,批处理500张图片会报错, `RangeError: WebAssembly.instantiate(): Out of m

时间:2024-12-28 19:10:16浏览次数:6  
标签:createMD5 resolve const memory fileList 报错 file error new

处理大量文件时遇到 RangeError: WebAssembly.instantiate(): Out of memory 错误,通常是因为一次性创建了过多的 WebAssembly 实例,导致内存不足。每个 createMD5() 调用都会创建一个新的 WebAssembly 实例,这对于大量的并发操作来说是不可行的。

为了优化代码并避免此问题,可以考虑以下几种改进方法:

1. 单例模式复用 MD5 实例

通过创建一个单例模式的 MD5 实例,并在每次计算哈希之前重置它,你可以显著减少内存使用和实例化开销。

import { createHash } from 'hash-wasm';

let md5Instance;

async function getOrCreateMD5() {
  if (!md5Instance) {
    md5Instance = await createHash('md5');
  }
  return md5Instance;
}

const calcFileHash = async (file) => {
  return new Promise((resolve, reject) => {
    try {
      // 获取或创建 MD5 实例
      getOrCreateMD5().then(async (md5) => {
        // 使用 FileReader 读取文件为 ArrayBuffer
        const reader = new FileReader();
        reader.onload = async function (e) {
          const arrayBuffer = e.target.result;
          if (arrayBuffer instanceof ArrayBuffer) {
            // 重置哈希对象的状态以便可以再次使用
            md5.reset();
            // 更新哈希对象的内容
            md5.update(new Uint8Array(arrayBuffer));

            // 获取最终的哈希值(十六进制格式)
            const hash = md5.digest('hex');
            console.log(`File ${file.name} hash-wasm MD5 Hash: ${hash}`);
            resolve(hash);
          }
        };

        reader.onerror = function () {
          console.error('Failed to read file:', file.name);
          reject(new Error(`Failed to read file: ${file.name}`));
        };

        // 开始读取文件
        reader.readAsArrayBuffer(file);
      });
    } catch (error) {
      console.error('Failed to compute MD5:', error);
      reject(new Error(`Failed to compute MD5,${error}`));
    }
  });
};

2. 批量处理文件

如果仍然遇到内存问题,可以考虑分批处理文件。这可以通过限制同时进行的文件读取和哈希计算的数量来实现。

export const calcFilesHashWasm = async (files, batchSize = 10) => {
  return new Promise(async (resolve, reject) => {
    try {
      const fileList = Array.from(files);
      if (!Array.isArray(fileList) || fileList.length === 0) {
        resolve([]);
      }

      const results = [];
      for (let i = 0; i < fileList.length; i += batchSize) {
        const batch = fileList.slice(i, i + batchSize);
        const promises = batch.map((file) => calcFileHash(file));
        const batchResults = await Promise.all(promises);
        results.push(...batchResults);

        // 可选:添加短暂延迟以减轻系统负担
        await new Promise(resolve => setTimeout(resolve, 10)); // 例如等待10ms
      }

      resolve(results);
    } catch (error) {
      throw new Error(`计算 MD5 时出错: ${error.message}`, { cause: error });
    }
  });
};

3. 并发控制

除了批量处理外,还可以使用并发控制库(如 p-limit)来限制并发执行的任务数量。这有助于更精细地控制资源使用,特别是在不确定文件大小的情况下。

npm install p-limit
# 或者
yarn add p-limit

然后修改你的代码如下:

import pLimit from 'p-limit';

// 创建一个限制器,最多允许同时运行10个任务
const limit = pLimit(10);

export const calcFilesHashWasm = async (files) => {
  return new Promise(async (resolve, reject) => {
    try {
      const fileList = Array.from(files);
      if (!Array.isArray(fileList) || fileList.length === 0) {
        resolve([]);
      }

      // 使用限制器包装每个文件哈希计算
      const promises = fileList.map((file) => limit(() => calcFileHash(file)));
      const results = await Promise.all(promises);
      resolve(results);
    } catch (error) {
      throw new Error(`计算 MD5 时出错: ${error.message}`, { cause: error });
    }
  });
};

通过上述方法之一或组合使用这些方法,你应该能够有效地处理大量文件的 MD5 哈希计算,而不会遇到内存不足的问题。选择最适合你应用场景的方法进行实施。

标签:createMD5,resolve,const,memory,fileList,报错,file,error,new
From: https://www.cnblogs.com/longmo666/p/18637815

相关文章

  • SLF4J(W)报错No SLF4J providers were found.
    问题SLF4J(W):NoSLF4Jproviderswerefound.SLF4J(W):Defaultingtono-operation(NOP)loggerimplementationSLF4J(W):Seehttps://www.slf4j.org/codes.html#noProvidersforfurtherdetails.在开发项目时,如果我们的项目使用了SLF4J,或者引入了某开源项目时,他的项目......
  • C++中for (int i; i<track_object.region_num; i++)这样写没有对i进行初始化0也不会报
    在C++中,未初始化的局部变量(如 inti)会包含未定义的值,可能导致未定义行为(undefinedbehavior,UB)。对于以下代码:for(inti;i<track_object.region_num;i++){//Loopbody}i 没有显式初始化,因此它的初始值是未定义的。然而,你观察到代码运行时没有报错的原因可能......
  • 报错信息中出现了 error: unexpected token: `::` 似乎是不能解析`::`
    processingfile`/root/EuclidOLAP/olap-core/src/parser.lalrpop`/root/EuclidOLAP/olap-core/src/parser.lalrpop:24:10:24:11error:unexpectedtoken:`::`---stderrToken::Keyword("&00000000".to_string())~~LALRPO......
  • git:报错: Diverging branches can't be fast-forwarded
    一,报错信息:hint:Divergingbranchescan'tbefast-forwarded,youneedtoeither:hint:hint:gitmerge--no-ffhint:hint:or:hint:hint:gitrebasehint:hint:Disablethismessagewith"gitconfigadvice.divergingfalse"fatal:Notposs......
  • 项目报 OutOfMemoryError 、GC overhead limit exceeded 问题排查以及解决思路实战
    项目报OutOfMemoryError、GCoverheadlimitexceeded问题排查以及解决思路实战前言:问题现象描述:1,生产环境有个定时任务,没有初始化告警数据【告警数据量为1000多个】2,其他定时任务执行正常3,查询日志到定时任务执行之前有日志打印4,手动触发补偿告警定时任务接口报Out......
  • Centos7下yum安装报错问题解决方法Cannot find a valid baseurl for repo: base/7/x86
    Cannotfindavalidbaseurlforrepo:base/7/x86_64 目录Cannotfindavalidbaseurlforrepo:base/7/x86_64 原因如下:1.网络问题2.错误的YUM源配置3.代理设置问题 原因如下:1.网络问题首先,检查系统的网络连接是否正常,可以通过以下命令测试:ping......
  • 微信小程序上传图片报错:uploadFile:fail url not in domain list
    上传图片时,在微信开发工具中可以正常上传成功,手机上预览也可上传成功。小程序发布成功后,上传失败,提示“uploadFile:failurlnotindomainlist”。错误信息如下:解决方案:1、在微信管理公众平台|小程序-开发-开发管理-服务器域名下的服务器配置uploadFile合法域名,没有添加服务器......
  • yarn install 安装报错:Workspaces can only be enabled in private projects.
    在本地运行项目的时候,使用yarninstall安装模块依赖的时候,遇到报错:Workspacescanonlybeenabledinprivateprojects.一、原因分析报这个错误是因为你使用了yarn的workspace,但并未将工程标记为private。二、解决办法在项目根目录中的package.json文件中添加p......
  • 【YashanDB知识库】启动yasom时报错:sqlite connection error
    本文内容来自YashanDB官网,原文内容请见https://www.yashandb.com/newsinfo/7817893.html?templateId=1718516【标题】启动yasom时报错:sqliteconnectionerror【问题分类】安装部署【关键字】错误码sqlite3.Error、yasom启动失败、共享集群、unabletoopendatabasefile【......
  • MySQL数据库——存储引擎(InnoDB、MyISAM、MEMORY、ARCHIVE)
    大家好,这里是GoodNote,关注公主号:Goodnote,专栏文章私信限时Free。本文详细介绍MySQL数据库重要的存储引擎及其适用场景:InnoDB、MyISAM、MEMORY、ARCHIVE。文章目录MyISAMInnoDBMyISAMVSInnoDBMyISAM相较于InnoDB的优势MEMORYARCHIVEMEMORYVSARCHIVEM......