首页 > 其他分享 >Spark下的Work目录定时清理

Spark下的Work目录定时清理

时间:2024-05-29 14:49:35浏览次数:21  
标签:清理 Work 目录 任务 cleanup 节点 spark Spark 定时

 问题

在跑spark任务的时候发现任务不能执行。在查看的时候发现spark work节点的/usr/local/spark/work/目录占用了很大空间,导致根目录/满了。


原因
使用spark standalone模式执行任务,没提交一次任务,在每个节点work目录下都会生成一个文件夹,命名规则app-20160614191730-0249。该文件夹下是任务提交时,各节点从主节点下载的程序所需要的资源文件。这些目录每次执行都会生成,且不会自动清理,执行任务过多会将存储撑爆。每一个application的目录中都是该spark任务运行所需要的依赖包。

解决方案
添加配置:
export SPARK_WORKER_OPTS="
-Dspark.worker.cleanup.enabled=true             # 是否开启自动清理
-Dspark.worker.cleanup.interval=1800            # 清理周期,每隔多长时间清理一次,单位秒
-Dspark.worker.cleanup.appDataTtl=3600"     # 保留最近多长时间的数据

标签:清理,Work,目录,任务,cleanup,节点,spark,Spark,定时
From: https://www.cnblogs.com/yeyuzhuanjia/p/18220236

相关文章

  • go语言之cron定时任务
    ####版本一定选对goget"github.com/robfig/cron/v3"代码如下:packagemainimport("fmt""github.com/robfig/cron/v3""os""runtime""time")//GetOS返回当前操作系统的字符串表示funcGetOS()......
  • workbench导入导出操作
    前言现如今大家基本上都是使用客户端操作数据库,包括数据库迁移,下面来详解一下如何使用MySqlWorkbench来做数据库导出和导入操作,很简单,但是有图解!正文操作入口数据库导出点击左侧的[DataExport]之后,呈现上面的图,按照说明选择自己的方式,然后点击[StartExport]就开始导出......
  • [转]AWS Cloud Adoption Framework (AWS CAF)云采用框架
    AWSCloudAdoptionFramework(amazon.com) 什么是云采用框架?—CAF详解—AWS(amazon.com) 能力和视角AWSCAF功能提供最佳实践指导,帮助您提高云就绪性。AWSCAF视角包含一组功能相关的利益攸关方在云转型之旅中拥有或管理的功能。业务业务视角有助于确保您......
  • 【DRF-08】rest-framework之解析器
    1.解析器的作用根据请求头content-type选择对应的解析器对请求体内容进行处理。有application/json,x-www-form-urlencoded,form-data等格式,可以自己自行配置支持或者不支持哪种格式,一般在实际的生产环境中用json一种数据格式进行数据交互就够了,如果需要form-data来进......
  • Android Media Framework(一)OpenMAX框架简介
    学习开源代码最快的方式是先阅读它的文档,再查看它的头文件,最后研读代码实现并进行编译调试。Android早期引入OpenMAXIL作为使用音视频编解码器的标准接口,了解AndroidMedia框架的底层运行原理要从OMXIL开始。在这一节,我们将阅读整理OpenMAXILSpec中的介绍和架构部分,以便对整......
  • Learning Model Predictive Control for Iterative Tasks. A Data-Driven Control Fra
    LearningModelPredictiveControlforIterativeTasks.AData-DrivenControlFramework一句话MPC:在每个采用点处,根据被控对象的状态和预测模型,预测系统在未来一段时间内的状态,依据某一性能指标(成本函数)来求解最优的一组控制序列,并将这组控制序列的第一个控制作用作为输出......
  • 虚拟机系列:虚拟机使用的是此版本 VMware Workstation 不支持的硬件版本。 模块“Upgra
    虚拟机使用的是此版本VMwareWorkstation不支持的硬件版本。模块“Upgrade”启动失败。未能启动虚拟机。虚拟机使用的是此版本VMwareWorkstation不支持的硬件版本。模块“Upgrade”启动失败。未能启动虚拟机。虚拟机使用的是此版本VMwareWorkstation不......
  • 【DRF-07】rest-framework之版本
    1.基于url的get传参方式(不推荐)1.1:通过自定义版本控制类,获取版本fromdjango.shortcutsimportrender,HttpResponsefromrest_framework.viewsimportAPIViewclassParamVersion(object):defdetermine_version(self,request,*args,**kwargs):version......
  • crontab 设置定时任务
    crontab设置定时任务crontab 是Unix和类Unix系统(如Linux)上用于设置定时任务的工具。通过 crontab,你可以定期执行特定的命令或脚本。下面是如何使用 crontab 设置定时任务的步骤:打开crontab编辑器在终端中输入以下命令:crontab -e如果你是第一次使用 cron......
  • SOLIDWORKS正版一年多少钱 2024版报价
    SOLIDWORKS软件作为一款优秀的三维设计工具,以其强大的功能和优质的设计工具,为设计师们提供了前所未有的便利。SOLIDWORKS三维设计软件是一款多科学集成软件,它在产品开发和制造方面发挥着重要作用。作为整个SOLIDWORKS产品开发解决方案套件的基础,SOLIDWORKSCAD软件包涵盖了多......