首页 > 其他分享 >spark配置文件介绍

spark配置文件介绍

时间:2023-08-25 13:02:00浏览次数:34  
标签:设定 配置文件 指定 介绍 conf spark properties 日志


spark配置文件介绍
spark有很多参数,然后会有不同的配置文件,这里做一下介绍,也供自己以后查询。

1.spark properties:这个可以控制应用程序的绝大部分属性。并且可以通过SparConf对象挥着Java系统属性进行配置;

2.环境变量(Environment variable):这个可以分别对每台机器单独进行相应设置,比如IP。这个可以在每台机器的spark-env.sh脚本中设置;

3.日志:所有日志相关的属性可以在log4j.properties文件中进行设置。

下面是对这三种属性设定的详细说明。

一、spark properties

可以通过一下三种方式设定:

1.通过SparkConf代码中直接指定:

val conf=new SparkConf()

.setMater(“local”)

.setAppName(“CountingSheep”)

.(“spark.executor.memory”,“1g”)

val sc=new SparkContext(conf)

2.通过spark-submit指定:

3.通过文件spark-defaults.conf指定。

假如三个地方中都指定了相同的参数,则判定顺序为:优先级最高的是通过SparkConf设定的,然后是spark-submit设定的,最后是spark-defaults.conf指定的。

二、环境变量

通过文件spark-env.sh设定

三、日志配置

通过log4j.properties指定,可以设置日志输出信息的级别以及日志路径。


标签:设定,配置文件,指定,介绍,conf,spark,properties,日志
From: https://blog.51cto.com/u_9406185/7229187

相关文章

  • 自我介绍
    关于姓名我的名字叫“王荣盛“,当然我也不知道父母是因什么而起这个名字,但是我知道有一个成语叫“繁荣昌盛”。荣,本义为花,后指草木繁茂,晋陶渊明曰“木欣欣以向荣”,便是此意。盛者,指事物规模巨大,兴旺,亦有繁茂之意。由此猜测,大概是父母想让我能够发愤图强,干出一番成绩,在人生的旅途上......
  • 视频智能分析平台EasyCVR视频汇聚平台关于AI分析告警列表的定制详细介绍
    安防监控视频集中存储/云存储EasyCVR视频汇聚平台基于云边端一体化架构,可支持多协议、多类型设备接入,视频监控综合管理平台具有强大的数据接入、处理及分发能力,能在复杂的网络环境中,将分散的各类视频资源进行统一汇聚、整合、存储、集中管理。 ​ 我们......
  • PCB工艺制程能力介绍及解析(上)
    一个优秀的工程师设计的产品一定是既满足设计需求又满足生产工艺。规范产品的电路设计,辅助PCB设计的相关工艺参数,使得生产出来的实物产品满足可生产性、可测试性、可维修性等的技术规范要求。本文将从初学者的角度出发,带你快速了解PCB制造中的常用基本概念。我们在华秋PCB下单时,......
  • 安防监控平台EasyCVR视频汇聚平台增加首页告警类型的详细介绍
    安防监控/视频集中存储/云存储EasyCVR视频汇聚平台,可支持海量视频的轻量化接入与汇聚管理。平台能提供视频存储磁盘阵列、视频监控直播、视频轮播、视频录像、云存储、回放与检索、智能告警、服务器集群、语音对讲、云台控制、电子地图、平台级联、H.265自动转码等功能。由于EasyCV......
  • Python logging.handlers模块,RotatingFileHandler、TimedRotatingFileHandler 处理器
    转自:https://blog.csdn.net/B11050729/article/details/132353220 ......
  • VScode settings.json默认配置文件路径
    LinuxUbuntu:/home/${用户名}/.config/Code/User/settings.jsonWindows:C:\Users\用户名\AppData\Roaming\Code\User来源、参考:https://blog.csdn.net/cyqzy/article/details/130011314......
  • VisionPro 软件介绍
    VisionPro软件介绍一VisionPro的四种开发模式1.Quickbuild视觉+向导生成的操作界面Quickbuild视觉 向导生成的操作界面2Quickbuild视觉+修改的操作界面使用QuickBuild互动开发视觉、输入和输出和工作控件使用应用程序向导生成操作界面(VB或者C#)使用VisualStudio定......
  • 大连人工智能计算平台——华为昇腾AI平台——高性能计算HPC——官方的运行配置文件中
    官方的HPC运行配置文件:#!/usr/bin/envbashecho-----printenvvars-----if["${CCS_ALLOC_FILE}"!=""];thenecho""ls-la${CCS_ALLOC_FILE}echo------cat${CCS_ALLOC_FILE}cat${CCS_ALLOC_FILE}fiexport......
  • VisionPro 软件介绍和基本使用
    前言自己使用visionPro已经有段时间了,最近也一直在研究其算子的理论,为了加深印象,计划将自己的学习笔记整理在博客园,当然其官方文档对如何使用及其各种算子都有详细的介绍,所以这里的笔记仅仅为个人加深理解而做,就当是个个人日记,日后也好查找。!!!为了方便,大部分图片来自网......
  • MyBatis机制介绍与原理
    插件简介什么是插件插件是一种软件组件,可以在另一个软件程序中添加功能或特性。插件通常被设计成可以随时添加或删除的,而不影响主程序的功能。插件可以扩展软件程序的功能,这让用户可以根据自己的需求定制软件,提高工作效率。常见的插件包括浏览器插件、音频和视频编辑软件的特效......