首页 > 其他分享 >spark配置(yarn)

spark配置(yarn)

时间:2022-08-19 12:22:58浏览次数:62  
标签:opt app 配置 hadoop yarn conf spark

spark关联hadoop的环境

[root@node1 conf]# pwd
/opt/app/spark-2.3.1/conf

[root@node1 conf]# vi spark-env.sh 
HADOOP_CONF_DIR=/opt/app/hadoop-2.8.5/etc/hadoop
YARN_CONF_DIR=/opt/app/hadoop-2.8.5/etc/hadoop

yarn接管spark程序

[root@node1 conf]# cd /opt/app/hadoop-2.8.5/etc/hadoop/
[root@node1 hadoop]# vi yarn-site.xml 
<!--是否启动一个线程检查每个任务正使用的物理内存量,如果任务超出分配值,则直接将其杀掉,默认是true -->
<property>
        <name>yarn.nodemanager.pmem-check-enabled</name>
        <value>false</value>
</property>

 <!--是否启动一个线程检查每个任务正使用的虚拟内存量,如果任务超出分配值,则直接将其杀掉,默认是true -->
<property>
        <name>yarn.nodemanager.vmem-check-enabled</name>
        <value>false</value>
</property>

标签:opt,app,配置,hadoop,yarn,conf,spark
From: https://www.cnblogs.com/jsqup/p/16601584.html

相关文章

  • Linux部署-Net并配置进程守护
    注册Microsoft签名密钥并添加Microsoft产品提要sudorpm--importhttps://packages.microsoft.com/keys/microsoft.ascsudosh-c'echo-e"[packages-microsoft-......
  • spark历史服务器配置
    [root@node1conf]#pwd/opt/app/spark-2.3.1/conf[root@node1conf]#mvspark-defaults.conf.templatespark-defaults.conf[root@node1conf]#vispark-defaults.co......
  • spark伪分布式搭建
    spark伪分布式搭建#配置环境[[email protected]]#vi/etc/profile{exportSPARK_HOME=/opt/app/spark-2.3.1exportPATH=$PATH:$SPARK_HOME/bin:$SPARK_HOME/s......
  • nginx.conf 配置文件
     一、位置vim/usr/local/nginx/conf/nginx.conf 二、配置文件中的内容(包含三部分) 1、全局块:配置服务器整体运行的配置指令从配置文件开始到events块之间的内......
  • 从零开始配置 vim(17)——快捷键提示
    之前我们定义了各种各样的快捷键,有为了增强功能自定义的,有针对插件的。数量一多有的时候就不那么容易记忆了。要是每次要去配置文件找我定义了哪些快捷键肯定会影响使用的......
  • 华为服务器修改ibmc账号密码、配置raid5、安装系统
     修改ibmc账号密码转载自:https://www.cnblogs.com/mtactor/p/2288V5.html 昵称:mtactor方法一:采用网线直连管理口1、使用网线直接连接服务器的Mgmt口,另外一端连接......
  • menuconfig(基于文本(命令行)的图形化配置界面)是如何实现的
    引在编译linux内核时,makemenuconfig命令可以在命令行终端下显示“图形”配置界面。vim,top,emacs,screen等命令都可以显示“图形界面”原理[https://blog.csdn.net/Sh......
  • Jave配置Maven
    1.安装Maven  Maven官网:https://maven.apache.org/download.cgi  选择Binaryziparchive下载zip包    将解压的文件放入自己选定的文件路径中  2.配置环......
  • vue cli3 如何配置babel.config.js 可以按需引用多个不同的组件库
    module.exports={  presets:['@vue/app'],  plugins:[    ['import',      {        libraryName:'ant-design-v......
  • 配置工程及引入测试--针对C++
     书写CMakeList同时支持windows、Linux、Mac,将头文件,三方库,源文件,测试代码目录进行分离使用CMAKE区分Debug版本和Release版本;工程中同时生成动态库和测试用例;动态库方......