首页 > 编程语言 >spark程序如何在不同的安装模式下运行

spark程序如何在不同的安装模式下运行

时间:2022-08-19 16:59:57浏览次数:49  
标签:-- app 程序 master examples 2.3 spark 安装

1. 本地

spark-submit --class org.apache.spark.examples.SparkPi --master local[2] /opt/app/spark-2.3.1/examples/jars/spark-examples_2.11-2.3.1.jar 100

2. standalone

  1. 必须把spark的自带独立调度器启动了----master worker
  2. spark-submit --class org.apache.spark.examples.SparkPi --master spark://node1:7077 /opt/app/spark-.3.1/examples/jars/spark-examples_2.11-2.3.1.jar 100

3. yarn

  1. 必须把YARN启动了
  2. spark-submit --class org.apache.spark.example.SparkPi --master yarn --deploy-mode client /opt/app/spark-2.3.1/examples/spark-examples_2.11-2.3.1.jar 100

4. 我们编写好的代码如果做测试使用,一般使用local本地默认运行,如果在真正的运行程序。

上线运行,会选择使用standlone、yarn、mesos运行。

标签:--,app,程序,master,examples,2.3,spark,安装
From: https://www.cnblogs.com/jsqup/p/16602550.html

相关文章

  • UniApp:程序闪退的一种原因及解决方案
    Uniapp做的定位程序,一直停留在app内的页面,大概半个小时到一个小时,程序闪退,没有报错。这个问题还挺难定位的,上网搜了很多程序闪退的原因,一个个排查,还开了fiddler抓包看看是......
  • 移动app测试安装与卸载(需要配置环境)
    一、app移动测试实战1、下载Android-sdk-windows。打开SDKManager.exe2、搭建环境设备:在手机的设置——>我的设备——>全部参数——>miui版本(redmik20pro)一直点击,知......
  • docker 安装Sentinel
    1、拉取镜像dockerpull bladex/sentinel-dashboard 2、启动容器#dockerrun-d-p8858:8858\>--namesentinel\>--ip192.168.59.103\>-eAUTH_USERNAME=se......
  • linux安装指定版本的docker
    场景:aptinstalldocker.io 安装的为默认最新版本的docker,但k8s不能使用最新版本docker实现:环境:ubuntu18.04aptinstallapt-transport-httpsca-certificatescurls......
  • debian安装x2go
    1-debian安装xfce桌面sudoapt-getinstallxfce42-添加GPGKeys*******************************************************注意,注意,debian接受的也是keyserver.ubuntu.c......
  • RabbitMQ 入门系列:1、MQ的应用场景的选择与Rabbit安装
    1、MQ的应用场景的选择:可以参考网上的对比图: 遥想当年,MQ都是MSMQ(微软)的,现在,都不在参考图上了。对MQ的使用,根据应用场景,选择适合的MQ即可,本系列仅介绍RabbitMQ。2、......
  • 安装Flink 环境
    安装Flink环境环境:centos7.7jdk:1.8.0Flink版本:1.14.5安装目录:/root/hadoop/flink-1.14.5首先解压Flinktar包tar-zxvfflink-1.14.5-bin-scala_2.11.tgzcdfli......
  • No module named 'setuptools_rust' 安装oss2报错
    今天在测试机器上安装oss2报错了:Nomodulenamed'setuptools_rust'经过查询后记录一下OSS2介绍官方文档:https://help.aliyun.com/document_detail/32027.html一句......
  • python将代码打包成whl或者压缩文件使用pip安装
    需要条件:安装setuptools,wheel创建目录helloworld—init.py—代码1.py—代码2.pysetup.py编辑__init__.pyfromhelloworldimport代码1,代码2在helloworld同级下......
  • 浙里办微信小程序总结
    浙里办微信小程序单点登录流程1.获取浙里办跳转地址中ticket或者微信小程序中的ticketIdletticket=getQueryString("ticket",window.location.href);letsp......