首页 > 系统相关 >linux安装spark

linux安装spark

时间:2025-01-02 12:08:50浏览次数:1  
标签:bin -- export linux HOME spark 安装 SPARK

1、首先在官网下载http://spark.apache.org/downloads.html, 选择与hadoop对应的版本,对应关系为:spark1.6.2--scala2.10;spark2.0.0--scala2.11   http://mirrors.hust.edu.cn/apache/spark/spark-2.2.2/spark-2.2.2-bin-hadoop2.7.tgz 在终端中输入wget http://d3kbcqa49mib13.cloudfront.net/spark-1.6.2-bin-hadoop2.6.tgz(此处粘贴刚才复制的链接进行下载),或直接下载都可 2、解压下载的spark 输入tar -zxvf spark-1.6.2-bin-hadoop2.6.tgz进行解压   3、cd conf/ 将log4j文件复制出来一份 cp log4j.properties.template log4j.properties 进入文件并将rootCategory 的INFO级别改成WARN log4j.properties spark-env.sh 复制一份并在最后添加 export JAVA_HOME=/opt/jdk/jdk1.8.0_161 export SCALA_HOME=/opt/Servers/scala-2.11.8 export SPARK_MASTER_IP=localhost export SPARK_WORKER_MEMORY=4G 4、配置环境变量~/.bashrc #Spark export SPARK_HOME=/opt/Servers/spark-2.3.2-bin-hadoop2.7 export PATH=$PATH:${SPARK_HOME}/bin 5、修改host 192.168.35.152 localhost   6、启动 $SPARK_HOME/sbin/start-all.sh 停止 $SPARK_HOME/sbin/stop-all.sh 测试Spark是否安装成功:   $SPARK_HOME/bin/run-example SparkPi 得到结果:   Pi is roughly 3.14716 检查WebUI,浏览器打开端口: http://localhost :8080 需要本地别占用8080端口   在spark上执行task spark-submit --master spark://10.10.5.246:7077 --name WordCountByscala --class luozt_scala.spark.wordcount --executor-memory 1G --total-executor-cores 2 /home/luozt/spark/spark0824.jar /home/luozt/spark/README.md       修改spark ui的运行端口 进入spark的bin目录 修改start-master.sh SPARK_MASTER_WEBUI_PORT=9090

标签:bin,--,export,linux,HOME,spark,安装,SPARK
From: https://www.cnblogs.com/robots2/p/18647383

相关文章

  • linux mint下安装截图工具
    在linux下尝试了多款截图工具,综合下来,觉得shutter是最好用的,推荐大家使用。Shutter是一个强大的截图工具,强大的功能集成到一个直观的简洁界面,应用程序自带多个区域截图(如全屏,选择界面,活动窗口,网站等),方便应用功能,以及有众多插件和上传到Web服务的功能。安装shutter:sudoadd-ap......
  • linux mint安装eclipse
    安装eclipse之前需要先安装配置jdk,参考上面,一、Eclipse的下载与安装1、首先,在Eclipse的官网中下载最新版的LunaSR2http://www.eclipse.org/downloads/packages/release/Luna/SR2(点击打开链接)直接下载最新版的EclipseforJavaEELinux32bit/64bit,Eclipse各个版本其实差别不多,......
  • linux mint安装Idea
    一、前言这一节我们介绍在Linux下如何安装与破解Intellijidea2017。现在有很多公司开发环境都是Linux,所以掌握在Linux环境下使用Idea办公也是咱们必须得掌握的技能。记住我们下载的是Ultimate(旗舰版),不是Community(社区版)。Ultimate(旗舰版)是收费的版本,本文主要是针对这个版......
  • 嵌入式Linux应用程序开发 主题:第11章学习笔记
    康奈尔笔记法-嵌入式Linux应用程序开发主题:第11章学习笔记1.关键问题(Questions/Keywords):嵌入式Linux开发的核心概念有哪些?如何配置开发环境?嵌入式系统的文件系统如何构建?进程管理和多线程技术的应用。2.备注(Notes):嵌入式Linux核心概念:嵌入式系统结合了硬件和软件......
  • linux安装nodejs
    https://nodejs.org/en/下载nodejs后解压到一个目录添加环境变量#NodejsexportNODE_HOME=/opt/SoftWare/node-v10.16.0-linux-x64exportPATH=$PATH:$NODE_HOME/bin 使用国内镜像npminstall-gcnpm--registry=https://registry.npm.taobao.org 安装vue脚手架cnpm......
  • linux mint安装触控板手势fusuma
    安装必要的包,终端输入:sudoapt-getinstalllibinput-toolssudoapt-getinstallxdotoolsudogeminstallfusuma有些人可能会安装失败,因为gem要使用Ruby的环境,如果上面的第三步安装失败了,记得先使用下面这条指令安装Ruby。然后再执行上述第三条命令。sudoapt-getinstall......
  • docker安装fastdfs
    使用Docker安装FastDFS1.获取镜像可以利用已有的FastDFSDocker镜像来运行FastDFS。获取镜像可以通过下载dockerimagepulldelron/fastdfs加载好镜像后,就可以开启运行FastDFS的tracker和storage了。2.运行tracker执行如下命令开启tracker服务dockerrun-dti--netwo......
  • linux更新软件源 安装docker
    vim/etc/aptsources.list学习参考https://blog.csdn.net/bskfnvjtlyzmv867/article/details/81044217 #默认注释了源码镜像以提高aptupdate速度,如有需要可自行取消注释debhttps://mirrors.tuna.tsinghua.edu.cn/ubuntu/xenialmainrestricteduniversemultiverse#......
  • 单机stome安装
    先安装zookeeper,参考本文件夹下安装文档启动zookeeper1、解压stome/opt/Server目录下tar-zxfapache-storm-1.1.0.tar.gz2、修改配置文件vim./conf/storm.yaml ###########TheseMUSTbefilledinforastormconfigurationstorm.zookeeper.servers:-"192.168.35......
  • Linux mint安装外部软件
    //更新系统 sudo apt-get update更新ruanjiansudo apt-get upgrade更新系统//安装浏览器sudo apt-get install chromium-browser google浏览器wgethttps://dl.google.com/linux/direct/google-chrome-stable_current_amd64.debsudodpkg-igoogle-chrome-stab......