首页 > 其他分享 >Mac安装Spark

Mac安装Spark

时间:2023-05-15 19:32:17浏览次数:40  
标签:Mac export PATH HOME spark 安装 Spark


  1. 安装scala

安装Scala不是任何版本都可以,必须安装Spark指定的版本。如果brew 安装不了指定的版本就去官网下载安装包手动安装。

brew install [email protected]
scala -version

Mac安装Spark_scala

配置环境变量

export SCALA_HOME=/usr/local/Cellar/scala-2.12.10
export PATH=$PATH:$SCALA_HOME/bin
  1. 安装spark
brew install spark

注意:安装大数据相关的软件时特别要注意版本号,大数据安装软件经常遇到版本号不兼容的问题,如果要安装特定版本的spark采用直接下载.tar包解压的方式安装。因我安装的大数据软件都是最新版本,brew install spark安装的Spark不是最新的,这样版本不兼容很容易出问题,所以,我这里最后是用到官网下载安装程序安装的。

配置环境变量

export SPARK_HOME=/usr/local/Cellar/apache-spark/2.4.5_1/libexec
export PATH=$PATH:$SPARK_HOME/bin
  1. 启动Spark
> cd $SPARK_HOME/sbin
> ./start-all.sh
> jps
49452 Master
49495 Worker

Mac安装Spark_spark_02


http://localhost:8080/

Mac安装Spark_scala_03

  1. 启动Spark Shell
cd $SPARK_HOME/bin
./spark-shell

Mac安装Spark_scala_04


标签:Mac,export,PATH,HOME,spark,安装,Spark
From: https://blog.51cto.com/u_16114318/6280717

相关文章

  • Mac安装Sqoop
    一:简介Sqoop是一款用于Hadoop(Hive)与关系型数据库(mysql等)间进行数据的传递的ETL工具。二:安装sqoop1.安装sqoopbrewinstallsqoop2.配置环境变量Hadoop,Hive,HBaseandZooKeepermustbeinstalledandconfiguredforSqooptowork.vi~/.bash_profileexportZOOKEEPER_H......
  • mormot2控件安装
    1.下载加入QQ群OneDelphi中间件开源群(群号:814696487)2.解压mormot23、把相关路径加到DelphiIDE......
  • mormot2控件安装
    1.下载加入QQ群OneDelphi中间件开源群(群号:814696487)2.解压mormot2;3.把相关路径加到DelphiIDE。......
  • linux中安装jdk
    安装步骤:1.首先我们需要一台虚拟机或者一台配置了环境的服务器这里我们使用阿贝云服务器。2.搜索需要的jdkyumsearchjdk 3.安装需要的版本yuminstall java-1.8.0-openjdk-devel.x86_644.安装完成查看版本......
  • windows环境安装make命令
    一、Make简介Make是一种流行的构建工具,常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make可以自动化地执行编译、链接等一系列操作,提高开发效率。Make使用Makefile文件描述项目的构建过程,其中包含了源文件、目标文件以及编译和链接的命令等......
  • Linux下部署安装JDK
    系统:Centos7安装jdk版本:1.8.0_371安装方式:压缩包jdk官网下载 https://www.oracle.com/java/technologies/downloads/#java8 先用Java-version命令检测系统是否默认安装了jdk,如有可以使用rpm命令卸载!1、利用工具将下载的包放到/usr/local下并解压#切换到jdk目录下cd/u......
  • Prometheus系列---【zookeeper-exporter的安装】
    zookeeper-exporter的安装1.下载地址链接:2.上传到服务器指定目录cd/home/appusermkdirmonitor3.执行修改权限chmod+x/home/appuser/monitor/zookeeper_exporter4.启动zookeeper_exporternohup/home/appuser/monitor/zookeeper_exporter-bind-addr=:1887>/dev/n......
  • Windows 安装 RabbitMQ
    引用:http://www.ppmy.cn/news/6570.html 下载地址寻找:https://www.rabbitmq.com/download.html  ......
  • Docker安装
    前提说明Docker并非是一个通用的容器工具,它依赖于已存在并运行的Linux内核环境。Docker实质上是在已经运行的Linux下制造了一个隔离的文件环境,因此它执行的效率几乎等同于所部署的Linux主机。因此,Docker必须部署在Linux内核的系统上。如果其它系统想部署Docker就必须安装一个虚......
  • 安装和卸载pandas
     安装Pandaspipinstallpandas;#查看版本号pandas.__version__  卸载pandaspipuninstallpandas;     原文链接:https://aistudio.baidu.com/aistudio/projectdetail/4411791 在终端命令行中有三种安装方法,输入命令:(1)pipinstallpandas。自......