- 安装scala
安装Scala不是任何版本都可以,必须安装Spark指定的版本。如果brew 安装不了指定的版本就去官网下载安装包手动安装。
brew install scala@2.12.10
scala -version
配置环境变量
export SCALA_HOME=/usr/local/Cellar/scala-2.12.10
export PATH=$PATH:$SCALA_HOME/bin
- 安装spark
brew install spark
注意
:安装大数据相关的软件时特别要注意版本号,大数据安装软件经常遇到版本号不兼容的问题,如果要安装特定版本的spark采用直接下载.tar包解压的方式安装。因我安装的大数据软件都是最新版本,brew install spark安装的Spark不是最新的,这样版本不兼容很容易出问题,所以,我这里最后是用到官网下载安装程序安装的。
配置环境变量
export SPARK_HOME=/usr/local/Cellar/apache-spark/2.4.5_1/libexec
export PATH=$PATH:$SPARK_HOME/bin
- 启动Spark
> cd $SPARK_HOME/sbin
> ./start-all.sh
> jps
49452 Master
49495 Worker
http://localhost:8080/
- 启动Spark Shell
cd $SPARK_HOME/bin
./spark-shell