在今天的数字化世界中,数据管理和分析工具的选择对于企业的成功至关重要。ClkLog作为一款强大的日志分析工具,能够帮助企业从海量数据中洞察业务、提升效率。然而,如何才能顺利部署ClkLog系统,使其最大化地服务于您的业务呢?本篇文章将提供一站式的ClkLog部署指南,无论您是IT新手还是资深工程师,都能通过我们的指南,轻松掌握ClkLog的部署步骤和技巧,使得数据的收集、分析和管理变得更加简单、高效。
环境准备
● CentOS 7
● JDK 1.8
● Nginx 1.18
● Redis 3.2.4
● Zookeeper 3.7.1
● Kafka 2.12-3.3.1
● Flink 1.14.6
● Clickhouse 23.2.1
● nodejs >= 8.9
● npm >=3.0.0
初始化步骤参考
创建安装目录
mkdir /usr/local/services
Java 1.8 安装参考
下载 jdk-8u211-linux-x64.rpm
rpm -ivh jdk-8u211-linux-x64.rpm
Copy to clipboard
Error
Copied
nginx 安装参考
yum install nginx
systemctl start nginx
Copy to clipboard
Error
Copied
Redis 3.2.4 安装参考
1. 从 Redis 官网下载安装包
wget https://download.redis.io/releases/redis-3.2.4.tar.gz
Copy to clipboard
Error
Copied
2. 解压
将安装包拷贝至/usr/local/services/目录并解压, 解压后进入redis安装目录:
cd /usr/local/services/
tar xzf redis-3.2.4.tar.gz
cd redis-3.2.4
Copy to clipboard
Error
Copied
3. 编译
make
Copy to clipboard
Error
Copied
4. 安装
make install
Copy to clipboard
Error
Copied
默认情况下,Redis 会被安装在/usr/local/bin目录下
5. 修改配置
拷贝redis.conf 至/etc/redis/redis.conf
mkdir /etc/redis
cp redis.conf /etc/redis/redis.conf
Copy to clipboard
Error
Copied
修改配置文件:/etc/redis/redis.conf
vim /etc/redis/redis.conf
protected-mode no
daemonize yes
appendonly yes
Copy to clipboard
Error
Copied
6. 启动服务
/usr/local/bin/redis-server /etc/redis/redis.conf
Copy to clipboard
Error
Copied
7. 检查安装是否成功
cd /usr/local/bin
./redis-cli
Copy to clipboard
Error
Copied
Zookeeper 3.7.1 安装参考
1. 从 Zookeeper 官网下载安装包
wget --no-check-certificate https://dlcdn.apache.org/zookeeper/zookeeper-3.7.1/apache-zookeeper-3.7.1-bin.tar.gz
Copy to clipboard
Error
Copied
2. 解压
将安装包拷贝至/usr/local/services/目录并解压, 解压后进入Zookeeper安装目录:
cd /usr/local/services/
tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz
cd apache-zookeeper-3.7.1-bin
Copy to clipboard
Error
Copied
3. 修改配置
拷贝配置文件,并增加配置项
cp ./conf/zoo_sample.cfg ./conf/zoo.cfg
admin.serverPort=8887
Copy to clipboard
Error
Copied
4. 启动zk
./bin/zkServer.sh start
Copy to clipboard
Error
Copied
5. 检查
./bin/zkServer.sh status
Copy to clipboard
Error
Copied
未启动成功,从./logs里查看启动日志
Kafka 2.12-3.3.1 安装参考
1. 从 Kafka 官网下载安装包
wget --no-check-certificate https://archive.apache.org/dist/kafka/3.3.1/kafka_2.12-3.3.1.tgz
Copy to clipboard
Error
Copied
2. 解压
将安装包拷贝至/usr/local/services/目录并解压, 解压后进入Kafka安装目录:
cd /usr/local/services/
tar -xzf kafka_2.12-3.3.1.tgz
cd kafka_2.12-3.3.1
Copy to clipboard
Error
Copied
3. 启动
./bin/kafka-server-start.sh -daemon config/server.properties
Copy to clipboard
Error
Copied
4. 检查
创建名为test的topic
./bin/kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092 --replication-factor 1 --partitions 1 --topic test
Copy to clipboard
Error
Copied
查看to
./bin/kafka-topics.sh --bootstrap-server 127.0.0.1:9092 --describe --topic test
Copy to clipboard
Error
Copied
不报错正常,如果未启动成功,从./logs里查看启动日志
Flink 1.14.6 安装参考
1. 从 Flink官网下载安装包
wget https://archive.apache.org/dist/flink/flink-1.14.6/flink-1.14.6-bin-scala_2.12.tgz
Copy to clipboard
Error
Copied
2. 解压
将安装包拷贝至/usr/local/services/目录,重命名为flink-1.14.6.tgz后解压, 解压后进入Flink安装目录:
cd /usr/local/services/
mv flink-1.14.6-bin-scala_2.12.tgz flink-1.14.6.tgz
tar -xzf flink-1.14.6.tgz
cd flink-1.14.6
Copy to clipboard
Error
Copied
3. 启动
./bin/start-cluster.sh
Copy to clipboard
Error
Copied
4. 检查
http://localhost:8081/
Clickhouse 23.2.1 安装参考
1. 安装clickhouse
yum install -y yum-utils
rpm --import https://repo.yandex.ru/clickhouse/CLICKHOUSE-KEY.GPG
yum-config-manager --add-repo https://repo.yandex.ru/clickhouse/rpm/stable/x86_64
yum install clickhouse-server clickhouse-client
Copy to clipboard
Error
Copied
2. 修改用户验证信息
修改/etc/clickhouse-server/users.xml文件,在标签下设置用户验证信息。比如,我们设定一个用户名为default,密码为123456。
更多设置请参考ClickHouse官方文档。
3. 启动数据库
sudo systemctl enable clickhouse-server
sudo systemctl start clickhouse-server
sudo systemctl status clickhouse-server
Copy to clipboard
Error
Copied
4. 登录数据库
clickhouse-client -u default --password 123456
Copy to clipboard
Error
Copied