首页 > 其他分享 >大数据之—Flume环境搭建

大数据之—Flume环境搭建

时间:2023-03-22 09:57:06浏览次数:45  
标签:Flume flume 环境 bin a1 apache opt c1 搭建

目录

前言

参考:https://blog.csdn.net/huxili2020/article/details/120212162?spm=1001.2014.3001.5502

软件仓库:https://archive.apache.org/dist/flume/

软件:https://archive.apache.org/dist/flume/1.7.0/apache-flume-1.7.0-bin.tar.gz

一、安装

mkdir -p /opt/flume

mv apache-flume-1.7.0-bin.tar.gz /opt/flume/

tar -zxf /opt/flume/apache-flume-1.7.0-bin.tar.gz

二、配置

cp /opt/flume/apache-flume-1.7.0-bin/conf/flume-env.sh.template /opt/flume/apache-flume-1.7.0-bin/conf/flume-env.sh

vim /opt/flume/apache-flume-1.7.0-bin/conf/flume-env.sh
# export JAVA_HOME=/opt/jdk/java8

二、简单使用示例

yum install -y nc netcat
mkdir -p /opt/flume/job && cd /opt/flume/job

vim /opt/flume/job/netcat-flume-logger.conf

# 给代理上的组件命名  a1:表示agent的名称
# r1:表示a1的Source的名称
a1.sources = r1
# k1:表示a1的Sink的名称
a1.sinks = k1
# c1: 表示a1的Channel的名称
a1.channels = c1

# 描述/配置源
# 表示a1的输入源类型为netcat端口类型
a1.sources.r1.type = netcat
# 表示a1的监听的主机
a1.sources.r1.bind = localhost
# 表示a1的监听的端口号
a1.sources.r1.port = 44444

# 描述接收器
# 表示a1的输出目的地是控制台logger类型
a1.sinks.k1.type = logger

# 使用在内存中缓冲事件的通道
# 表示a1的channel类型是memory内存型
a1.channels.c1.type = memory
# 表示a1的channel总容量为1000个event
a1.channels.c1.capacity = 1000
# 表示a1的channel传输时收集到了100条event以后再去提交事务
a1.channels.c1.transactionCapacity = 100

# 将 source 和 sink 绑定到 channel
# 表示将r1和c1连接起来
a1.sources.r1.channels = c1
# 表示将k1和c1连接起来
a1.sinks.k1.channel = c1

测试-输出到控制台

/opt/flume/apache-flume-1.7.0-bin/bin/flume-ng agent --conf /opt/flume/apache-flume-1.7.0-bin/conf/ --name a1 --conf-file /opt/flume/job/netcat-flume-logger.conf -Dflume.root.logger=INFO,console

标签:Flume,flume,环境,bin,a1,apache,opt,c1,搭建
From: https://www.cnblogs.com/hhddd-1024/p/17242501.html

相关文章

  • 如何自己搭建Scrapy爬虫框架
    当你学了一段时间爬虫后,就会知道各种功能太多而且麻烦。还不如自己整理个框架方便的多。因此,从开始写爬虫程序开始,就会慢慢的接触到一些有关爬虫的框架、效率提升而且扩展......
  • 大数据之—Zookeeper环境搭建
    目录前言一、下载二、安装三、集群部署四、注意前言参考博客:https://blog.csdn.net/weixin_55008454/article/details/128445784一、下载zk仓库地址:https://archive.ap......
  • 李沐动手学深度学习环境配置(Win)
    环境配置(Win)一、安装Minicondahttps://docs.conda.io/en/latest/miniconda.html更改镜像源condanotepad.condarcpypipipconfigsetgloba......
  • macOS系统mamp搭建php连接sqlServer扩展,php连接sqlserver数据库
    macOS系统mamp搭建php连接sqlServer扩展,php连接sqlserver数据库下载:github上提供已经打包的os拓展文件https://github.com/Microsoft/msphpsql/releases打开php......
  • Debian 11 搭建 pontoon
    pontoon目前没有生产级docker镜像,因此尝试直接从源码开始部署。1.下载项目gitclonehttps://github.com/mozilla/pontoon.gitcdpontoon2.编译前端pontoon前......
  • docker-selenium分布式环境搭建(基于grid框架)
    说明:docker-selenium分布式是基于grid框架进行搭建以下是docker-selenium分布式网络拓扑图:  从图中可以看出:      1)docker-selenium可以用作浏览器兼容......
  • hadoop-3.3.0集群环境搭建
    #1.配置三台机器的IP地址master10.43.80.80slave110.43.80.81slave210.43.80.82#2.关闭三台机器防火墙systemctlstopfirewalld.service#3.修改主机名对应IP地址,......
  • flink1.13.0 环境搭建
    #flink部署1.standalone模式2.yarn模式session-cluster模式job-cluster模式3.k8s模式注:yarn模式需要依赖hadoop环境,#1.standalone模式直接下载flink-1.13.0......
  • mysql集群搭建docker-compose方案
    MySQL集群搭建大致有两种方式,一种是单主/多从的主从复制方式,另一种是使用GaleraCluster高可用解决方案。1、步骤以下我们详细介绍一下单主/多从的主从复制方式:确认服......
  • kubernetes 集群环境搭建 (kubeadm方式)
    1、前置知识点目前生产部署Kubernetes集群主要有两种方式:(1)kubeadmKubeadm是一个K8s部署工具,提供kubeadminit和kubeadmjoin,用于快速部署Kubernetes集群。官方地......