大数据学习
bigdata learning
Toggle navigation
大数据学习
主页
openGauss数据库
Flume
MongoDB
Hadoop
数据库实验
Kafka
Zookeeper
Hbase
Manual
Spark
Neo4j
InfluxDB
RabbitMQ
Flink
About Me
归档
标签
03-Flume案例-监控端口数据
Flume
2022-09-27 17:20:50
54
0
0
bigdata
Flume
# Flume案例-监控端口数据官方案例 ## 1)案例需求: 使用 Flume 监听一个端口, 收集该端口数据,并打印到控制台。 ## 2)需求分析:  ## 3)实现步骤: ### 1.安装 netcat 工具 centos安装方法 ```bash nbu@ecs:~$ sudo yum install -y nc ``` ubuntu安装方法 ```bash nbu@ecs:~$ sudo apt-get -y install netcat-traditional ``` ### 2.判断 44444 端口是否被占用 ```bash nbu@ecs:~$ sudo netstat -tunlp | grep 44444 ``` ### 3.创建 Flume Agent 配置文件 flume-netcat-logger.conf 在 flume 目录下创建 job 文件夹并进入 job 文件夹。 ```bash nbu@ecs:~$ cd /usr/local/flume/ nbu@ecs:~$ mkdir job nbu@ecs:~$ cd job/ ``` 在 job 文件夹下创建 Flume Agent 配置文件 flume-netcat-logger.conf。 ```bash nbu@ecs:/usr/local/flume/job$ vim flume-netcat-logger.conf ``` 在 flume-netcat-logger.conf 文件中添加如下内容。 ```bash 添加内容如下: # Name the components on this agent a1.sources = r1 a1.sinks = k1 a1.channels = c1 # Describe/configure the source a1.sources.r1.type = netcat a1.sources.r1.bind = localhost a1.sources.r1.port = 44444 # Describe the sink a1.sinks.k1.type = logger # Use a channel which buffers events in memory a1.channels.c1.type = memory a1.channels.c1.capacity = 1000 a1.channels.c1.transactionCapacity = 100 # Bind the source and sink to the channel a1.sources.r1.channels = c1 a1.sinks.k1.channel = c1 ```  ### 4.先开启 flume 监听端口 第一种写法: ```bash nbu@ecs:/usr/local/flume$ bin/flume-ng agent --conf conf/ --name a1 --conf-file job/flume-netcat-logger.conf -Dflume.root.logger=INFO,console ``` 第二种写法: ```bash nbu@ecs:/usr/local/flume$ bin/flume-ng agent -c conf/ -n a1 -f job/flume-netcat-logger.conf -Dflume.root.logger=INFO,console ``` 参数说明: --conf/-c:表示配置文件存储在 conf/目录 --name/-n:表示给 agent 起名为 a1 --conf-file/-f:flume 本次启动读取的配置文件是在 job 文件夹下的 flume-telnet.conf 文件。 -Dflume.root.logger=INFO,console :-D 表示 flume 运行时动态修改 flume.root.logger 参数属性值,并将控制台日志打印级别设置为 INFO 级别。日志级别包括:log、 info、 warn、 error。 ### 5.使用 netcat 工具向本机的 44444 端口发送内容 另开一个终端 ```bash [nbu@ecs ~]$ nc localhost 44444 hello nbu ```  ### 6.在 Flume 监听页面观察接收数据情况 
上一篇:
03-Flink-StreamWordCount编程
下一篇:
03-HBase-Java编程
文档导航