TA的每日心情 | 开心 2024-9-19 21:14 |
---|
签到天数: 757 天 [LV.10]以坛为家III
管理员
- 积分
- 1312677
|
资源详情
课程介绍:Flume是Cloudera提供的一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。
当前Flume有两个版本Flume0.9X版本的统称Flume-og,Flume1.X版本的统称Flume-ng。由于Flume-ng经过重大重构,与Flume-og有很大不同,使用时请注意区分。
课程目录1flume简介-基础知识讲述flume的基础知识包括flume的基本概念和核心组件。flume是一个分布式、可靠、高可用的海量日志聚合系统,支持在系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据的简单处理,并写到各种数据接收方的能力。
2flume安装与测试讲述flume安装与测试,主要包括flume单机安装与测试、flume集群安装与测试、Arvo环境的搭建以及安装过程中的一些异常的解决方案讲解。
3flume部署方式讲述flume部署种类、流配置。其中详细讲解了单一代理、多代理、多路复用流的配置说明。
4flumesource相关配置及测试讲述flumesource相关的配置和案例分析,包括了AvroSource配置、ThriftSource配置、ExecSource配置、JMSSource配置、NetCatSource配置、SpoolingDirectorySource配置、SequenceGeneratorSource配置、SyslogTCPSource配置、MultiportSyslogTCPSource配置、SyslogUDPSource配置、HttpSource配置、CustomSource配置。
5flumesink相关配置及测试讲述flumesink相关的配置以及flumechannel配置和案例分析,包括了HDFSSink配置、LoggerSink配置、AvroSink配置、ThriftSink配置、IRCSink配置、FileRollSink配置、NullSink配置、HbaseSink配置、AsyncHbaseSink配置、CustomSink配置;MemoryChannel配置、JDBCChannel配置、FileChannel配置、PseudoTransactionChannel配置、CustomChannel配置。
6flumeselector相关配置与案例分析讲述flumeselector相关配置和案例分析,包括了ReplicatingChannelSelector配置、MultiplexingChannelSelector配置、CustomChannelSelector配置。
7FlumeSinkProcessors相关配置和案例分析讲述FlumeSinkProcessors相关配置和案例分析,包括了DefaultSinkProcessor配置、FailoverSinkProcessor配置、LoadbalancingSinkProcessor配置。
8FlumeInterceptors相关配置和案例分析讲述FlumeEventSerializers、FlumeInterceptors相关配置和案例分析,包括了BodyTextSerializer配置、AvroTextSerializer配置、TimestampInterceptor配置、HostInterceptor配置、StaticInterceptor配置、RegexFilteringInterceptor配置。
9FlumeRPCClient开发讲述如何进行flumeRPCClient开发,这个是在通常应用中使用的较多的一种方式。
10FlumeSink和FlumeSource开发讲述如何进行flumeSink、flumeSource开发。
|
|