2012-12-03 47 views
1

我有一個將日誌寫入HDFS的flume-ng。
我在單個節點中創建了一個代理。
但它沒有運行。
有我的配​​置。
無法在flume-ng中創建類型爲HDFS的接收器


#example2.conf:一個單節點水槽配置

#名稱在此代理的組件
agent1.sources = source1中
agent1.sinks =信宿1
agent1.channels = channel1

#描述/ configure source1
agent1.sources.source1.type = avro
agent1.sources.source1.bind =本地主機
agent1.sources.source1.port = 41414

#使用它緩衝在存儲器中的事件
agent1.channels.channel1.type =存儲器
AGENT1的信道。 channels.channel1.capacity = 10000
agent1.channels.channel1.transactionCapacity = 100

#描述信宿1
agent1.sinks.sink1.type = HDFS
agent1.sinks.sink1.hdfs.path = HDFS ://dbkorando.kaist.ac.kr :9000 /水槽

#綁定源和匯的信道
agent1.sources.source1.channels =通道1
agent1.sinks.sink1.channel =通道1


和i命令

flume-ng agent -n agent1 -c conf -C /home/hyahn/hadoop-0.20.2/hadoop-0.20.2-core.jar -f conf/example2.conf -Dflume.root.logger=INFO,console

結果是


信息:包含通過(/home/hyahn/hadoop-0.20.2/bin/hadoop)發現HDFS訪問
+ EXEC /usr/java/jdk1.7.0_02/bin/java Hadoop的庫-Xmx20m -Dflume.root.logger = INFO,console -cp'/etc/flume-ng/conf:/usr/lib/flume-ng/lib/*:/home/hyahn/hadoop-0.20.2/hadoop- 0.20.2-core.jar'-Djava.library.path =:/ home/hyahn/hadoop-0.20.2/bin /../ lib/native/Linux-amd64-64 org.apache.flume.node.Application -n agent1 -f conf/example2.conf
2012-11-27 15:33:17,250(main)[INFO - org.apache.flume.lifecycle.LifecycleSupervisor.start(LifecycleSupervisor.java:67)]啓動生命週期主管1
2012-11-27 15:33:17,253(main)[INFO - org。 apache.flume.node.FlumeNode.start(FlumeNode.java:54)] Flume節點啓動 - agent1
2012-11-27 15:33:17,257(lifecycleSupervisor-1-1)[INFO - org.apache.flume。 conf.file.AbstractFileConfigurationProvider.start(AbstractFileConfigurationProvider.java:67)]配置提供程序啓動
2012-11-27 15:33:17,257(lifecycleSupervisor-1-0)[INFO - org.apache.flume.node.nodemanager。 DefaultLogicalNodeManager.start(DefaultLogicalNodeManager。java:203)]節點管理器啓動
2012-11-27 15:33:17278(lifecycleSupervisor-1-0)[INFO - org.apache.flume.lifecycle.LifecycleSupervisor.start(LifecycleSupervisor.java:67)] Starting生命週期監督器9
2012-11-27 15:33:17,258(conf-file-poller-0)[INFO - org.apache.flume.conf.file.AbstractFileConfigurationProvider $ FileWatcherRunnable.run(AbstractFileConfigurationProvider.java:195)]重新加載配置文件:conf/example2.conf
2012-11-27 15:33:17,266(conf-file-poller-0)[INFO - org.apache.flume.conf.FlumeConfiguration $ AgentConfiguration.addProperty(FlumeConfiguration.java :988)]處理:sink1
2012-11-27 15:33:17,266(conf-file-poller-0)[INFO - org.apache.flume.conf.FlumeConfiguration $ AgentConfiguration.addProperty(FlumeConfiguration.java:988 )]處理:s ink1
2012-11-27 15:33:17,267(conf-file-poller-0)[INFO - org.apache.flume.conf.FlumeConfiguration $ AgentConfiguration.addProperty(FlumeConfiguration.java:988)]處理:sink1
(INFO - org.apache.flume.conf.FlumeConfiguration $ AgentConfiguration.addProperty(FlumeConfiguration.java:902)]添加接收器:sink1代理程序: agent1
2012-11-27 15:33:17,290(conf-file-poller-0)[INFO - org.apache.flume.conf.FlumeConfiguration.validateConfiguration(FlumeConfiguration.java:122)]驗證後flume配置包含配置代理:[agent1]
2012-11-27 15:33:17,290(conf-file-poller-0)[INFO - org.apache.flume.conf.properties.PropertiesFileConfigurationProvider.loadChannels(PropertiesFileConfigurationProvider.java:249 )] Cre ating channels
2012-11-27 15:33:17,354(conf-file-poller-0)[INFO - org.apache.flume.instrumentation.MonitoredCounterGroup。(MonitoredCounterGroup.java:68)] Monitoried counter group for type: CHANNEL,名稱:channel1,註冊成功。
2012-11-27 15:33:17,355(conf-file-poller-0)[INFO - org.apache.flume.conf.properties.PropertiesFileConfigurationProvider.loadChannels(PropertiesFileConfigurationProvider.java:273)] created channel channel1
(INFO - org.apache.flume.instrumentation.MonitoredCounterGroup。(MonitoredCounterGroup.java:68)]監視計數器組的類型爲:SOURCE,name: source1,註冊成功。
2012-11-27 15:33:17,378(conf-file-poller-0)[INFO - org.apache.flume.sink.DefaultSinkFactory.create(DefaultSinkFactory.java:70)]創建sink實例:sink1,類型:HDFS


如上所述,問題,即水槽-NG停止在水槽生成部已經發生。 問題是什麼?

+0

你在使用'-C'參數來做什麼? –

回答

1

你需要打開另一個窗口,在端口發送的Avro命令41414爲:

bin/flume-ng avro-client --conf conf -H localhost -p 41414 -F /home/hadoop1/aaa.txt -Dflume.root.logger=DEBUG,console 

在這裏,我在/home/hadoop1/目錄中名爲aaa.txt文件

您的水槽將讀取該文件併發送至HDFS。

+0

謝謝你的回答。然而,這不是我的問題的解決方案。我們的水槽沒有生成。 – user1871787

相關問題