0
我正在讀取來自Kafka的數據並沉入HDFS。 Flume有什麼方法可以壓縮數據並存儲在HDFS中。 (數據未在卡夫卡壓縮)在Apache Flume中壓縮數據
我正在讀取來自Kafka的數據並沉入HDFS。 Flume有什麼方法可以壓縮數據並存儲在HDFS中。 (數據未在卡夫卡壓縮)在Apache Flume中壓縮數據
嘗試在水槽配置設置這兩個參數:
hdfs.codeC= one of following -> gzip, bzip2, lzo, lzop, snappy
hdfs.fileType=CompressedStream
更多信息可在flume user guide
可用