我正在使用AWS Kinesis寫入Elastic Search並以S3作爲備份。所以,這是寫給兩個來源。但是我觀察到一個問題,即它不會推到S3,而是推到彈性搜索。那麼,它是否定期或類似的?任何解釋,如果任何人可以給予讚賞。另外,如果是這樣的話,有什麼方法可以改變它嗎?Kinesis寫入ElasticSearch和S3
0
A
回答
0
我在這裏發現了問題。因此,每個Elastic Search和S3都有配置,用於定義何時寫入它們。檢查緩衝區大小和緩衝時間。
它在AWS的Kinesis常見問題解答中提到: -
問:什麼是緩衝區大小和緩衝的時間間隔?
Amazon Kinesis Firehose將傳入的流式數據緩存到特定大小或一段時間,然後將其傳遞到目標。您可以在創建傳送流時配置緩衝區大小和緩衝區間隔。緩衝區大小以MB爲單位,對於Amazon S3目標爲1MB至128MB,對於Amazon Elasticsearch服務目標,緩衝區大小爲1MB至100MB。緩衝區間隔以秒爲單位,範圍從60秒到900秒。請注意,在數據傳輸到目的地的數據寫入傳輸流的情況下,Firehose動態地提高緩衝區大小以趕上並確保所有數據都傳遞到目標。
來源 - https://aws.amazon.com/kinesis/firehose/faqs/
所以,在我的情況下,設置是不同的,因此,我以書面形式向S3看到的延遲。
相關問題
- 1. 將Kinesis中的數據寫入S3
- 2. Amazon Kinesis Stream to S3
- 3. Kinesis到s3桶使用Kinesis連接器
- 4. 從AWS Kinesis fireshose寫入實木複合地板到AWS S3
- 5. Kinesis - 處理寫入ProvisionedThroughputExceededException
- 6. Logstash不寫入Elasticsearch
- 7. Elasticsearch snapshots s3
- 8. Elasticsearch curator purge s3
- 9. AWS Kinesis Firehose - 使用索引旋轉(Elasticsearch)
- 10. 從EC2寫入S3
- 11. 亞馬遜Kinesis Firehose緩存到S3
- 12. 使用imageio和boto3寫入s3
- 13. Kinesis是否公開任何指標/日誌以檢測寫入Kinesis流的源?
- 14. S3.php - 將文件寫入到Amazon S3
- 15. AWS Lambda函數寫入S3
- 16. 直接寫入到Amazon S3
- 17. 將RDD [OmnitureData]寫入S3
- 18. 加快寫入到Amazon S3
- 19. Kinesis輸入流到Logstash
- 20. 汽車線kinesis流kinesis firehose?
- 21. 在java程序中獲取錯誤寫入Kinesis Firehose流
- 22. 如何將數據寫入Kinesis中的特定分片
- 23. 將數據寫入Amazon Kinesis的推薦方式
- 24. 亞馬遜EC2和S3:如何讀取和寫入數據
- 25. 有沒有辦法將數據放入S3存儲桶的Kinesis Firehose中?
- 26. Kinesis Firehose到s3:將數據傳送到s3路徑中的錯誤小時
- 27. 在亞馬遜Kinesis中讀寫交易
- 28. Elasticsearch關鍵字和小寫和聚集
- 29. ElasticSearch性能:連續讀取/寫入vs批量寫入
- 30. 豬通過HCatStorer()向S3寫入「成功」,寫入0字節
你如何從kinesis寫入elasticsearch或s3?使用lamdas? – prayagupd
不可以。在Kinesis中,你有一個配置來添加一個目的地。 – hatellla