0
我正在使用flink從Azure數據湖中讀取數據。但flink無法找到Azure數據湖文件系統。如何配置flink來了解Azure Data湖文件系統。任何人都可以在此引導我?如何配置flink以瞭解Azure Data Lake文件系統?
我正在使用flink從Azure數據湖中讀取數據。但flink無法找到Azure數據湖文件系統。如何配置flink來了解Azure Data湖文件系統。任何人都可以在此引導我?如何配置flink以瞭解Azure Data Lake文件系統?
Flink能夠連接到任何Hadoop兼容文件系統(即實現org.apache.hadoop.fs.FileSystem)。請參閱此處以獲取解釋:https://ci.apache.org/projects/flink/flink-docs-release-0.8/example_connectors.html
在core-site.xml中,應該添加ADLS特定的配置。無論Flink代理運行,您還需要類路徑中的ADL罐。
它基本上與本博客中概述的概念相同,但適用於Flink。 https://medium.com/azure-data-lake/connecting-your-own-hadoop-or-spark-to-azure-data-lake-store-93d426d6a5f4
我已遵循您的鏈接並配置了flink以瞭解Azure Data Lake文件系統 – Dhinesh
這是否正常工作?如果是這樣,請將此標記爲將來參考的答案。謝謝! –