yarn

    0熱度

    1回答

    我正在使用Hadoop 2.7.3,使用紗線做一些地圖縮小。 爲每個容器生成的日誌是天文數字。顯然使用的級別是DEBUG。 我想將日誌級別增加到INFO。 我的安裝或多或少是默認安裝。 我試着修改我的hadoop-yarn-server-nodemanager - *。jar中的container-log4j.properties,如https://community.hortonworks.co

    0熱度

    1回答

    我已經安裝多節點絲簇 節點1:某個Datanode和主 節點2:某個Datanode 當我提交我的作業,作業工程罰款時,第一容器上的節點1日開始實施,但作業保持在第一次容器節點-2。爲什麼推出這種情況 在絲帶UI接受的狀態,我可以看到兩個節點註冊

    2熱度

    1回答

    運行我上線運行的火花。 我的火花版本是有2.1.1,和Hadoop版本的Apache Hadoop的2.7.3。 當在集羣模式下紗線行走火花的工作,我可以通過標準輸出/標準錯誤鏈接查看執行程序的日誌像 http://hadoop-slave1:8042/node/containerlogs/container_1500432603585_0148_01_000001/hadoop/stderr?s

    0熱度

    1回答

    我在我的筆記本電腦中設置了Hadoop, ,並且當我在Hadoop(儘管MapReduce和Tez)上提交作業時, 狀態始終爲「已接受」,但始終進展停留在0%,描述寫了類似「等待AM容器分配」的內容。 當我檢查通過YARN UI(本地主機:8088)的節點, 它表明活性節點是0 但是從HDFS UI(本地主機:50070),它顯示有是一個活節點。 是那個導致作業卡,因爲沒有可用的節點的主要原因是什

    0熱度

    1回答

    我有一個運行多個配置單元腳本的unix shell腳本。我已經爲配置單元腳本中的每個配置單元查詢提供了Job名稱。 我需要的是,在shell腳本的末尾,我想根據YARN日誌/應用程序中的作業名稱檢索用於配置單元查詢的資源(根據使用的內存,容器),具有appstatus as'FINISHED' 我該怎麼做? 任何幫助,將不勝感激。

    1熱度

    1回答

    我在YARN中使用容量調度程序,我發現用戶可以通過使用屬性'yarn minimum-user-limit-percent'來獲得隊列的最小百分比。我將此屬性設置爲20,和我期望的是,資源將得到均勻分佈的多達5個用戶,根據此: https://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.6.1/bk_yarn-resource-management/c

    1熱度

    1回答

    我有下面的程序來計算日誌文件中的「錯誤」的計數。最後,它的值被打印在控制檯中。當紗線客戶端程序運行時,它將在控制檯中顯示累加器正確值509,但當它在紗線簇模式下運行時,不會顯示此值。如何以紗線叢集模式打印? object ErrorLogsCount{ def main(args:Array[String]){ val sc = new SparkContext();

    0熱度

    1回答

    我在一個項目中有多個文件夾,每個文件夾都有自己的yarn.lock。當在Gitlab亞軍運行,通過紗線安裝所有節點模塊正在即使我使用yarn config set cache-folder很長一段時間: yarn config set cache-folder .yarn-cache # For each folder with a yarn.lock file: yarn install

    0熱度

    1回答

    我的基於mapreduce的hive sql在Yarn上運行,hadoop版本是2.7.2。我想要的,它限制映射器任務或減速器任務同時運行當一些配置單元sql是真的很大。我曾嘗試下面的參數,但實際上他們是不是我想要的: mapreduce.tasktracker.reduce.tasks.maximum: The maximum number of reduce tasks that will b

    0熱度

    1回答

    我有2個幾乎相同的CDH 5.8簇,即Lab & Production。我有一個在Lab中運行良好的mapreduce作業,但在生產羣集中失敗。我已經花了超過10個小時了。我確保我運行完全相同的代碼,並比較了羣集之間的配置。我找不到任何區別。 唯一的區別我可以看到的是當我在生產運行,我看到這些警告: 還要注意,緩存文件的路徑始於「文件://空/」 17/08/16 10:13:14 WARN ut