2016-12-27 26 views
0

我在Ubuntu 16.04工作站上安裝了Torque 6.1.0,但安裝 似乎無法識別機器有多少核心和線程。我設置的唯一節點顯示狀態爲「狀態=關閉」,任何作業都會觸發一個錯誤,說「節點的正確類型 不夠」。實際上,工作站在2個處理器上有56個線程或28個物理內核 ,我只想使用54個線程或27個物理內核 作爲共享計算作業。我意識到這可能與從Torque V6.0開始的cgroup或NUMA的配置有關,如果我在安裝時做了正確的事情,我不會這樣做。我確實啓用了cgroup,但不確定是否還需要配置啓用NUMA的功能。以下是當前配置的一些輸出。我該怎麼辦?謝謝。工作站上的TORQUE v6.1.0節點狀態=關閉

$ pbsnodes 
node1 
state = down 
power_state = Running 
np = 54 
ntype = cluster 
mom_service_port = 15002 
mom_manager_port = 15003 
total_sockets = 0 
total_numa_nodes = 0 
total_cores = 0 
total_threads = 0 
dedicated_sockets = 0 
dedicated_numa_nodes = 0 
dedicated_cores = 0 
dedicated_threads = 0 


$ lssubsys -am 
cpuset /sys/fs/cgroup/cpuset 
cpu,cpuacct /sys/fs/cgroup/cpu,cpuacct 
blkio /sys/fs/cgroup/blkio 
memory /sys/fs/cgroup/memory 
devices /sys/fs/cgroup/devices 
freezer /sys/fs/cgroup/freezer 
net_cls,net_prio /sys/fs/cgroup/net_cls,net_prio 
perf_event /sys/fs/cgroup/perf_event 
hugetlb /sys/fs/cgroup/hugetlb 
pids /sys/fs/cgroup/pids 

還有一個可疑的部分,它似乎服務器無法看到我已經在服務器的配置文件中定義的節點。由此可以看出在/var/spool/torque/server_logs日誌文件:

12/27/2016 15:48:33.147;01;PBS_Server.2692;Svr;PBS_Server;LOG_ERROR::get_node_from_str, Node node1 is reporting on node NapaValley, which pbs_server doesn't know about 
12/27/2016 15:49:18.232;01;PBS_Server.2692;Svr;PBS_Server;LOG_ERROR::get_node_from_str, Node node1 is reporting on node NapaValley, which pbs_server doesn't know about 
12/27/2016 15:49:25.491;08;PBS_Server.2696;Job;0.NapaValley;Job deleted at request of [email protected] 
12/27/2016 15:49:27.023;08;PBS_Server.2657;Job;0.NapaValley;on_job_exit valid pjob: 0.NapaValley (substate=59) 
12/27/2016 15:49:32.996;256;PBS_Server.2657;Job;0.NapaValley;dequeuing from batch, state COMPLETE 
12/27/2016 15:49:59.722;256;PBS_Server.2696;Job;1.NapaValley;enqueuing into batch, state 1 hop 1 
12/27/2016 15:49:59.722;08;PBS_Server.2696;Job;perform_commit_work;job_id: 1.NapaValley 
12/27/2016 15:49:59.722;02;PBS_Server.2696;node;close_conn;Closing connection 9 and calling its accompanying function on close 
12/27/2016 15:49:59.795;64;PBS_Server.2692;Req;node_spec;job allocation request exceeds currently available cluster nodes, 1 requested, 0 available 
12/27/2016 15:49:59.796;08;PBS_Server.2692;Job;1.NapaValley;Job Modified at request of [email protected] 
12/27/2016 15:50:03.312;01;PBS_Server.2696;Svr;PBS_Server;LOG_ERROR::get_node_from_str, Node node1 is reporting on node NapaValley, which pbs_server doesn't know about 

在我/etc/hosts,我已經

127.0.0.1 localhost node1 
127.0.0.1 NapaValley 

PS:我曾試圖安裝CPU及其他模塊/var/spool/torque/cgroup目錄,但lssubsys -am仍然顯示與上述相同的信息。我認爲他們應該被裝上?

+0

你用hwloc配置了嗎? http://docs.adaptivecomputing.com/9-1-0/installGuide/RH6/help.htm#topics/hpcSuiteInstall/manual/installing/installingTorque.htm#hwloc 它需要版本1.9.1+ 並在2.2.3(「安裝扭矩服務器)」下: 2.根據您的系統配置,您將需要添加./configure命令選項。 您至少可以添加: --enable-cgroups --with-hwloc-path =/usr/local有關更多信息,請參見1.2.1轉矩。 您還需要在計算節點*上安裝cgroup-tools ***和hwloc *** *。 – clusterdude

+0

我從源碼安裝了hwloc 1.11.5。從Ubuntu軟件包回購安裝了cgroup-tools。當我運行configure時,我使用了'./configure --enable-cgroups --with-hwloc-path =/usr/local',正如您在手冊中指出的那樣。由於節點正好在我的工作站的服務器上,因此我認爲我不需要重新安裝hwloc,對吧? –

+0

哦,對不起......我錯過了關於節點的服務器日誌行。我會在下面發表一個答案。 – clusterdude

回答

1

節點將使用由gethostbyname調用返回的名稱向服務器報告。根據您發佈的日誌行,服務器和節點不同意該名稱。您可以通過pbs_mom用-H選項啓動它返回一個不同的名稱:

http://docs.adaptivecomputing.com/torque/6-0-2/adminGuide/help.htm#topics/torque/commands/pbs_mom.htm#-h

-H主機名設置MOM的主機名,這可以在多宿主網絡很有用。」

這相當於在/var/spool/torque/mom_priv/config中設置$mom_host node1

+0

感謝您發佈此解決方案。我已經通過使用服務器的名稱作爲節點的名稱並設置了'log_level = 7'來解決了這個問題。我想也許你的解決方案也可以工作,但是我現在厭倦了現在的嘗試,因爲這個問題花了我一週的時間才找出一個可行的解決方案。無論如何,這可能對其他人有幫助,應該因爲你的努力而得到回報! –