繞過GUI保存GPU內存

Question

我有一個2GB的Nvidia GPU的MacBook Pro。我試圖利用我所有的GPU內存進行計算（python代碼）。如果我繞過GUI界面並通過命令行訪問我的機器，可能會節省多少。我想知道這樣的事情會爲我節省大量的GPU內存嗎？

Answer 1

差異可能不會很大。

僅託管控制檯顯示屏的GPU通常只會在總內存大小中保留約5-25兆字節的內存。另一方面，託管GUI顯示器的GPU（使用NVIDIA GPU驅動程序）通常可能具有約50兆字節或更多的保留用於顯示器使用（根據所附顯示器的大小，這可能會有所不同）。

因此，您可以通過運行nvidia-smi並查看GPU運行的GUI的總可用內存和可用內存之間的差異，來獲得節省的「估計」。例如，如果是62MB，那麼通過關閉GUI可以「恢復」40-50MB左右，例如在Linux上切換到運行級別3.

我剛在Linux筆記本電腦上運行此實驗， Quadro3000M碰巧擁有2GB的內存。隨着X顯示器和NVIDIA GPU驅動程序的加載，「used」內存在2047MB中爲62MB（由nvidia-smi報告）。

當我切換到運行級別3（X未啓動）時，內存使用率降至4MB左右。這可能意味着CUDA可以增加約50MB的額外資源。

關閉GUI的副作用可能是取消the display watchdog。