0

我跟着在此鏈接的AWS EMR集羣上設置JupyterHub教程:https://aws.amazon.com/blogs/big-data/running-jupyter-notebook-and-jupyterhub-on-amazon-emr/如何爲多個用戶壓力/負載測試JupyterHub?

我得到了集羣啓動和運行,但現在我的問題是我怎麼應力/負載測試? (即同時模擬100個用戶在筆記本上運行)。

在課堂環境中,我有大約30位用戶通過筆記本練習進入我的羣集,但是當更多人開始執行筆記本中的代碼塊時,出現了巨大的減速。發生了什麼是一些Python庫導入永久,一些練習停止工作或只是懸掛。 Cloudwatch表明存在網絡瓶頸。

基本上我問的是我該如何去調試類似的東西?模擬多個用戶進入EMR集羣,打開jupyter筆記本並同時運行代碼塊的最佳方式是什麼?

回答

0

你應該看看(和貢獻?)項目,如this one這是爲了加載測試JupyterHub,並應該遷移到jupyterHub組織再次拋光。

請注意,在你的情況下,你並不是真的想測試JupyterHub,你正在測試你的集羣;只需並行運行N個腳本導入您的庫,然後進行負載測試。