我跟着在此鏈接的AWS EMR集羣上設置JupyterHub教程:https://aws.amazon.com/blogs/big-data/running-jupyter-notebook-and-jupyterhub-on-amazon-emr/如何爲多個用戶壓力/負載測試JupyterHub?
我得到了集羣啓動和運行,但現在我的問題是我怎麼應力/負載測試? (即同時模擬100個用戶在筆記本上運行)。
在課堂環境中,我有大約30位用戶通過筆記本練習進入我的羣集,但是當更多人開始執行筆記本中的代碼塊時,出現了巨大的減速。發生了什麼是一些Python庫導入永久,一些練習停止工作或只是懸掛。 Cloudwatch表明存在網絡瓶頸。
基本上我問的是我該如何去調試類似的東西?模擬多個用戶進入EMR集羣,打開jupyter筆記本並同時運行代碼塊的最佳方式是什麼?