我正在分析python中MySql數據庫中的數據。我查詢數據庫大約200,000行數據,然後使用Pandas在python中進行分析。我會經常對相同的數據做很多迭代,改變不同的變量,參數等等。每次運行程序時,我都會查詢遠程數據庫(大約10秒查詢),然後在程序結束時放棄查詢結果。我想將最後一個查詢的結果保存在本地文件中,然後在每次運行程序時查看查詢是否相同,然後使用保存的結果。我想我可以將熊貓數據框寫入csv,但有沒有更好/更簡單/更快的方法來做到這一點?存儲MySql查詢結果以便更快地重用
0
A
回答
0
如果出於任何原因的MySQL Query Cache沒有幫助,那麼我建議你保存最新的結果無論是在HDF5格式或羽毛格式設置。這兩種格式都非常快。您可以在這裏找到一些演示和測試:
https://stackoverflow.com/a/37929007/5741205
0
相關問題
- 1. 在redis中存儲mysql查詢結果
- 2. 使用JOIN重寫此查詢以獲得更快的結果
- 3. 如何存儲SQL查詢結果以進行快速訪問?
- 4. 存儲子查詢的結果以供重用
- 5. MySQL查詢,以避免重複結果
- 6. Mysql:如何優化此查詢。以獲得更快的結果
- 7. 如何優化此查詢以更快地獲得結果?
- 8. Django - 存儲查詢結果
- 9. mysql查詢重複結果
- 10. 緩存mysql查詢結果?
- 11. SQL查詢,以便列結果
- 12. MySql的重寫子查詢,以便
- 13. 在mysql表中存儲多個範圍以使查詢更快/更容易
- 14. 子查詢更快的結果
- 15. Mysql在查詢中多次使用存儲過程結果
- 16. 使用Java將MySQL查詢結果存儲在ArrayList中
- 17. MySQL用戶定義的函數存儲查詢結果
- 18. Azure存儲表查詢,這是更快?
- 19. 使用子查詢更快地查詢
- 20. PHP MySQL的儲蓄查詢結果
- 21. 存儲子查詢結果作爲列別名重用
- 22. 這個mySQL查詢可以更快嗎?
- 23. MySQL查詢結果
- 24. MySQL查詢結果
- 25. Mysql查詢結果
- 26. MySQL查詢結果
- 27. 利用MySQL查詢結果
- 28. 在更新查詢中使用存儲過程的結果
- 29. 存儲調查結果 - Mysql還是NoSQL?
- 30. Qt是否更快地存儲SQLite查詢?
200K並不是很多數據。迭代*總是*慢,這就是爲什麼它不用於查詢,報告或分析數據。由設計良好的應用程序生成的數據庫報告*在處理之前不會將所有數據加載到內存中。可以創建適當的查詢和索引,以便在不進行迭代的情況下返回所需的結果,也可以創建單獨的報告數據庫,其模式適合分析,例如星型模式 –
聽起來像是一個很好的計劃。將其寫入本地文件然後讀取該文件。想不到更容易。 – RobertB
@RobertB其實很糟糕,速度很慢。爲什麼在內存中迭代時,如果您的數據庫可以比不使用任何優化訪問的迭代更快地執行基於集合的操作?在10秒內,數據庫應該產生* final *結果。它只有20萬行 –