有沒有可以運行的查詢來確定每個表格有多少查詢花費我們?例如,這個查詢的結果將至少包括這樣的:通過SQL查詢獲取特定於表格的成本
dataset.table1 236TB處理dataset.table2 56GB處理dataset.table3 24KB加工等
也就是有沒有辦法知道哪些具體的查詢是成本最高?
謝謝!
有沒有可以運行的查詢來確定每個表格有多少查詢花費我們?例如,這個查詢的結果將至少包括這樣的:通過SQL查詢獲取特定於表格的成本
dataset.table1 236TB處理dataset.table2 56GB處理dataset.table3 24KB加工等
也就是有沒有辦法知道哪些具體的查詢是成本最高?
謝謝!
Let's talk first about data and respective data-points to do such a query!
看看Job Resources
這裏有一些有用的特性
configuration.query.query
- BigQuery的SQL查詢來執行。
statistics.query.referencedTables
- 作業參考表。
statistics.query.totalBytesBilled
- 作業的總字節數。 statistics.query.totalBytesProcessed
- 爲作業處理的總字節數。
statistics.query.billingTier
- 工作的賬單層。
擁有上述數據點將允許您編寫相對簡單的查詢來回答每個查詢的成本和每個表問題的成本!
So, now - how to get this data available?
您可以收集使用Job.list
API您的工作和比環通所有可用的就業機會,並通過Job.get
API獲取相應的統計 - 當然檢索的數據卸入BigQuery資料表。比你可以享受分析!
或者您可以使用BigQuery的審計日誌來跟蹤訪問和成本詳細信息(如docs
中所述)並將它們導出回BigQuery進行分析。
以前的選項(Jobs.list和比Job.get中的循環))可以讓你獲得你的工作信息,即使你還沒有啓用審計日誌,因爲Job.get API返回關於特定信息可以在創建後六個月內完成這項工作 - 這樣可以分析大量數據!