API，構建一個API但給予某些請求的優先權訪問

Question

不知道其他人如何解決這個問題，但總的來說，在使用自己的公共API之一時，給自己的應用程序優先處理的最佳做法是什麼？

Answer 1

使用緩存優先級

緩存響應或在RAM臨時計算通常是第一個優化點，因爲緩存比微優化所有的代碼更容易。控制進入緩存的內容以及停留的時間長度是應用「優先處理」的最高級別。 我喜歡緩存管理方法比線程優先級更好，因爲如果您在負載下延遲請求的執行常常會創建複雜的線程池問題並降低整體服務器吞吐量。

緩存基於負載（而不是應用程序的所有權）將擴大資源餡餅

我們採取與MapLarge瓷磚服務器和地理編碼API RAM緩存優先級的方法。但是，我們實際上並沒有給予我們自己的應用程序優先權，而是將優先級放在請求頻率和響應所需的時間上。除非你有大量低價值的api用戶，否則我會建議做類似的事情，因爲這種方法應該可以減少整體負載並使服務器能夠處理更多的api請求。

我最近寫了一篇白皮書，其中強調了多租戶api環境中緩存和非緩存響應的不同負載配置文件。你可以在這裏看到： http://maplarge.com/Tile-Server-Performance

API政策可以提高收入 如果你有空閒或低付費用戶誰正在產生巨大的負荷，你可能需要查看你的商業計劃，並考慮建立相匹配，基於賬戶的速率限制用戶收入以可擴展的方式支持服務器成本。如果您對API用戶進行了限制，我建議您制定明確且可預測的政策，以便他們可以投放使用情況並知道何時購買API帳戶升級。