遊戲 Lag 白皮書 › L11 磁碟
雲端磁碟 burst credit 耗盡 Burst credit depletion
原因 ID dk-burst · 主要負責 基礎設施團隊(伺服器基礎設施) · 協同 基礎設施團隊(DB 基礎設施)
在含圖解與實驗的完整版中開啟卡片 →
部分雲端磁碟與小規格伺服器有 burst credit(突發額度),可以短時間跑得比基準效能快;忙碌時段一拉長、額度用完,速度就會突然下降。
為什麼 長時間以高於基準效能的速度使用 → 於是 burst credit 用完,效能驟降回基準值 → 畫面上 每天晚上過了幾個小時後開始 lag
- 症狀
- 卡頓, 慢動作, 輸入延遲
- 因素
- 停滯, 延遲
- 誰會遇到
- 整個伺服器
- 何時
- 晚間尖峰時段, 開越久越嚴重
- 負責單位
- 主要負責 基礎設施團隊(伺服器基礎設施) · 協同 基礎設施團隊(DB 基礎設施)
- 基礎設施團隊要做的事
- 伺服器設備/OS:改用保證效能的磁碟(gp3、佈建 IOPS 型),設定額度剩餘量警示,並一併確認執行個體的磁碟頻寬突發上限與 CPU 額度。DB 設備:包含受管 DB 在內的 DB 磁碟也改為保證效能型,並設定額度剩餘量警示。
- 數值參考
- AWS gp2 100GB 磁碟平常為 300 IOPS,突發時可達 3,000 IOPS,額度全滿時約可撐 30 分鐘。gp3 沒有額度機制,一直都是 3,000 IOPS。Azure 的小容量 Premium SSD 也能靠額度突發,最多 30 分鐘。
- 圖表上
- 碰到上限後持平 · IOPS、burst credit 剩餘量
- 查看位置
- 看 CloudWatch 的 EBS BurstBalance(gp2、st1、sc1)、執行個體的 EBSIOBalance%、EBSByteBalance%(部分會突發的執行個體)、突發型(burstable)執行個體的 CPUCreditBalance。Azure 則看 Data Disk Used Burst IO Credits Percentage 等 burst credit 使用率指標
- 符合的跡象
- 從剩餘量降到接近 0 的時間點起,IOPS(VolumeReadOps、VolumeWriteOps)在基準效能處持平,VolumeQueueLength 與 lag 一起增加。在尖峰持續幾個小時後才開始
- 不符合的跡象
- 各項剩餘量都很充足、IOPS 卻持平時,是磁碟區或執行個體的固定上限(dk-iops)
- 確認方式
- 用基礎設施工具確認(不需要遊戲程式碼)
- 深入了解
- 即使磁碟本身正常,小規格的虛擬伺服器在執行個體的磁碟頻寬上也有突發上限(例如每天至少 30 分鐘),會出現同樣的圖形。使用 CPU 額度的低價伺服器,額度用完時也會慢到只剩基準效能。
出處
- Amazon EBS General Purpose SSD volumes AWS
gp2 的基準效能為每 GiB 3 IOPS(最低 100),可靠 I/O 額度突發到 3,000 IOPS,540 萬點額度至少可撐 30 分鐘。gp3 沒有突發,一直是 3,000 IOPS - Managed disk bursting Microsoft Azure
Premium SSD P20 以下採用以額度為基礎的突發,額度全滿時能以最大突發速度維持 30 分鐘 - Amazon EBS-optimized instance types AWS
部分執行個體每 24 小時只能維持一次 30 分鐘的 EBS 最大效能,之後回到基準效能 - Standard mode for burstable performance instances AWS
標準模式的突發型執行個體在 CPU 額度用完時,會把 CPU 使用率降到基準水準(逐步降低,不會驟降) - Amazon CloudWatch metrics for Amazon EBS AWS
BurstBalance:gp2 的 I/O 額度、st1 與 sc1 的處理量額度剩餘量(%);VolumeReadOps、VolumeWriteOps、VolumeQueueLength - CloudWatch metrics that are available for your instances AWS
EBSIOBalance%、EBSByteBalance%:每 24 小時突發一次 30 分鐘的部分執行個體的 EBS 額度剩餘量;CPUCreditBalance:突發型執行個體的 CPU 額度剩餘量 - Disk metrics Microsoft Azure
Data Disk Used Burst IO Credits Percentage 等磁碟與 VM 的 burst credit 使用率(5 分鐘間隔)
相關原因
同一層:L11 磁碟
同一症狀(卡頓)在其他層的原因
查看含圖解與實驗的完整版卡片