한국어English日本語简体中文繁體中文DeutschไทยTiếng ViệtРусскийPortuguês (Brasil)EspañolBahasa Indonesia

遊戲 Lag 白皮書 › L11 磁碟

雲端磁碟 burst credit 耗盡 Burst credit depletion

原因 ID dk-burst · 主要負責 基礎設施團隊(伺服器基礎設施) · 協同 基礎設施團隊(DB 基礎設施)

在含圖解與實驗的完整版中開啟卡片 →

部分雲端磁碟與小規格伺服器有 burst credit(突發額度),可以短時間跑得比基準效能快;忙碌時段一拉長、額度用完,速度就會突然下降。

為什麼 長時間以高於基準效能的速度使用 → 於是 burst credit 用完,效能驟降回基準值 → 畫面上 每天晚上過了幾個小時後開始 lag

症狀
卡頓, 慢動作, 輸入延遲
因素
停滯, 延遲
誰會遇到
整個伺服器
何時
晚間尖峰時段, 開越久越嚴重
負責單位
主要負責 基礎設施團隊(伺服器基礎設施) · 協同 基礎設施團隊(DB 基礎設施)
基礎設施團隊要做的事
伺服器設備/OS:改用保證效能的磁碟(gp3、佈建 IOPS 型),設定額度剩餘量警示,並一併確認執行個體的磁碟頻寬突發上限與 CPU 額度。DB 設備:包含受管 DB 在內的 DB 磁碟也改為保證效能型,並設定額度剩餘量警示。
數值參考
AWS gp2 100GB 磁碟平常為 300 IOPS,突發時可達 3,000 IOPS,額度全滿時約可撐 30 分鐘。gp3 沒有額度機制,一直都是 3,000 IOPS。Azure 的小容量 Premium SSD 也能靠額度突發,最多 30 分鐘。
圖表上
碰到上限後持平 · IOPS、burst credit 剩餘量
查看位置
看 CloudWatch 的 EBS BurstBalance(gp2、st1、sc1)、執行個體的 EBSIOBalance%、EBSByteBalance%(部分會突發的執行個體)、突發型(burstable)執行個體的 CPUCreditBalance。Azure 則看 Data Disk Used Burst IO Credits Percentage 等 burst credit 使用率指標
符合的跡象
從剩餘量降到接近 0 的時間點起,IOPS(VolumeReadOps、VolumeWriteOps)在基準效能處持平,VolumeQueueLength 與 lag 一起增加。在尖峰持續幾個小時後才開始
不符合的跡象
各項剩餘量都很充足、IOPS 卻持平時,是磁碟區或執行個體的固定上限(dk-iops)
確認方式
用基礎設施工具確認(不需要遊戲程式碼)
深入了解
即使磁碟本身正常,小規格的虛擬伺服器在執行個體的磁碟頻寬上也有突發上限(例如每天至少 30 分鐘),會出現同樣的圖形。使用 CPU 額度的低價伺服器,額度用完時也會慢到只剩基準效能。

出處

  1. Amazon EBS General Purpose SSD volumes AWS
    gp2 的基準效能為每 GiB 3 IOPS(最低 100),可靠 I/O 額度突發到 3,000 IOPS,540 萬點額度至少可撐 30 分鐘。gp3 沒有突發,一直是 3,000 IOPS
  2. Managed disk bursting Microsoft Azure
    Premium SSD P20 以下採用以額度為基礎的突發,額度全滿時能以最大突發速度維持 30 分鐘
  3. Amazon EBS-optimized instance types AWS
    部分執行個體每 24 小時只能維持一次 30 分鐘的 EBS 最大效能,之後回到基準效能
  4. Standard mode for burstable performance instances AWS
    標準模式的突發型執行個體在 CPU 額度用完時,會把 CPU 使用率降到基準水準(逐步降低,不會驟降)
  5. Amazon CloudWatch metrics for Amazon EBS AWS
    BurstBalance:gp2 的 I/O 額度、st1 與 sc1 的處理量額度剩餘量(%);VolumeReadOps、VolumeWriteOps、VolumeQueueLength
  6. CloudWatch metrics that are available for your instances AWS
    EBSIOBalance%、EBSByteBalance%:每 24 小時突發一次 30 分鐘的部分執行個體的 EBS 額度剩餘量;CPUCreditBalance:突發型執行個體的 CPU 額度剩餘量
  7. Disk metrics Microsoft Azure
    Data Disk Used Burst IO Credits Percentage 等磁碟與 VM 的 burst credit 使用率(5 分鐘間隔)

相關原因

同一層:L11 磁碟

同一症狀(卡頓)在其他層的原因

查看含圖解與實驗的完整版卡片