SheepDev

基础设施估算

每秒 100 次时平均同时处理多少?

使用工具

每秒处理 100 请求是否需 100 个槽位?取决于停留时间,0.01 秒与等待两秒产生的同时在途数不同。工具估算稳定系统平均量,用于关联观测值,不自动决定服务器数量。

100 件/秒与 0.2 秒得到平均 20 件

带单位的第一次计算
L = λ × W
100 requests/second × 0.2 seconds = 20 requests

选择平均并发,速率 100、平均停留 0.2 秒,得 20。秒相消,单位是请求件数,不是用户数或 CPU。应先定义一件请求和系统边界。

200 ms 要填 0.2 秒,填 200 就是二百秒,得 20000,差千倍。每分钟百件也不是每秒百件。先保留公式单位,避免把换算错误当性能问题。

停留时间可能包括等待

若边界是接收到响应,停留包括排队和外部等待。只填 CPU 活跃时间是另一问题。API 全到达率配 DB 局部时间会失去一致含义,应使用同对象、同边界的率与时间。

0.2 秒中若 0.15 秒等待外部,平均二十件不意味着二十颗 CPU 一直忙。异步与连接处理影响资源使用,应把滞留件数与 CPU、连接池容量分开分析。

到达率相同,变慢仍会增加在途数

只改变停留时间的比较
100/s × 0.2 s = 20
100/s × 0.5 s = 50
100/s × 2.0 s = 200

速率保持 100,时间改 0.5、2 秒,平均变 50、200。无到达峰值也可因完成变慢而增并发。公式解释关系,不诊断变慢原因;时间分解需实测。

相同到达率下平均时间缩短,平均在途数也降。但仅最快请求改善不能替换均值。前后应使用同类请求和相同统计方法。

平均二十不等于最大二十或二十槽足够

突发到达和长请求可使瞬时数超平均。平均二十不保证上限二十无排队。速率乘 p95/p99 延迟也不等于对应并发分位数,因为公式联系平均而非分位点。

显示向上取整参考值也不是资源数保证。平均 0.5 含空闲时段,不是半个物理请求。决定容量还需等待目标、峰值、失败率与负载测试。

检查积压是否不断增长

模型前提是平均稳定,不应把积压不断增长区间当可持续稳态。初始积压、失败取消、跨观察边界的长请求都会影响统计。应核对同一可比区间的到达与完成数。

报告应含速率、平均时间、边界,如每秒百件、接收到响应 0.2 秒、平均驻留二十件。用于解释等待或发现测量不一致,不替代 CPU 或最大连接数规划。

参考资料

使用工具

指南 →