基础设施估算
每秒 100 次时平均同时处理多少?
使用工具
每秒处理 100 请求是否需 100 个槽位?取决于停留时间,0.01 秒与等待两秒产生的同时在途数不同。工具估算稳定系统平均量,用于关联观测值,不自动决定服务器数量。
100 件/秒与 0.2 秒得到平均 20 件
L = λ × W
100 requests/second × 0.2 seconds = 20 requests选择平均并发,速率 100、平均停留 0.2 秒,得 20。秒相消,单位是请求件数,不是用户数或 CPU。应先定义一件请求和系统边界。
200 ms 要填 0.2 秒,填 200 就是二百秒,得 20000,差千倍。每分钟百件也不是每秒百件。先保留公式单位,避免把换算错误当性能问题。
停留时间可能包括等待
若边界是接收到响应,停留包括排队和外部等待。只填 CPU 活跃时间是另一问题。API 全到达率配 DB 局部时间会失去一致含义,应使用同对象、同边界的率与时间。
0.2 秒中若 0.15 秒等待外部,平均二十件不意味着二十颗 CPU 一直忙。异步与连接处理影响资源使用,应把滞留件数与 CPU、连接池容量分开分析。
到达率相同,变慢仍会增加在途数
100/s × 0.2 s = 20
100/s × 0.5 s = 50
100/s × 2.0 s = 200速率保持 100,时间改 0.5、2 秒,平均变 50、200。无到达峰值也可因完成变慢而增并发。公式解释关系,不诊断变慢原因;时间分解需实测。
相同到达率下平均时间缩短,平均在途数也降。但仅最快请求改善不能替换均值。前后应使用同类请求和相同统计方法。
平均二十不等于最大二十或二十槽足够
突发到达和长请求可使瞬时数超平均。平均二十不保证上限二十无排队。速率乘 p95/p99 延迟也不等于对应并发分位数,因为公式联系平均而非分位点。
显示向上取整参考值也不是资源数保证。平均 0.5 含空闲时段,不是半个物理请求。决定容量还需等待目标、峰值、失败率与负载测试。
检查积压是否不断增长
模型前提是平均稳定,不应把积压不断增长区间当可持续稳态。初始积压、失败取消、跨观察边界的长请求都会影响统计。应核对同一可比区间的到达与完成数。
报告应含速率、平均时间、边界,如每秒百件、接收到响应 0.2 秒、平均驻留二十件。用于解释等待或发现测量不一致,不替代 CPU 或最大连接数规划。