软件服务直接向用户提供完整应用功能|水平扩展通过增加实例分担工作负载|云计算通过按需方式提供共享计算资源

弹性扩容根据负载变化增加运行实例。弹性缩容需要处理已有任务和连接状态。水平扩展通过增加实例分担工作负载。垂直扩展通过提升单实例规格增加能力。无状态服务通常更容易进行水平扩展。有状态服务扩容需要协调数据和成员关系。容器编排负责调度和维护容器工作负载。调度器根据资源与约束选择运行节点。

期望状态控制器持续纠正实际状态的偏差。健康探针帮助识别容器是否正常工作。就绪探针决定实例是否应该接收业务流量。存活探针配置不当可能造成反复重启。启动探针为初始化较慢的应用提供时间。滚动更新逐步替换旧版本以控制中断。蓝绿部署通过两套环境切换发布版本。金丝雀发布先让少量流量使用新版本。

区域通常包含相对独立的地理基础设施。可用区为区域内故障隔离提供组织方式。跨区部署仍可能依赖共同的控制服务。多区域恢复需要协调数据复制和流量切换。服务级别目标规定期望达到的运行水平。服务级别指标用于测量实际运行表现。错误预算表达允许发生的不可靠程度。平均延迟会掩盖少量请求的严重超时。