1 基本概念
1.1 定义与作用
负载均衡是一类将请求、连接、任务或数据流量分散到多个资源节点上的技术与策略。其核心目标是在多个可用节点之间进行合理分配，从而避免单个节点过载，并提升整体系统的处理能力、稳定性与可扩展性。
在工程实践中，负载均衡不仅负责“分流”，还常兼具故障转移、健康探测、会话维持、流量整形等功能。对于用户而言，它通常表现为访问更稳定、响应更快速、服务中断更少。
1.2 产生背景
随着网络服务从单机应用逐步发展为分布式架构，单一服务器难以同时满足高并发、持续可用和弹性扩展等需求。早期系统在访问量增加时，常会出现响应变慢、资源耗尽或服务中断等问题。
负载均衡技术正是在这种背景下发展起来的。它通过把压力分散到多台机器或多个实例上，使系统能够以较小的风险应对业务增长，并在部分节点失效时继续提供服务。
1.3 适用场景
负载均衡适用于需要同时处理大量请求、并发连接或任务分派的场景。凡是存在多个可替代服务节点、并希望提升整体可用性和吞吐能力的系统，通常都可以引入负载均衡机制。
1.3.1 Web 服务
在网站和互联网应用中，负载均衡常用于分配来自浏览器、移动端或第三方接口的访问请求。它能够缓解热点流量对单台服务器的压力，并提升页面访问的稳定性。
1.3.2 应用服务器
在应用服务层面，负载均衡可将业务请求分配给多个应用实例，适用于电商、社交、企业系统等需要频繁处理动态逻辑的场景。它有助于实现横向扩展，并便于系统升级维护。
1.3.3 数据库与缓存
在数据库与缓存系统中，负载均衡可用于读写分离、主从分发或多副本访问。对于缓存集群，它也常用于减少热点节点压力，提高命中效率和整体访问速度。
1.4 负载不均衡的影响
当请求分配不均时，部分节点会因为过载而响应迟缓，甚至出现超时、拒绝服务或崩溃。与此同时，其他节点则可能处于空闲状态，导致资源利用率下降。
负载不均衡还会放大级联故障的风险。某个节点处理能力不足时，排队延迟可能继续增加，进而影响上游请求分发，最终使系统整体表现明显恶化。
2 工作原理
2.1 请求分发流程
负载均衡系统通常先接收来自客户端或上游服务的请求，再依据既定策略判断应将请求转发至哪个后端节点。分发前，系统一般会参考节点状态、连接负载、权重配置和路由规则等信息。
请求被选定目标后，会通过转发、代理或重定向等方式送达后端。部分实现还会在返回响应时进行内容处理、协议转换或连接复用，以进一步提升效率。
2.2 节点选择机制
节点选择机制决定了流量如何分配到各个后端。不同策略适合不同业务形态，例如对等节点适合简单轮询，而性能差异较大的集群则更适合加权调度。
2.2.1 按顺序分配
按顺序分配通常指轮流把请求依次发送给各个节点。该方式实现简单，适合各节点能力较为接近、业务负载相对均匀的环境。
2.2.2 按权重分配
按权重分配会为不同节点设置不同优先级或容量系数，调度时让性能更强的节点承担更多请求。这种方式便于兼顾硬件差异和资源配置差异。
2.2.3 按连接数分配
按连接数分配主要依据各节点当前连接数量来判断负载情况。系统通常会优先选择连接较少的节点，以减少局部拥塞并提升实时响应能力。
2.3 健康检查与故障剔除
健康检查用于持续确认后端节点是否处于可服务状态。检查方式可以是简单的端口探测，也可以是更复杂的应用级请求检测。
当某个节点连续失败或超过阈值时，负载均衡器通常会将其暂时剔除，停止向其分发流量。待节点恢复正常后，再重新纳入调度范围，以降低故障扩散概率。
2.4 会话保持与状态管理
在某些应用中，用户在连续请求间需要访问同一后端节点，这就需要会话保持机制。常见做法包括基于 Cookie、源地址或连接标识进行绑定。
状态管理则涉及如何处理登录状态、购物车、临时缓存等信息。若应用本身是无状态设计，负载均衡通常更易部署；若存在状态依赖，则需要额外的共享存储或同步机制配合。
3 分类方式
3.1 按部署层级
根据负载均衡所处的网络位置和处理层次，可将其划分为不同层级。层级越低，通常越接近传输与寻址；层级越高，则越能理解业务内容并进行精细控制。
3.1.1 链路层负载均衡
链路层负载均衡通常在数据链路层进行转发与分配，强调对帧或 MAC 相关信息的处理。它适合对协议开销敏感、需要高性能转发的环境。
3.1.2 网络层负载均衡
网络层负载均衡主要依据 IP 地址、端口和路由信息进行调度。它兼顾效率与通用性，是常见的基础负载分发方式之一。
3.1.3 应用层负载均衡
应用层负载均衡能够识别 HTTP、HTTPS、RPC 等应用协议，并根据 URL、请求头、内容类型等信息进行转发。它适合需要精细路由和业务规则控制的场景。
3.2 按实现形态
从实现方式来看，负载均衡可以依赖专用设备、通用服务器软件或云端托管服务完成。不同形态在成本、灵活性与运维复杂度上各有特点。
3.2.1 硬件负载均衡
硬件负载均衡通常采用专用设备实现，具备较强的转发性能和稳定性。它常用于对性能和可靠性要求较高的大型企业环境。
3.2.2 软件负载均衡
软件负载均衡基于通用服务器和软件程序实现，部署灵活、成本相对较低。它适用于大多数互联网服务，也便于与自动化运维体系结合。
3.2.3 云原生负载均衡
云原生负载均衡通常由云平台或容器平台提供，能够与弹性伸缩、服务发现和编排系统联动。它适合动态变化较快、实例生命周期较短的现代云环境。
3.3 按流量范围
依据流量调度覆盖的范围，负载均衡可分为局部调度与跨区域调度两类。前者聚焦于单一集群或站点内部，后者则面对更广域的访问入口。
3.3.1 本地负载均衡
本地负载均衡主要在单个数据中心、单个机房或单个集群内部进行请求分配。它的重点是提升局部资源利用率与服务响应速度。
3.3.2 全局负载均衡
全局负载均衡负责在多个地域、多个站点或多个数据中心之间分配流量。它常用于跨地域容灾、就近访问和故障切换等场景。
4 关键算法
4.1 轮询算法
轮询算法按照固定顺序依次将请求分配给各节点。它逻辑清晰，适合节点性能接近且流量较均匀的系统，但对节点差异的适应能力有限。
4.2 加权轮询算法
加权轮询在轮询基础上引入权重参数，使高性能节点获得更多请求。该算法能更细致地反映资源差异，因此在实际部署中较为常见。
4.3 最少连接算法
最少连接算法优先选择当前活动连接数最少的节点。它适合连接持续时间不一的业务，有助于缓解长连接或慢请求带来的局部压力。
4.4 源地址哈希算法
源地址哈希算法根据客户端地址计算哈希值，并映射到特定后端节点。其优点是同一来源通常会被固定分配到同一节点，较适合需要会话稳定性的场景。
4.5 一致性哈希算法
一致性哈希算法通过环形哈希空间实现节点与请求的映射。当节点增减时，只有少量请求需要重新分配，因此特别适合成员变化较频繁的分布式系统。
4.6 随机算法
随机算法在可用节点中随机选择目标，结构简单，计算开销较低。在节点数量较多且容量差异不明显时，它可以获得较为平滑的平均效果。
4.7 自适应调度算法
自适应调度算法会根据实时监控指标动态调整分配策略，例如参考响应时间、失败率、CPU 占用或队列长度等信息。它比静态算法更灵活，但对观测与决策模块要求更高。
5 主要组件
5.1 调度器
调度器是负载均衡系统的核心部件，负责接收请求并决定转发目标。它通常内置路由规则、选择算法和连接管理逻辑。
5.2 后端服务节点
后端服务节点是实际处理业务请求的目标实例。它们可以是物理服务器、虚拟机、容器或进程实例，承担具体计算与响应任务。
5.3 健康检查模块
健康检查模块周期性探测节点可用性，并向调度器提供状态结果。它是实现故障剔除和自动恢复的重要基础。
5.4 配置与管理模块
配置与管理模块用于维护权重、路由规则、证书、地址池和策略参数等信息。它通常支持集中化管理，便于运维人员进行统一调整。
5.5 日志与监控模块
日志与监控模块记录请求分发情况、节点状态变化和性能指标。通过这些数据，系统可以分析流量趋势、定位异常并优化调度策略。
6 常见类型
6.1 四层负载均衡
四层负载均衡工作在传输层附近，主要依据 IP 和端口进行转发。它转发效率较高，适合需要快速处理大规模连接的场景。
6.2 七层负载均衡
七层负载均衡工作在应用层，可根据请求内容进行更精细的判断和转发。它适用于复杂路由、内容分流和基于业务语义的调度。
6.3 反向代理负载均衡
反向代理负载均衡由代理服务器代替后端接收客户端请求，再将请求转发到内部服务。它常兼具缓存、压缩、鉴权和协议终止等功能。
6.4 DNS 负载均衡
DNS 负载均衡通过返回不同的解析结果，把客户端引导到不同地址。它实现简单、覆盖范围广，但实时性和精细控制能力相对有限。
6.5 客户端负载均衡
客户端负载均衡由调用方自行选择目标节点，而不是完全依赖中间调度器。它常与服务发现机制结合，适用于服务间调用场景。
7 典型应用
7.1 高并发网站
高并发网站通常面对短时间内大量访问请求，负载均衡能够帮助它们平滑峰值流量，并降低单点压力。常见例子包括新闻门户、购物平台和活动页面。
7.2 微服务架构
在微服务架构中，服务实例数量频繁变化，负载均衡可与服务发现配合，为调用方提供稳定入口。它有助于提升弹性，也便于实例扩展与滚动更新。
7.3 分布式存储
分布式存储系统需要在多个节点间分配读写请求，以获得更高吞吐量和更好的容错能力。负载均衡可用于降低热点文件或热点分片带来的压力。
7.4 内容分发网络
内容分发网络通常需要把用户请求导向合适的边缘节点。负载均衡在其中承担调度角色，有助于实现就近访问与带宽优化。
7.5 云平台与容器编排
在云平台和容器编排系统中，实例生命周期短、扩缩容频繁，负载均衡是连接服务入口与动态后端的重要环节。它可与编排控制面协同工作，自动适配资源变化。
8 性能与可靠性
8.1 吞吐量提升
通过并行利用多个节点，负载均衡能够显著提升系统整体吞吐量。对于资源充足的集群而言，这种提升往往比单机扩容更灵活。
8.2 延迟优化
合理的调度可以减少节点拥塞与排队时间，从而改善平均响应延迟。若结合就近访问、健康检查与热点分散策略，效果通常更明显。
8.3 容灾与高可用
负载均衡能够在节点故障时自动切换到其他可用实例，因此是高可用设计的重要组成部分。配合多副本部署时，它还能提高系统在异常情况下的持续服务能力。
8.4 扩容与缩容
当业务量上升时，可通过增加后端节点并由负载均衡接管新流量来实现扩容；当压力下降时，也可以减少节点数量以降低资源消耗。该机制使系统具备更好的弹性。
8.5 单点故障规避
若系统入口或关键节点过于集中，就容易形成单点故障。负载均衡通过多节点分担入口压力，能够减少单一设备或单一实例失效对整体服务造成的影响。
9 配置与管理
9.1 流量策略配置
流量策略配置包括路由规则、分流条件、转发优先级和目标池选择等内容。良好的策略设计应兼顾业务隔离、性能目标与运维便利。
9.2 节点权重调整
节点权重可根据硬件能力、网络条件或历史表现进行调整。动态调整权重有助于让系统更贴近实际容量，避免某些节点长期过载。
9.3 连接超时设置
连接超时决定了请求等待后端响应的最长时间。超时设置过短可能导致误判，过长则会拖累资源回收，因此需要根据业务特性进行平衡。
9.4 熔断与限流联动
当后端出现异常或请求量激增时，负载均衡常与熔断和限流机制联动，以避免进一步放大故障。它们共同构成流量保护体系，提升系统韧性。
9.5 监控告警
监控告警用于及时发现节点异常、流量异常和性能退化。常见指标包括请求数、失败率、延迟分布、连接数和健康状态变化等。
10 相关技术
10.1 反向代理
反向代理位于客户端与后端服务之间，代替后端接收请求并转发到目标节点。它常被用作负载均衡的实现基础，也可承担缓存与安全控制功能。
10.2 服务发现
服务发现用于动态获取可用服务实例的信息。它使负载均衡器或客户端能够及时感知节点变化，适应弹性扩展环境。
10.3 负载感知路由
负载感知路由会参考节点当前负载、响应情况和容量状态进行路径选择。它与传统固定策略相比，更能贴近实时运行状况。
10.4 自动伸缩
自动伸缩根据业务负载自动增加或减少实例数量。它与负载均衡配合后，可以在不人工频繁干预的情况下维持较为平稳的服务能力。
10.5 服务网格
服务网格为服务间通信提供统一治理能力，通常包含流量管理、可观测性和策略控制等功能。负载均衡在其中常作为基础能力之一，参与请求分发与路由决策。