那些常见的云服务器负载均衡知识

目录

负载均衡监听器（Load Balancer Listener）

虚拟IP（Virtual IP，VIP）

负载均衡实例（Load Balancer）

Load Balancer 和 Load Balancer Listener 异同

指标和维度（Metrics and Dimensions）

prometheus中的指标和维度

既然维度有限，那为什么有些场景仍会用时间做维度呢？

---

负载均衡监听器（Load Balancer Listener）

        负载均衡监听器是负载均衡器中的一个组件，接收来自客户端的请求并将其分发给后端服务器。它可监听网络流量，并根据预定义的规则将请求转发到最适合处理该请求的服务器上。

负载均衡监听器有以下几个作用：

1. 分发请求：监听器接收来自客户端的请求，并根据一定的算法（如轮询、IP哈希、加权、最小连接、最短连接、粘性轮询等）将请求分发给后端服务器。可避免某些服务器过载而导致性能下降，提高整体系统的吞吐量和响应速度。

2. 健康检查：可定期检查后端服务器的健康状态，如服务器是否在线、是否能够正常响应请求等。如果某服务器故障或不可用，监听器自动将请求转发到其他健康的服务器上，确保可用性和稳定性。

3. SSL/TLS 加密：监听器可提供 SSL/TLS 加密功能，用于加密传输的数据。通过在监听器上配置证书和加密算法，可以保护客户端和服务器之间的通信安全。

4. 会话保持：有些应用程序需要保持用户会话的状态，以确保用户在多次请求之间的连续性。监听器可以通过识别请求中的会话标识符，并将后续请求转发到同一台服务器上，从而实现会话保持的功能。

虚拟IP（Virtual IP，VIP）

        VIP 是一个在网络中用于标识和访问一组计算机或网络服务的单个逻辑地址。是由负载均衡器或集群管理软件提供的一个抽象概念。

        虚拟IP主要作用：实现高可用性和负载均衡。将多台服务器或网络服务绑定到同一个 VIP 上，可将客户端请求分发到这些服务器上，从而提高系统的可用性和性能。当其中一服务器故障或负载过高时，负载均衡器可以自动将流量转移到其他正常工作的服务器上，确保服务的连续性。

        此外，虚拟IP还可隐藏后端服务器的真实IP地址，增加安全性。

虚拟IP提供了以下几个重要的用途：

• 实现高可用性：将多台服务器绑定到同一虚拟IP上，确保即使某台服务器故障，服务仍可用。
• 负载均衡：通过将客户端请求分发到多个服务器上，提高系统的性能和吞吐量。
• 增加网络安全性：隐藏后端服务器的真实IP地址，减少攻击者对系统的直接访问。

负载均衡实例（Load Balancer）

        负载均衡实例是一种用于分发网络流量的设备或服务，可将流量平均地分配给多个服务器，以提高系统的可靠性、稳定性和性能。

        负载均衡实例的作用包括：

1. 提高系统的可靠性：当一个服务器故障或不可用时，负载均衡实例可自动将流量转移到其他可用的服务器上，确保系统的连续性和可用性。（故障转移）

2. 提高系统的稳定性：流量分布到多个服务器上，避免单个服务器过载，减少系统崩溃风险。

3. 提高系统的性能：负载均衡实例可根据服务器的负载情况，动态流量分配给最空闲的服务器，从而提高系统的响应速度和处理能力。

4. 简化系统管理：负载均衡实例可以集中管理多个服务器，通过统一的入口点来管理和监控服务器，简化了系统的配置和维护工作。

注：负载均衡实例和负载均衡监听器是负载均衡服务中两个不同概念。

        

Load Balancer 和 Load Balancer Listener 异同

        Load Balancer 是一个虚拟的服务器（不存储数据，也没有自己的计算资源，读者可能会说NGINX部署在机器上呢？负载均衡器可以是硬件设备或软件应用程序，但在许多云计算环境，它们通常以虚拟服务器的形式实现）。它接收来自客户端的请求，并将这些请求分发到后端的多个服务器上，以达到负载均衡的目的。负载均衡实例通常有一个公共的 IP 地址，客户端可以通过该 IP 地址访问应用程序。

        Load Balancer Listener 是负载均衡实例上的一个配置项，它定义了负载均衡实例接收请求的方式。监听器通常包含以下信息：

• 协议：指定监听器使用的协议，例如 HTTP、HTTPS、TCP 等。
• 端口：指定监听器监听的端口号。
• 转发规则：指定负载均衡实例如何将请求转发给后端服务器，例如轮询、最少连接数等。

        通过配置负载均衡监听器，可灵活地控制负载均衡实例接收请求的方式，以满足您的业务需求。因此，负载均衡实例和负载均衡监听器是相互关联的，需要一起配置和使用。

指标和维度（Metrics and Dimensions）

        指标和维度是数据分析中的两个重要概念，用于理解和解释数据。

1. 指标（Metrics）：指标是用来衡量事物的数值，它反映了某一方面的表现或状态。在数据分析中，指标通常是可以量化的数据，例如销售额、访问量、转化率等。

2. 维度（Dimensions）：维度是用来描述数据的属性，它为指标提供了上下文。维度通常是分类数据，例如地区、时间、产品类型等。

        假设我们要分析一个电商网站的销售数据。在这个场景中，销售额就是一个指标，它反映了网站的销售表现。而地区、时间和产品类型等就是维度，它们帮助我们了解销售额是如何随着地区、时间和产品类型的变化而变化的。通过对指标和维度的分析，可以发现哪些地区的销售额较高，哪些时间段是销售的高峰期，哪些产品类型最受欢迎等信息，从而为决策提供依据。

注：指标的取值可以是无限的，而维度（Dimensions）必须有限的。当维度的可能取值有限时，可更容易地对数据进行分组、筛选和排序，从而发现数据的潜在规律和趋势。

prometheus中的指标和维度

1. 指标（Metrics）：指标是用来描述系统或应用性能的度量值。 Prometheus 中指标由名称和值组成，常是一个描述性的字符串，表度量的含义，如 http_requests_total（HTTP 请求总数）或 node_cpu_seconds_total（CPU 使用时间总计）。指标值则是一个浮点数，表示度量的实际数值。

2. 维度（Dimensions）：Prometheus 中维度是通过标签（Labels）来表示的。标签是一组键值对，用于描述指标的属性，可以用来对指标进行过滤、聚合和分组。如，对于 http_requests_total 指标，可以使用 method（请求方法）和 status（响应状态码）作为标签，以便分析不同类型请求的数量。

        PromQL中，可用指标名称和标签来查询和分析度量数据。如查询在过去 5 分钟内每分钟的 HTTP 错误请求数，可以使用以下 PromQL 查询：

rate(http_requests_total{status=~"5.."}[5m])

http_requests_total 是指标名称，status=~"5.." 是一个标签匹配器（比如500就算一个标签值，这些500,502等对应的标签（状态码，可控、有限）构成一个维度），表示只查询状态码为 5xx 的请求。

rate(http_requests_total{status="500"}[5m])

查询的结果表示过去 5 分钟内每秒产生的状态码为 500 的错误请求的速率

既然维度有限，那为什么有些场景仍会用时间做维度呢？

        维度是有限，意思是在实际应用和分析中，常会对维度的取值范围进行限制，使其在一个可管理和可分析的范围内。尽管时间本身是连续的，但在实际分析中，常会将时间划分为离散的区间，例如年、季度、月、日、小时等，从而将时间维度限制在一个有限的范围内。

        以时间为维度进行数据分析时，常关注的是数据在特定时间段内的变化趋势和规律。如，过去一年每个月的销售额、过去一周每天的访问量等。在这些场景中，时间维度的取值是有限的，因为只关注特定的时间范围和划分粒度。

        当然，在某些特殊情况下，时间维度的取值可能会变得相对较多，如需要对每分钟甚至每秒的数据进行分析。然而，即使这些情况下，常也会对时间范围进行限制，以便于分析和呈现数据。

        总之，虽然时间本身是连续的，但在实际应用中，常会通过限制时间范围和划分粒度，将时间维度限制在一个有限的范围内，从而更好地进行数据分析。